首页 > 解决方案 > 如何在 python 中使用位移指定 3GB?

问题描述

我在 Jetson TX2 中分配内存。它有 8GB 的​​ RAM。我需要指定可用于 TensorRT 的最大 GPU 内存大小。

max_workspace_size_bytes =(必须是整数)

我已经看到了一些使用这些“值”的例子:

1<<20 = 1048576 (decimal)
      = 0001 0000 0000 0000 0000

1<<30 = 1073741824
      = 0001 0000 0000 0000 0000 0000 0000

但是如果我有 8GB 的​​ RAM,“1048576”或“1073741824”怎么能代表 RAM 的一部分呢?

我用它来分配 3GB:

3*(10**9)

但我想了解表示数字的另一种方式。

标签: python-3.xbit-manipulationtensorrt

解决方案


你可以总结一下。

((1<<30)+(1<<31))

或按位或它们。

((1<<30) | (1<<31))

或者移动一个大于 1 的值,例如 3。

(3<<30)

推荐阅读