gpu - 我想在 tensorflow lite 中操作使用 gpu 的方式，我可以为此学习什么

Question

首先，让我解释一下我必须做什么。我的开发环境是 Tizen OS。可能你不熟悉，反正这个操作系统使用基于 Linux 内核的 redhat 并针对移动设备、电视等。我的目标设备由 exynos 5422 和 arm mali-t628 组成。我的主要工作是实现一些 gpu 库，让 tensorflow lite 的操作可以使用该库。我继续构建并安装 tensorflow lite 作为 rpm 包文件。我在谷歌上搜索了很多次关于 tensorflow 和 gpu 的信息。并获得一些关于 cuda 的无用信息。我没有看到任何关于我的案例的信息（tizen 和 mali gpu）。我认为 linux 有像 cpu 或库这样的 gpu 指令.. 但我找不到它们。你能建议搜索关键字或文件吗？

标签： gputensorflow-lite

Answer 1

CUDA 适用于 NVidia GPU。Mali 不是 NVidia 的，而是 ARM 的。所以你不能在给定的硬件中使用 CUDA。此外，如果你想要CUDA，你最好放弃Tensorflow-lite并使用Tensorflow。

1. 如果您想使用 CUDA，请获得支持 NVidia GPU 的硬件（例如，带有 NVidia GPU 的 x64 机器）。请注意，您可以在带有 x64+NVidia GPU 的 Tizen 中使用 Tensorflow-GPU 和 CUDA/CUDNN。您只需要注意 nvidia GPU 内核驱动程序版本和用户空间驱动程序版本。由于 NVidia 的 GPU 用户空间驱动程序和 CUDA/CUDNN 是静态构建的，因此其 Linux 驱动程序与 Tizen 兼容。（我已经使用 NVidia 驱动程序版本 111 在 Tizen 中测试了 tensorflow-gpu、CUDA/CUDNN ......可能在 2017 年冬天）
2. 如果您想在给定的硬件中使用 Tizen/Tensorflow-lite，请忘记 CUDA。