windows - Windows 上的 DeepStream 推理
问题描述
如果我在 Linux 上使用 NVidia DeepStream SDK 训练模型,我可以在 Windows 上使用它进行推理吗?
我知道 SDK 不适用于 Windows,但是否有必要进行推理?
我更喜欢没有 docker 的解决方案,但也对 dockered 版本感兴趣。
解决方案
首先,据我所知,DeepStream 只为您提供必要的代码工具,以便在 Nvidia 硬件(GPU、jetson)上以优化的方式执行推理。
这意味着它不是培训工具。为此,您必须使用 TLT(迁移学习工具包),我目前理解的称为 TAO(训练、适应和优化)。
要构建基于 DeepStream 的应用程序,您需要 SDK。但是,对于部署,最推荐的路线是 Nvidia 在https://ngc.nvidia.com/catalog/containers提供的 Docker 映像。在后一种情况下,不需要 SDK,因为映像具有运行 DeepStream 应用程序所需的一切。
推荐阅读
- graphql - graphql - 参考突变中的其他字段
- flutter - 将数据从另一个类导入到 Stateful Widget
- javascript - 单击主页联系人博客和服务页面时,如何在菜单前显示 div?
- typo3 - TYPO3 - 创建新的 sys_category 时“在页面 [uid] 的根行中找不到伪站点”
- python-3.x - 从容器类中删除元素
- c# - 启动和异步即发即弃呼叫的正确方法?
- ios - How to remove all `^M` characters from an iOS project in Mac copied from Windows?
- elasticsearch - ElasticSearch:给定一个文档和一个查询,相关性得分是多少?
- javascript - 如何在javascript中获取GMT的时区偏移量(如GMT+5:30)
- reactjs - 在 React 中使用本地存储隐藏一些元素