首页 > 解决方案 > 将 RTX3090 与 Haystack 一起使用

问题描述

当前版本的 Haystack (deepset.ai) 支持 GPU,但它没有使用足够新的 CUDA 支持 (>= 11.1) 来与我的 RTX3090 一起工作。我可以卸载当前版本的 torch 并重新安装支持 cu111 吗?或者其他组件是否也与早期版本的 CUDA 库相关联?

标签: nlpgpunvidiatorchhaystack

解决方案


我安装了安装了 CUDA 11.2 的 Torch 1.9.0,它可以与 FARM 和 haystack 的主分支一起正常工作。让我引导您完成如何到达那里的步骤。

问题是 haystack 0.9.0 的最新版本具有 FARM 0.8.0 作为依赖项,它将火炬依赖项修复为 <1.9。但是,如果您从其主分支安装 haystack,您可以删除固定的 FARM 0.8.0 依赖项并从其主分支安装 FARM。在 FARM 的当前 master 分支上,torch 依赖被放宽到 <1.10。

我想到了以下步骤,首先安装 FARM,然后从他们的主分支安装 haystack:

  git clone https://github.com/deepset-ai/FARM.git
  cd FARM
  pip install -r requirements.txt
  pip install --editable .
  cd ..
  git clone https://github.com/deepset-ai/haystack.git
  cd haystack

  #now edit requirements.txt and remove line with farm==0.8.0

  pip install --editable .

请注意,当 1.0.0 版本的 haystack 发布时,所有这些都不是必需的,这将在 2021 年 9 月下旬的未来 3 周内发布。也许在此之前还会有一个小的 0.9.1,这应该解决您的问题,以便您可以简单地使用pip install farm-haystack.


推荐阅读