python - GPU 的 Python 编码
问题描述
我对 Python 很陌生,我必须处理大约 20GB 的数据文件。目前我想了解是否可以编写任何 Python 代码(如下所示)并在 GPU 上运行它。实际上我只需要打开这些文件,制作如下:
file=open(fnTar,"w")
for iLine in List:
iLine=iLine.replace(“\\”,””)
file.write(iLine)
file.close()
我知道有像 Dask 这样的高级 API 可以更有效地处理大文件,但将来我还需要以不同的方式处理数据(一些计算)。是否可以在不更改原始脚本的情况下在 GPU 上运行此类代码?就像是:
Run this on GPU:
file=open(fnTar,"w")
for iLine in List:
iLine=iLine.replace(“\\”,””)
file.write(iLine)
file.close()
我的理解是,即使使用 CUDA 也需要对代码进行一些额外的更改,如果使用像 numpy 这样的模块,您必须找到为 CUDA 开发的等效模块。所以这可能也不是我正在寻找的简单快捷的解决方案。
解决方案
根据我对您问题的理解,这可能不是您想要的。GPU 适合进行矩阵操作,而不是显式处理大文件。为此,您真的只需要更多的内存或一些分块处理它的方法。
推荐阅读
- javascript - luxon 遇到问题,计算两个日期之间的时间差
- html - 如何在html标签中调用python函数
- git - 如何将master移动到git中的当前头部?
- arrays - 使用 jq 将命名键转换为键值对
- github - GitHub Desktop - 如何更改默认存储目录?
- reactjs - Laravel:将 uuidv4 保存到数据库
- sql - 如何创建动态 blob 链接服务?
- java - RecyclerView 分页
- mysql - 从数据库中选择并将结果限制在日期时间相同的地方
- node.js - Facebook 检测到“应用程序”未使用安全连接来传输信息