python - Multiprocessing.dummy.Pool 只有一名工作人员在运行
问题描述
我创建了一个类,其中存储了几个大字典和一个方法,该方法将文件作为输入并使用字典中包含的信息对其进行处理。
现在,我必须处理的文件总数约为 18000,因此我选择以multiprocessing.dummy.Pool
这种方式使用 a:
with dummy.Pool(processes=50) as pool:
failed = [x for x in pool.imap(export.get_uniref_uniprotkb_from_panproteome, species, chunksize=300)]
我注意到的htop
是,主进程正确生成了 50 个线程,但即使我更改了块大小,也只有一个处于运行状态。
解决方案
推荐阅读
- python - 如何将 qraphicsitems 的位置保存和加载到 qraphicscene 或(正确地显示项目)
- machine-learning - 为什么循环学习率调度器会导致性能变差?
- encryption - 如何从 dll 文件中检索加密密钥?
- mysql - 尽管更改了端口,但 Mysql 服务器未在 xampp 上启动
- java - 我想将数据从一个表传输到另一个表,但它给出了这个错误
- sql-server - 减去组中的值
- angular - 使用 .NET Core Web API 中的服务器发送事件来监控表中的数据更新和刷新角度组件
- blazor - Intellisense 无法识别部分类
- python - 如何使用python对此进行编程?(if-else, while , 继续)
- aws-lambda - dynamodb keyconditionexpression vs filterexpression 成本?