dask - VersionMismatchWarning:发现不匹配的版本 - blosc
问题描述
我无法在 Windows 上执行“pip install blosc”。我在 Windows 上开发,并让我的工作人员和计划在带有 dask-docker 的 vm 上运行。有人有想法么?似乎 dask 真的一直想要所有的 linux。
blosc +-----------+---------+ | | 版本 | +-----------+---------+ | 客户 | 无 | | 调度器 | 1.9.1 | | tcp://127.0.0.1:38323 | 1.9.1 | +------------------------+---------+
(venv) D:\dev\code\datacrunch>pip install -U blosc 收集 blosc 使用缓存的 blosc-1.9.1.tar.gz (809 kB) 安装构建依赖项...完成获取构建轮的要求...完成正在准备轮子元数据...完成为收集的包构建轮子:blosc 为 blosc 构建轮子(PEP 517)...错误错误:命令错误退出状态为 1:命令:'d:\dev\code\netsense.support\ datacrunch\venv\scripts\python.exe''d:\dev\code\netsense.support\datacrunch\venv\lib\site-packages\pip_vendor\pep517_in_process.py' build_wheel 'C:\Users\H166631\AppData\Local \Temp\tmpwgt4t634' cwd: C:\Users\H166631\AppData\Local\Temp\pip-install-r1476vwy\blosc 完整输出(162 行):不搜索命令行中给出的未使用变量。-- C 编译器标识未知 CMakeLists.txt:3 (ENABLE_LANGUAGE) 处的 CMake 错误:找不到 CMAKE_C_COMPILER。
解决方案
压缩必须在整个 dask 集群中匹配,并且由于您没有安装 blosc,您会遇到一些问题。附带说明一下,正在努力改进PR #3742中的错误消息。我可以想到两个解决方案:
- 切换到 conda 而不是 pip (尽管这对您来说可能不是首发)
- 使用不同的压缩方式(您已经安装或可以轻松安装在您的机器上)
对于 2. 您可以通过编程方式设置压缩,如下所示:
In [1]: import dask
In [2]: import distributed
In [3]: dask.config.set({'distributed.comm.compression': 'lz4'})
或者在 CLI 上:
DASK_DISTRIBUTED__COMM__COMPRESSION=zlib dask-worker
或者使用 dask 配置文件。有关更多信息,我建议阅读:https ://docs.dask.org/en/latest/configuration.html和https://docs.dask.org/en/latest/configuration-reference.html#distributed。 comm.compression
推荐阅读
- makefile - 如何在使用 make 规则的变量提供先决条件的同时处理文件名中的空格?
- react-native - axios 和 android 模拟器的网络错误
- python - 使用相同键将多个字典的值添加到另一个字典的正确方法
- php - 这种类型的路由在 CodeIgniter 中是可能的吗?
- java - C++ 与 Java 记忆差异
- python - 从 GroupBy Frame Pandas 创建字典列表:Python
- c# - 使用第三方库将 windows 项目迁移到 VS 2017
- elasticsearch - Elasticsearch 按嵌套聚合结果过滤
- python - 是否有一个模仿 A[[i,j],...][...,[a,b,c]] 但不是只读的 numpy 函数?
- xml - 春季集成:如何汇总所有新电子邮件并进行计数