database - Clickhouse - OOM - Clickhouse数据导入功能执行时,程序被系统杀死
问题描述
当我执行Clickhouse
数据导入功能时,程序被系统杀死了。
执行命令如下:
clickhouse-client --user default --password xxxxx --port 9000 -hxxx --database="bds" --input_format_allow_errors_ratio=0.1 --query="insert into ... FORMAT CSV" < /1.csv
报告的错误是:
[2478416.927226] Out of memory: Kill process 19696 (clickhouse-serv) score 12 or sacrifice child [2478416.928855] Killed process 19696 (clickhouse-serv), UID 0, total-vm:46668916kB, anon-rss:1008480kB, file-rss:0kB, shmem-rss:0kB
数据文件有122g,服务器内存128G,如何让Clickhouse
命令合理导入,希望大家能帮帮我,谢谢!
解决方案
最有可能是一个错误。你用的是什么CH版本?
尝试添加参数--input_format_parallel_parsing=0 --optimize_on_insert=0
--input_format_parallel_parsing arg Enable parallel parsing for some data formats.
--optimize_on_insert arg Do the same transformation for inserted block of data as if merge was done on this block.
推荐阅读
- node.js - Node Js PDF Phantom ENOENT
- azure-devops - Azure Artifacts - 某些用户访问组织范围的源时出现 401 未经授权的错误
- go - 为什么我的所有 goroutine 不执行?需要解释
- azure-active-directory - Microsoft Graph 待办事项 - 无需用户登录 - 可能吗?
- python - 我有一个值列表,我想迭代地将键值对附加到 python 字典
- amazon-web-services - 使用 AWS Athena 分析 DynamoDB 数据
- java - 如何在 Dart 或 Java 中使用给定数组查找范围内的最小缺失数
- android - Kotlin - OnSharedPreferenceChangeListener
- android - 尝试不显示当我单击表单的 EditText 之一时显示的按钮
- node.js - 无法捕获并记录来自 axios 请求的错误