首页 > 解决方案 > Neo4j:导入 csv 最有效的解决方案是什么?

问题描述

我有以下代码,我需要使用(如果存在)更有效的代码,因为我的 csv 中有很多行,而 Neo4j 需要太多时间来添加所有行。

using periodic commit 1000
load csv with headers from "file:///registry_office.csv" as f 
 fieldterminator "|" 
 WITH f AS a
WHERE NOT a.JobName IS NULL and NOT a.JobCode IS NULL and NOT 
 a.JobDescription IS NULL and NOT a.JobLongDescription IS NULL 
 AND NOT a.Long_Description IS NULL AND NOT a.Position IS NULL 
 AND NOT a.birthDate IS NULL AND NOT a.startWorkingDate IS NULL
merge (b:Job{Name:a.JobName, Code:a.JobCode, Job:a.JobDescription, 
 JobLongDescription:a.JobLongDescription})
merge (c:Person{PersonName:a.PersonName, PersonSurname:a.PersonSurname, 
 CF:a.CF, birthDate:a.birthDate, address:a.address, age:a.age, 
 married:a.married, birthPlace:a.a.birthPlace})
merge (b)<-[:RELATED_TO{startWorkingDate:a.startWorkingDate, 
 JobPosition:a.Position}]-(c) 
return *;

你对我有什么建议吗?

标签: csvgraphneo4jcypherload

解决方案


导入工具通常比LOAD CSV.

但是,您的查询表明每个 csv 行都以模式 (b)<--(c) 结尾,因此您需要对此 csv 进行一些预处理...首先过滤空值,然后拆分为 3 个 csv (2个节点,1个关系)。

为此,您有 3 个主要选项:

  • Excel - 不适用于大型 CSV
  • CLI 工具- 类似于csvkit
  • 程序- 如果您对 Python 或 JavaScript 没问题,您将能够在 20m 左右完成此操作。

推荐阅读