首页 > 解决方案 > 如何使用java使20个线程将数据写入csv文件

问题描述

我在 mongo-db 中有大量数据(数百万条记录)。我需要从一个集合中读取数据,然后执行一些过滤过程,然后再次匹配来自 mongo-db 中另一个集合的数据。我必须在 csv 文件中显示数据(我在这里使用CsvWriter),我可以将其作为单个程序/进程来完成,但这需要很多时间(5 到 6 小时)。我想使用线程。

我的要求是:

假设如果我在 db 中有 1000000 条记录,那么 20 个线程必须分配为每个线程 5k。如果有 2000000 条记录,那么每个线程 10k。CsvWriter我们还可以同时使用 20 个线程将数据推送到 csv 文件中吗?

标签: javamultithreadingmongodbcsvjava-io

解决方案


推荐阅读