c# - .Net - 如何在并行批处理或多个实例中处理大量 MongoDB 文档
问题描述
我需要每天从一个集合中分批检索和处理大约 200k 个文档(我尝试将所有内容加载到列表中,但这是个坏主意)。我需要做的就是获取文档,提取记录并在本地存储在文本文件中。我正在尝试这个:
var options = new FindOptions
{
BatchSize = mySize
};
using (var cursor = collection.Find(filter,
options).ToCursor())
{
while (cursor.MoveNext())
{
var batch = cursor.Current.ToList();
// my extraction logic
}
}
这似乎对我有用,我想知道如何在多个任务或实例级别运行批处理以提高性能。另外,除了使用游标之外,还有更好的方法来加载和处理文档吗?
解决方案
推荐阅读
- powershell - 与使用分号的单行运行相比,逐行运行会产生奇怪的结果
- java - 使用代理获取 Azure Blob 存储值 Java
- javascript - 对使用 auth0 进行身份验证的 POST 服务实施 Jest 测试
- sql - 在单独的邮政编码列表中过滤地址列表
- r - RStudio 中 Rfacebook 包的 Facebook API v3.2 连接问题
- firebase - 使用 firebase.auth() 获取特定用户的个人资料或使用自定义集合来存储和检索个人资料信息
- android - 函数的用途是什么:setRequestPermisssionsResult?
- javascript - 如何在 Selenium IDE 中保存包含数字的字符串的一部分?
- c - 阻塞模式是什么意思?
- oracle - Oracle APEX - 在动态 pl/sql 区域内使超链接变为粗体