spring-boot - Spring批处理异常后保持写入记录
问题描述
我有一个春季批处理作业,我必须检查所有文件行中的 id 是否相等,并且应该跳过包含不同 id 的行。我所做的是保存第一条记录,然后比较每行的 id,如果 id 不同,则抛出运行时异常,但由于某种原因,spring batch 工作,直到它得到“要排除”的行,然后重复写入通过在异常上写入所有记录来处理。这就是我的意思:
sms [ Id_Campaign=5598661]
sms [ Id_Campaign=5598661]
sms [ Id_Campaign=5598661]
sms [ Id_Campaign=5598661]
sms [ Id_Campaign=5598661]
2021-06-03 11:12:28.466 ERROR 41416 --- [ scheduling-1] tn.itserv.batch.SkipLinesListener : An error occured while writing the input Force rollback on skippable exception so that skipped item can be located.
sms [ Id_Campaign=5598661]
sms [ Id_Campaign=5598661]
sms [ Id_Campaign=5598661]
sms [ Id_Campaign=5598661]
sms [ Id_Campaign=5598661]
sms [ Id_Campaign=7798661]
我的步骤:
@Bean
public Step loadFiles() throws IOException {
return stepBuilderFactory
.get("step1")
.<FileModelIn, FileModelOut>chunk(100)
.reader(multiResourceItemReader())
.processor(batchProcessor())
.writer(batchWriter())
.faultTolerant()
.skipPolicy(skipLinesListener())
.noRetry(RuntimeException.class)
.noRollback(RuntimeException.class)
.listener(MyStepListner())
.build();
}
跳过政策:
public class SkipLinesListener implements SkipPolicy {
private static final int MAX_SKIP_COUNT = 10;
private static final Logger logger = LoggerFactory.getLogger(SkipLinesListener.class);
@Override
public boolean shouldSkip(Throwable t, int skipCount) throws SkipLimitExceededException {
if (t instanceof RuntimeException && skipCount < MAX_SKIP_COUNT )
{ RuntimeException ex=(RuntimeException)t;
logger.error("An error occured while writing the input "+ ex.getMessage());
return true;
}
if (t instanceof FlatFileParseException && skipCount < MAX_SKIP_COUNT ) {
FlatFileParseException ex = (FlatFileParseException) t;
logger.error("An error occured while processing the "+ ex.getInput());
return true;
}
return false;
}
}
我不知道为什么会出现这种行为,我错过了什么吗?我在 itemwriter 类中抛出异常
@Override
public void write(List<? extends FileModelOut> items) throws Exception {
List<FCCampaignModel> campaigns=new ArrayList<FCCampaignModel>();
List<sms> smsList=new ArrayList<>();
FCCampaignModel firstLine=cmsDaoProxy.addCampaign(items.get(0).getFcCampaignModel());
for (FileModelOut fileContent : items) {
if (fileContent.getFcCampaignModel().getId_Campaign().equals(firstLine.getId_Campaign()))
{
smsRepository.save(fileContent.getSms());
}
else throw new RuntimeException("different id campaign detected : "+fileContent.getFcCampaignModel().getId_Campaign());
}
解决方案
您的异常被声明为可跳过的异常,因此当它从项目编写器中抛出时,Spring Batch 将逐项扫描块,即一项一项地重新处理项目,每个项目都在自己的事务中。
这是因为项目是分块写入的(即批量模式),如果在批量写入操作过程中发生异常,Spring Batch 无法知道是哪个项目导致了问题,因此会一一重试。您可以在示例模块中找到示例:块扫描示例。
推荐阅读
- r - R - 为列表中的每个数据框添加一个新 ID(使用 apply 或 dplyr)
- mysql - 在 mysql 中使用限制和更新
- java - 使用 Java 的相互身份验证(带客户端证书 PFX 文件)并且无法访问环境
- node.js - 使用 X-Ray-Scraper 刮取背景图像
- javascript - 在根问题上反应嵌套路由
- java - 如何将测试生成的源保留在生成的源目标文件夹之外
- python - 在 python 中使用分类 x 和 y 轴绘制数据
- python - CSV 文件字段重新格式化
- haskell - 如何在函数内打印变量?
- r - 在R中向ggsurvplot添加一条垂直线