首页 > 解决方案 > 序列分类器不适用于长句子

问题描述

我有序列分类问题,我希望我的 RoBERTa-base-sequence 分类器预测特定问题的答案是有效还是无效。通过在 Hotpot QA 和 Squad 上训练这个https://huggingface.co/iarfmoose/bert-base-cased-qa-evaluator转换器模型,我已经能够为 1 或 2 个标记的答案做到这一点。但是当我们想要对较长的答案(即具有 3 个或更多标记的答案)进行分类时,问题就出现了。RoBerta 序列分类器无法学习更长的序列。有没有办法在更长的序列答案上训练它?

标签: pythonnlpartificial-intelligencehuggingface-transformershuggingface-tokenizers

解决方案


推荐阅读