pre-trained-model - 我正在寻找不同领域的预训练模型。前 BioBert 或 FinBert

Question

除了 BioBert 和 FinBert 之外，是否还有其他可用于不同领域的预训练模型

标签： pre-trained-model

Answer 1

你的问题有点含糊。但是，您可以为下游任务（NER、RE、QA）微调预训练模型，例如 BERT。要回答您的问题，您会发现以下内容很有趣：SciBERT https://arxiv.org/abs/1903.10676和 Bertje https://arxiv.org/abs/1912.09582