python - transformers.TrainingArguments 中的“output_dir”是什么意思？

Question

在 huggingface 站点文档上，它显示“将写入模型预测和检查点的输出目录”。我不太明白这是什么意思。我必须为此创建任何文件吗？

标签： pythonbert-language-modelhuggingface-transformersray-tune

Answer 1

Huggingface 模型的训练器可以节省很多东西。最重要的是：

• 使用的分词器的词汇（作为 JSON 文件）

• 模型配置：一个 JSON 文件，说明如何实例化模型对象，即架构和超参数

• 模型检查点：训练期间保存的模型的可训练参数

• 此外，它可以保存训练期间使用的指标值和训练状态（因此可以从同一个地方恢复训练）

所有这些都存储在output_dir目录中的文件中。您不必提前创建目录，但目录的路径至少应该存在。