首页 > 解决方案 > 如何在超参数调优期间最好地保存模型并编写摘要?

问题描述

在超参数调整期间,为每次运行保存模型和写入会话的最佳方法是什么?目前我有一堆模型和摘要保存在“训练”和“验证”目录下,我不知道哪个是从哪个超参数生成的。也很难确定哪个模型为验证集生成了最佳结果。

张量板图看起来相当混乱。是否有一种干净的方式来记录和检查运行(来自超参数调整)?我不知道的任何技巧或方法使它变得容易?或者你们会推荐使用mlflow、comet 等。提前致谢!

张量板图

标签: tensorflowmachine-learningdeep-learning

解决方案


我没有使用您提到的任何工具,但这是我实现超参数和结果记录的方式。

只需pandas DataDrame使用超参数名称和值创建一个甚至是基本字典。在相同的数据结构中,添加使用这些超参数值获得的性能指标。这样,参数和度量可以相互关联。

然后将其保存为CSV文件,以后可以加载并用于分析和可视化目的。

关于模型本身,可以在名称中添加一个标识符,该名称可以与特定的超参数组合相关联。

这是一种简单、不复杂的方法,但对我有用。


推荐阅读