python - 保存 TensorFlow 模型仅用于预测的最节省空间/内存的方法？

Question

我有一个巨大的 Tensorflow 模型（检查点文件为 4-5 gbs）。我想知道除了检查点方式之外，是否还有另一种方式来保存 Tensorflow 模型，即节省空间/内存。

我知道检查点文件还保存了所有优化器梯度，所以也许这些也可以被删除。

我的模型很简单，只有两个embeddings矩阵，或许我只能直接把那些矩阵保存到.npy中？

标签： pythontensorflow

Answer 1

您想要对检查点执行的操作是冻结它。从 tensorflow 的官方文档中查看此页面。

冻结过程会从检查点中去除所有不用于前向推理的无关信息。Tensorflow 为其提供了一个易于使用的脚本freeze_graph.py。