首页 > 解决方案 > Tensorflow:model.fit() 第一个 epoch 需要很长的初始化时间

问题描述

非常感谢您阅读我的问题。如标题所述,因为我似乎无法在其他地方找到很多人分享。我可以在这里问一下,模型开始的通常平均时间是多少initialise model.fit()

这是等待时间blank
在此处输入图像描述

到模型真正开始拟合first stepfirst epoch

在此处输入图像描述

当我学习 tensorflow 构建一些更复杂的模型时,我等待它开始fit()的时间会更长。我没有使用任何抽搐层,但有一些循环RNN层。

运行noteager mode,是否有任何新手通常忽略的技巧或配置实际上可以优化流程?

即我会从写作中受益吗custom trainning layer custom fit and backprog ?,这真的不太难,但我没有尝试过,我也用谷歌搜索过,看到人们building tensorflow from source看到了更好的表现。我可以排除 tensorflow 回溯函数的可能性,我尝试了 input_signature 并没有看到任何改进。

我正在运行张量流Ubuntu 20.04; tf.__version__ 2.5.0;

实际上通常的等待时间应该是多少?对于中等规模的神经网络,可能有 10 层,总参数约为 1500 万。建立模型后的训练时间per epoch很好。```

目前每个时期约为 9 分钟,但在第一步之前its preparation constructing graph I guess大约需要 1 小时 10 分钟

非常感谢

标签: pythontensorflowkeras

解决方案


推荐阅读