python - 为什么 keras 中的 model.fit 函数显着增加 RAM 内存?
问题描述
我使用 open_memmap 函数加载我的数据,它需要 5GB RAM 内存。然后我编译具有参数的模型:89,268,608,它不占用任何 RAM 内存。目前我的批量大小为 200,输入图像的形状为 (300,54,3)。
我的问题是当我在 keras 中调用 model.fit 函数时,我的 RAM 内存从 5 GB 增加到 24GB。我的问题是为什么?
当我尝试使用不同的批量大小时,什么都没有改变,仍然占用了 23 GB 的 RAM?
如果有人可以向我解释发生了什么,我将不胜感激,
谢谢!
解决方案
Keras 的fit
方法一次将所有数据加载到内存中,这意味着更改批量大小不会影响它占用的 RAM。看看使用专为大型数据集设计的fit_generator 。
推荐阅读
- c++ - 如何使用 C++ 将数组按字母顺序排序到新数组中?
- python - For 循环只取列表中的最后一个元素
- sql - 如何修复sql中select语句中的子查询
- symfony - 缺少控制台命令参数时显示问题
- reactjs - 如何从组件 B(功能组件)中的事件处理程序呈现组件 A?
- javascript - 路由器在同一页面上渲染组件,而不是在新页面中渲染
- java - 是否有一个漂亮的解决方案来禁用所有电子邮件通知?
- mysql - 正则表达式无效字符长度
- reactjs - React Hook 延迟了 useEffect 触发?
- bootstrap-4 - How to float nav-item to the right when links collapsed