python - Keras 可以预取 tensorflow Dataset 之类的数据吗?
问题描述
在 TensorFlow 的 Dataset API 中,我们可以dataset.prefetch(buffer_size=xxx)
在 GPU 处理当前批次的数据的同时预加载其他批次的数据,因此,我可以充分利用 GPU。
我将使用 Keras,想知道是否keras
有类似的 API 让我充分利用 GPU,而不是串行执行:读取批处理 0->处理批处理 0->读取批处理 1->处理批处理 1->。 ..
我简要浏览了keras
API 并没有看到预取的描述。
解决方案
如果您调用> 1 fit_generator
, workers
use_ multiprocessing=True
,它将预取 queue_size 批次。
来自文档:max_queue_size:整数。生成器队列的最大大小。如果未指定,max_queue_size 将默认为 10。
推荐阅读
- javascript - 常量 clickedElement 不返回值
- amazon-s3 - SNS 和 SQS 访问策略错误
- azure - Azure App Service 共享托管中断容器启动
- testing - 如何在 TESTNG 中实现控制反转。IOC 的 testng 示例中是否有测试注释?
- apache-kafka - 为什么从 Kafka JDBC 源连接器生成的密钥以 L 为前缀?
- google-cloud-platform - 是否可以通过 project_id 或 subscription_id 以外的标签过滤 Google PubSub 的 pubsub_subscription?
- bash - 如何使用 Windows cmd 行中的 vboxmanage cli 将参数传递给 shell/bash 脚本?
- postgresql - 我如何验证重叠的日期
- ios - 在 MapKit 中点击我的位置时执行操作
- matlab - 如何从静态方法访问属性