python - 由 tf.data.Dataset.from_tensor_slices 填充的 tf.data.Dataset 是否会制作数据的深层副本?
问题描述
根据 tensorflow,一个 tf.data.Dataset 是一个
“数据集可用于将输入管道表示为元素的集合(张量的嵌套结构)和作用于这些元素的转换的“逻辑计划”。”
当我使用 tf.data.Dataset.from_tensor_slices 导入数据时
“创建一个数据集,其元素是给定张量的切片。”
但是,我不清楚这些嵌套张量是否填充了硬复制的数据、使用指针访问数据或通过引用工作。我主要担心使用 tf.data.Dataset.from_tensor_slices 导入数据是否会对我的数据进行硬拷贝,以免内存不足。
我尝试通过从相同的输入数据制作两个 tf.data.Datasets 来用一个小数据集对此进行基准测试。我只是查看了正在运行的程序使用了多少内存,在某些情况下它是数据大小的一半,而在第二种情况下(使用一半数据)我得到了奇怪的结果。
解决方案
推荐阅读
- android - 获取 Post Request Retrofit OkHttp 的 URL Header 响应
- python - Django“执行系统检查”运行速度很慢
- javascript - 增加数组内对象的计数
- python - Python tkinter - 克隆根窗口属性并将它们应用于顶级窗口
- magento - 表单未在 magento 1.9.0.1 上提交,提交时出现 404 错误页面
- regex - 如何连接具有相同名称开头的文件?
- javascript - 如何实现循环额外条件
- asp.net-mvc-4 - mvc5中年龄之间的数据收集
- javascript - 将标头作为参数传递给 javascript 发布请求 (react-native)
- laravel - Laravel:将异常从 try/catch 块传递给处理程序