tensorflow - 获取BERT最后4层的输出(Tensorflow)
问题描述
我正在阅读 Andreas Poyiatzis 发表在向数据科学网站上的文章。下面是文章的链接。
生成的嵌入是通过使用 TPU。但我想在不支持 TPU 的本地机器上运行它。有人可以让我知道如何在 CPU 上运行相同的代码吗?您的帮助将不胜感激。谢谢!
解决方案
在链接之后,代码说如果没有可用的 TPU,Estimator 会退回到 CPU 或 GPU。只要确保你use_tpu = False
在它出现的任何地方设置:
# If TPU is not available, this will fall back to normal Estimator on CPU
# or GPU.
estimator = tf.contrib.tpu.TPUEstimator(
use_tpu=False,
model_fn=model_fn,
config=run_config,
predict_batch_size=BATCH_SIZE,
train_batch_size=BATCH_SIZE)
也直接在model_fn_builder
调用中。像这样:
model_fn = model_fn_builder(
bert_config=bert_config,
init_checkpoint=INIT_CHECKPOINT,
layer_indexes=layer_indexes,
use_tpu=False,
use_one_hot_embeddings=True)
推荐阅读
- javascript - javascript firebase云功能:如何修复require未定义错误
- reactjs - 无法在 React 最终形式中使用 forwardRef
- vue.js - Nuxt.js 的 SSR 兼容组件库
- reactjs - Redux thunk - 错误 · 动作必须是普通对象。使用自定义中间件进行异步操作,即使调度具有键类型的对象
- xpath - 有没有办法在 Visual Studios Code 中执行 XPath 查询?
- javascript - 无法从表单数据中提取键值对
- google-cloud-platform - 云作曲家 Airlfow DAG 延迟问题
- c - c中的平均值,不超过值数据类型?
- node.js - 错误:html-webpack-plugin 无法缩小生成的输出
- scipy - 如何将 pygam 模型转换为 SciPy BSpline