首页 > 解决方案 > 为 BERT 或 Transformer 定制 TensorFlow Serving

问题描述

我想自定义 BERT 或 Transformer 的 serving_default 以将输入设为字符串类型并将预测设为字符串类型。所以模型的输出应该根据字典转换成句子。此自定义服务是否有一些参考代码或示例?我会很感激你的回答,并请分享你的想法。

标签: tensorflowtensorflow2.0tensorflow-servingbert-language-modeltransformer

解决方案


推荐阅读