deep-learning - 在 Transformer 模型的解码器中应用 GloVe、fasttext 等预训练词嵌入是否会提高性能？
问题描述
我正在尝试用一些预训练的词嵌入（例如 GloVe、fasttext、...
我只是想知道这真的可以帮助模型吗？
我之前尝试在解码器中使用上下文词嵌入（BERT）。结果非常荒谬。波束搜索的所有输出为：
</eos><eos><eos><eos><eos><eos>
解决方案
推荐阅读
- javascript - 如何调整 HTML 页面中单个元素的大小，以使其余元素适合窗口而不滚动？
- javascript - 从本地 mp3/mp4 获取 base64 内容
- python - 如何使用 Python 装饰器来优化编写做类似工作的不同方法？
- python - 我不能使用库运行任何项目？
- html - 表构造：非常简单的初学者问题
- r - 将 glm 系列传递给函数并使用似然比检验比较两个拟合模型
- php - Laravel 6 目标类 [App\Http\Controllers\Admin\Tracker] 不存在
- svelte-3 - 听众喜欢吗
- azure - 安装在本地计算机上的移动代理使用哪些端口号与 Azure ASR 中的进程服务器进行通信？
- kotlin - 如何从字符串 Kotlin 的开头删除空格？