python - DeepPavlov elmo 太慢了

Question

我尝试使用 DeepPavlov 库中的 ELMO 嵌入（ElmoEmbedder）。它的工作速度非常慢，每 100 句 64 秒。

我试图增加 mini_batch_size，但它并没有加快算法。

是否可以加速 ElmoEmbedder？

标签： pythondeep-learningnlpword-embedding

Answer 1

mini_batch_size只有在 GPU 上运行模型时，才可能对性能产生重大影响。

如果您没有 GPU，请尝试使用Google Colab。它为您提供对 GPU 和 TPU 的免费访问。

!pip install deeppavlov

from deeppavlov.deep import find_config
from deeppavlov.core.commands.infer import build_model
config_path = find_config('elmo_ru-wiki')
model = build_model(config_path, load_trained = True, download = True)
a = model(data)

不要忘记启用 GPUEdit->Notebook settings->Hardware accelerator