基于LSTM语言模型的文本生成
目录
1. 文本生成
1.1 基于语言模型的文本生成
基于马尔科夫的语言模型且在数据驱动下的自然语言生成。利用数据和文字间的对齐语料，使用N-gram语言模型生成文本。在语言模型上加入句法分析（关系抽取、实体识别、依存句法、短语结构等）还可以显著改善生成效果。因为这些都建立在句子理解的基础上，文本生成的过程需要考虑历史信息，处理长距离的依赖关系情况，如语义连贯性。
标准定义：对于语言序列\(w_1,w_2,…… w_n\), 语言模型就是计算该序列出现的概率，即
\[