首页 > 解决方案 > 有没有办法在 python nltk 中反转词干?

问题描述

我有一个 NLTK/python 中的词干列表,并希望获得创建该词干的可能单词。

有没有办法在 python 中获取一个词干并获取一个词干列表?

标签: pythonnltkstemming

解决方案


据我所知,答案是否定的,并且根据词干分析器的不同,可能很难想出详尽的搜索来恢复词干规则的效果,并且结果大部分都是无效的词。例如对于波特词干分析器:

from nltk.stem.porter import *
stemmer = PorterStemmer()
stemmer.stem('grabfuled')
# results in "grab" 

因此,反向函数将生成“grabfuled”,因为“-ed”和“-ful”后缀在词干处理过程中被连续删除。但是,给定一个有效的词典,您可以执行以下独立于词干提取方法的操作:

from nltk.stem.porter import *
from collections import defaultdict

vocab = set(['grab', 'grabbing', 'grabbed', 'run', 'running', 'eat'])

# Here porter stemmer, but can be any other stemmer too
stemmer = PorterStemmer()

d = defaultdict(set)
for v in vocab:
    d[stemmer.stem(v)].add(v)  

print(d)
# defaultdict(<class 'set'>, {'grab': {'grab', 'grabbing', 'grabbed'}, 'eat': {'eat'}, 'run': {'run', 'running'}})

现在我们有一个字典,可以将词干映射到可以生成它们的有效词。对于任何词干,我们可以执行以下操作:

print(d['grab'])
# {'grab', 'grabbed', 'grabbing'}

为了构建词汇表,您可以标记语料库或使用nltk 的内置英语单词词典


推荐阅读