nlp分词词性表大全,结巴分词的词性都代表什么意思?
发布于 作者:苏南大叔 来源:程序如此灵动~ 我们相信:世界是美好的,你是我也是。平行空间的世界里面,不同版本的生活也在继续...
自然语言处理的第一个概念,就是分词,分出来的词有词性的区别。在代码层面上来说,这些词性就有了用武之地。根据词性就可以做出更详细的筛选。对于苏南大叔来说,分词就是使用“结巴分词”。所以,本文中的词性也主要是以结巴分词的词性为基础的。
大家好,这里是苏南大叔的程序如此灵动博客,这里记录苏南大叔和计算机代码的故事。本文描述自然语言处理中的分词词性表,表述上以结巴分词为主要基准。这个词性表和robots.txt
的性质是一样的,你可以遵守规定也可以不遵守,实际上创造新的词性也是可以的。测试环境:python@3.6.8
,jieba@0.42.1
。
结巴分词
这里先回顾一下,如何使用结巴分词来分出来词性。参考文章:
答案是:使用jieba.posseg.
,可以分词分出词性,而不是单纯的jieba.
。
要处理的句子:
import jieba.posseg
sentence = "苏南大叔最近心情很好"
# jieba.load_userdict("dict.txt")
jieba.add_word("苏南大叔",999, "nr")
分词方法一:
_result = jieba.posseg.cut(sentence)
list = [ w.word+"/"+w.flag for w in _result ]
print(" ".join(list))
分词方法二:
_result2 = jieba.posseg.lcut(sentence)
list = [ w.word+"/"+w.flag for w in _result2 ]
print(" ".join(list))
词性表
结巴分词的官方文档里面,并没有关于词性的相关详细描述。下面的表格就是网络上流传的经验总结,仅供参考。如有遗漏,请留言给我。
这个词性表,实际上是个约定俗成的标准。类似robots.txt
一样,这些词性标准可以遵守也可以不遵守,也可以定制自己特有的词性标准。
词性编码 | 词性名称 | 注解 |
---|---|---|
a | 形容词 | 取英语形容词 adjective 的第1个字母 |
ad | 副形词 | 直接作状语的形容词。形容词代码 a和副词代码d并在一起 |
ag | 形语素 | 形容词性语素。形容词代码为 a,语素代码g前面置以A |
an | 名形词 | 具有名词功能的形容词。形容词代码 a和名词代码n并在一起 |
b | 区别词 | 取汉字“别”的声母 |
c | 连词 | 取英语连词 conjunction的第1个字母 |
d | 副词 | 取 adverb的第2个字母,因其第1个字母已用于形容词 |
df | 例:不要 。否定版本的副词? | |
dg | 副语素 | 副词性语素。副词代码为 d,语素代码g前面置以D |
e | 叹词 | 取英语叹词 exclamation的第1个字母 |
f | 方位词 | 取汉字“方” |
g | 语素 | 绝大多数语素都能作为合成词的“词根”,取汉字“根”的声母 |
h | 前接成分 | 取英语 head的第1个字母 |
i | 成语 | 取英语成语 idiom的第1个字母 |
j | 简称略语 | 取汉字“简”的声母 |
k | 后接成分 | |
l | 习用语 | 习用语尚未成为成语,有点“临时性”,取“临”的声母 |
m | 数词 | 取英语 numeral的第3个字母,n,u已有他用 |
mq | 数量词 | |
n | 名词 | 取英语名词 noun的第1个字母 |
ng | 名语素 | 名词性语素。名词代码为 n,语素代码g前面置以N |
nr / PER | 人名 | 名词代码 n和“人(ren)”的声母并在一起 |
nrfg | 人名 | |
nrt | 人名 | |
ns / LOC | 地名 | 名词代码 n和处所词代码s并在一起。 |
nt / ORG | 机构团体 | “团”的声母为 t,名词代码n和t并在一起。 |
nw | 作品名 | 来自LAC |
nz | 其他专名 | “专”的声母的第 1个字母为z,名词代码n和z并在一起。 |
o | 拟声词 | 取英语拟声词 onomatopoeia的第1个字母。 |
p | 介词 | 取英语介词 prepositional的第1个字母。 |
q | 量词 | 取英语 quantity的第1个字母。 |
r | 代词 | 取英语代词 pronoun的第2个字母,因p已用于介词。 |
rg | 例:兹 。古代的代词? | |
rr | 人称代词 | |
rz | 例:这位 | |
s | 处所词 | 取英语 space的第1个字母 |
t / TIME | 时间词 | 取英语 time的第1个字母 |
tg | 时语素 | 时间词性语素。时间词代码为 t,在语素的代码g前面置以T |
u | 助词 | 取英语助词 auxiliary |
ud | 例:得 | |
ug | 例:过 | |
uj | 例:的 | |
ul | 例:了 | |
uv | 例:地 | |
uz | 例:着 | |
v | 动词 | 取英语动词 verb的第一个字母 |
vd | 副动词 | 直接作状语的动词。动词和副词的代码并在一起 |
vg | 动语素 | 动词性语素。动词代码为 v。在语素的代码g前面置以V |
vi | 例:沉溺于 等同于 | |
vn | 名动词 | 指具有名词功能的动词。动词和名词的代码并在一起 |
vq | 例:去? 去过 ?过 | |
w | 标点符号 | |
x | 非语素字 | 非语素字只是一个符号,字母 x通常用于代表未知数、符号。 |
xc | 其他虚词 | 来自LAC |
y | 语气词 | 取汉字“语”的声母。 |
z | 状态词 | 取汉字“状”的声母的前一个字母。 |
zg | 例:且 ? ? | |
un | 未知词 | 不可识别词及用户自定义词组。取英文Unkonwn首两个字母。(非北大标准,CSW分词中定义) |
相关文章
- https://blog.csdn.net/suibianshen2012/article/details/53487157
- https://newsn.net/say/jieba-cut.html
- https://newsn.net/say/jieba-lcut.html
- https://newsn.net/say/jieba-load_userdict.html
总结
结巴词性有自己的专属词性,也有国际标准的词性,各种不同的nlp分词方案的结果都是不同的。如果对分词结果不满意,可以自定义分词词条,对于结巴分词来说,自定义词条的方式有两种,字典方式或者词条方式。
如果本文对您有帮助,或者节约了您的时间,欢迎打赏瓶饮料,建立下友谊关系。
本博客不欢迎:各种镜像采集行为。请尊重原创文章内容,转载请保留作者链接。
本博客不欢迎:各种镜像采集行为。请尊重原创文章内容,转载请保留作者链接。