NLP中的数据字典是什么?

What is the data dictionary in NLP?

我是 NLP 及其概念的新手。我目前正在尝试使用 OpenNLP from Apache. When I try to use its parser tool as shown in blog,我得到的输出如下:

Input: Shutdown all active devices

Output: 
(TOP(VP(VB Shutdown)
(NP(DT all)
    (JJ active)
    (NNS devices))))

我无法理解所有缩写词的含义。其中一些我可以从 Stanford's OpenNLP implementation 中理解。但不是全部。

任何人都可以指出一些正确的方向,关于我如何理解它,以及如何更好地理解我的代码如何理解所说的内容。

首先,学习任何学科都需要时间,所以不要急于求成,否则你会把自己搞糊涂的。您看到的输出语法是一棵树,它采用一系列列表和嵌入列表的形式。它可能会让您想起流行的 LISP 语法,例如 Scheme or Clojure.

(TOP(VP(VB Shutdown)
(NP(DT all)
    (JJ active)
    (NNS devices))))

单词/列表左侧的标签是所谓的 POS (Part-of-Speech) 标签,代表单词所属的语法类别,本质上是词类消歧。作为 F1-Scores 高达 90% 的学科,词性标注仍然是自然语言处理中非常困难的研究领域之一。您构建的树片段(带有下面的列表)如下所示:

(TOP(Verb, non-3rd-person(Verb Shutdown)
(Noun-Phrase (Determiner all)
    (Adjective active)
    (Noun-plural devices))))

词性标记是语义分析或命名实体识别等任务的重要语言特征。一些值得学习的好资源包括:

  1. NLTK (Natural Language Toolkit) Book Chapter 5
  2. Foundations of Statistical Natural Language Processing
  3. Part of Speech Tagging and Partial Parsing

词性标签列表(Penn Treebank 语料库)

  1. CC~并列连词
  2. CD~基数
  3. DT ~ 限定符
  4. EX ~存在那里
  5. FW~外语
  6. IN ~ 介词或从属连词
  7. JJ~形容词
  8. JJR ~ 形容词,比较级
  9. JJS ~ 形容词,最高级
  10. LS ~ 列表项标记
  11. MD~模态
  12. NN ~ 名词,单数或质量
  13. NNS ~ 名词复数
  14. NNP ~ 专有名词,单数
  15. NNPS ~ 专有名词,复数
  16. PDT ~ 预定者
  17. POS ~ 所有格结尾
  18. PRP ~ 人称代词
  19. PRP$ ~ 所有格代词
  20. RB ~ 副词
  21. RBR ~ 副词,比较级
  22. RBS ~ 副词,最高级
  23. RP~粒子
  24. SYM ~ 符号
  25. ~至
  26. ~感叹词
  27. VB ~ 动词,基本形式
  28. VBD ~ 动词,过去时
  29. VBG ~ 动词、动名词或现在分词
  30. VBN ~ 动词,过去分词
  31. VBP ~ 动词,非第三人称单数现在时
  32. VBZ ~ 动词,第三人称单数现在时
  33. WDT ~ Wh-determiner
  34. WP ~ 代词
  35. WP$ ~ 所有格 wh-代词
  36. WRB ~ Wh-副词