使用 LSTM 网络的混淆词求解器

Question

我正在尝试实现一个 LSTM 网络来检测句子中混乱单词的正确顺序。如何标记数据集？我的数据集由最多 6 个单词的句子组成。我的输出层应该表示什么？

例如，如果我的句子是'is this neural a network' 顺序是 2,1,4,3,5 -> 这是一个神经网络

谢谢！

Answer 1

对于像这样的任何 NLP 任务，您应该使用词嵌入，例如Word2Vec。每个单词将表示为一个向量。您的输入将是这些向量以原始的、不正确的顺序排列的矩阵。您的输出将是这些向量按正确顺序排列的矩阵。下面，我将 link 添加到 Fast.ai 课程中，进一步讨论词嵌入。

https://course.fast.ai/lessons/lesson6.html

*请注意，根据问题表述，我假设您的 RNN 能够处理输入/输出句子对。如果情况并非如此，或者您 运行 遇到了这些方面的问题，请发表评论，我可以给您更多建议。