回复
一文彻底搞懂大模型 - 神经网络语言模型（NNLM） 原创
神经网络语言模型
神经网络语言模型（Neural Network Language Model, NNLM）是一种利用神经网络架构来预测文本序列中下一个词的语言模型。NNLM通过学习大量文本数据中的词汇之间的概率关系，能够捕捉到语言的结构和语境，从而生成连贯且符合上下文的文本。
本文旨在结合经典论文《A Neural Probabilistic Language Model》的内容，详细解析NNLM的基本原理、网络架构及模型训练。
一种神经概率语言模型
一、NNLM的基本原理
Yoshua Bengio及其团队在2003年的论文《A Neural Probabilistic Language Model》中首次展示了如何使用神经网络（特别是多层感知器MLP）来构建语言模型，这一工作不仅为后续的深度学习在NLP中的应用奠定了基石，还意外地催生了词嵌入（word embedding）这一重要概念。
NNLM的核心思想：利用神经网络来建模自然语言中的词语序列，从而预测给定上下文条件下下一个词出现的概率。与传统的n-gram模型相比，NNLM能够捕捉更长的上下文依赖关系，并且通过词嵌入技术将词语映射到连续的向量空间中，使得相似的词语在向量空间中具有相近的表示。
NNLM开山之作
NNLM中的Distributed Representation（分布式表示）是Embedding（嵌入）最早的理论支撑之一，它代表了一种将单词或文本表示为连续向量空间的技术。这种表示方法相比传统的独热编码（One-Hot Encoding）具有显著的优势，能够捕捉到单词之间的语义关系。
- 减少维度灾难：传统的独热编码方式在词汇表很大时会导致向量维度极高，而分布式表示则通过低维向量表示单词，大大减少了计算复杂度。
- 捕捉语义信息：分布式表示能够捕捉到单词之间的语义相似性，使得在向量空间中相似的单词具有相近的表示，这对于处理NLP任务至关重要。
- 提高模型泛化能力：由于分布式表示能够捕捉到单词之间的语义关系，因此模型在处理未见过的单词或句子时具有更好的泛化能力。
distributed representation vs one-hot representation
二、NNLM的网络架构
NNLM的目标：NNLM是一个用于语言建模的神经模型，该模型旨在学习一个函数f，该函数可以根据给定的前置词汇预测序列中的下一个词汇。
函数f
模型 f 分解为两个主要部分：词嵌入层（C）和概率函数（g）。词嵌入层将词汇转换为向量表示，而概率函数则利用这些向量预测文本序列中下一个词汇的概率分布。
- 词嵌入层（C）：将词汇表中的每个词汇转换成一个实值向量。这些向量代表了词汇的分布式特征，即它们不仅仅表示词汇本身，还包含了词汇在不同上下文中的语义信息。
- 概率函数（g）：
根据给定的上下文信息来预测下一个词汇出现的概率。由多个词汇组成的上下文（比如前面的n-1个词汇），概率函数g会利用这些词汇的向量表示（即词嵌入层输出的向量）来估计下一个词汇出现的概率分布。
词嵌入层（C）和概率函数（g）
NNLM的网络架构：根据《A Neural Probabilistic Language Model》中的描述，NNLM主要由输入层、隐藏层及输出层三部分组成。通过输入层接收前文单词序列的向量表示，在隐藏层中捕捉复杂的语言结构，最后在输出层输出每个单词作为下一个词出现的概率分布。
NNLM的网络架构
1.输入层
输入层
- 作用：输入层负责接收原始数据，并将其转换为神经网络可以处理的格式。在自然语言处理中，输入层通常接收的是词汇的向量表示，即词嵌入（word embedding）。
- 上下文词汇向量：如上文所述，输入层连接的是上下文词汇向量
x = (C(wt-1), C(wt-2), …, C(wt-n+1))，其中C(wt-i)表示在时间步t-i时词汇wt-i的词嵌入向量。这些向量共同构成了神经网络的输入。
2.隐藏层
隐藏层
- 作用：隐藏层是神经网络中的核心部分，负责学习数据的复杂特征表示。在自然语言处理中，隐藏层通常包含多个神经元，并且这些神经元之间以及与前一层和下一层之间都有连接。
- 非线性激活函数：为了引入非线性，隐藏层中的神经元通常使用非线性激活函数，如双曲正切函数（tanh）。激活函数使得神经网络能够学习非线性关系，从而捕捉数据的复杂模式。
- 权重和偏置：隐藏层中的每个神经元都与其前一层的神经元通过权重矩阵U和H（以及偏置向量d）相连接。这些权重和偏置在训练过程中被学习，以最小化预测误差。
3.输出层
输出层
- 作用：输出层是神经网络的最后一层，负责产生最终的预测结果。在自然语言处理中，输出层通常使用softmax函数将隐藏层的输出转换为概率分布，以便在每个时间步预测下一个词汇。
- softmax函数：softmax函数将隐藏层的输出转换为概率分布
P^(wt | wt-1, …, wt-n+1)。这个概率分布表示在给定上下文条件下，每个词汇作为下一个词汇的概率。 - 预测：最终，神经网络通过选择概率最高的词汇作为预测结果。
NNLM的网络架构
三、NNLM的模型训练
NNLM的模型训练：NNLM的训练过程旨在最大化训练数据中序列的联合概率，即最大化给定前文单词的条件下，下一个单词出现的概率。在训练过程中，分布式表示（即词嵌入）是作为模型的训练参数之一进行更新的。
NNLM
NNLM训练过程：通过前向传播计算输出，利用损失函数评估差异，然后反向传播更新权重，迭代优化直至收敛或达到预设迭代次数。这通常通过最小化负对数似然（negative log-likelihood）损失函数来实现。
最小化负对数似然
其中 R( θ) 是正则化项（例如，权重衰减），使用随机梯度上升法更新参数 θ：
更新参数 θ
其中 ϵ 是学习率。
本文转载自公众号架构师带你玩转AI 作者：AllenTang
©著作权归作者所有，如需转载，请注明出处，否则将追究法律责任
标签
已于2024-9-12 13:48:24修改
赞
收藏
回复
相关推荐
