跳到主要内容
NEUSNCP / 知识空间

博客

发现有价值的观点,记录自己的思考。

写博客
hxy

【转载】word2vec原理推导与代码分析

原文: http://www.hankcs.com/nlp/word2vec.html 语言模型 在统计自然语言处理中,语言模型指的是计算一个句子的概率模型。 传统的语言模型中词的表示是原始的、面向字符串的。两个语义相似的词的字符串可能完全不同,比如番茄和西红柿。这给所有NLP任务都带来了挑战字符串本身无法储存语义信息。该挑战突出表现在模型的平滑问题上:标注语料是有限的,而语言整体是无限的,传统模型无法借力未标注的海量语料,只能靠人工设计平滑算法,而这些算法往往效果甚微。 神经概率语言模型(Neural ...