Welcome to bg51717's Wiki and Blog
依赖分析Dependency Parsing 依赖分析Dependency Parsing
介绍 这里介绍两种语义结构: Constituency Parsing:句法分析,Context-free grammars(CFGs),上下文无关语法,赋予每个单词一个词性类别,单词组合成短语,短语递归形成更大的短语 Dependenc
GloVe GloVe
介绍 相比Word2Vec的局部训练,GloVe可以使用全局的语料统计信息来训练,可以预先计算全局语料库统计数据来提高训练数据. 带全局语料统计的跳元模型 用\(q_{ij}\)表示词\(w_j\)的条件概率\(P(w_j|w_i)\),在
Word2Vec Word2Vec
介绍 传统的词向量是独热编码One-Hot,每个词语对应的向量只有一位为1,其余为0,通过这个1的位置区分向量 Word2Vec是一种Distributed Representation,相比独热编码有以下优点: 维度远小于独热编码 能更