逻辑回归模型

 

      电脑对文字数据信息开展解决,须要将文字编码序列转换为由参数值组成的数据信息,这1把

文字变成基本特征数据信息的全过程称之为逻辑回归模型。这里简略详细介绍某些NLP逻辑回

归模型的至关重要定义。

 

中文分词

 

中文分词就是指将文字信息转换为词编码序列的全过程,唯有经过中文分词电脑才可以确立将文

字参数值化的最低解决企业,样比如下:由此可见源代码对对象以空格符和标点符号用法为界限

割切了整句。中文分词是全部NLP技术应用的根本,中文分词的水准对最后的结论有非常大反应。



针对不一样种类的文字须要设计构思单独的中文分词方式 ,比如对html文字的中文分词即须要以

<>或html标识为界限开展割切，才很有可能获得能够 被妥善处理的词编码序列。

 

词袋模型

 

词袋模型是一种根据语汇产生频次将词编码序列参数值化的方式 ，词袋模型经过测算单独一个

语汇在文字中产生的频次来表达1个词编码序列，比如对下列文字:Tl-IDF建模，简洁明了的运用

语汇产生频次表达词编码序列存有没法彻底体现语汇至关重要水平的缺点，比如then，when

一种的语汇会具备很高的词量，为了更好地调整 这种缺点，能够 应用tf-idf建模，该建模对某

一语汇测算参数值的公式计算以下：

 

Tl（词量）=语汇在文字中产生频次/文字总词量

 

IDF（逆文件格式頻率）=Log(词库文字数量/包括某一词的文字数+1)

 

Tl-IDF=Tl*IDF

 

Tl-IDF建模的核心内容取决于以语汇在某一文字中的重要程度来对语汇开展参数值化，即由某

一词在文字中产生的頻率（Tl）和该语汇在全部文字中产生的几率（IDF）一同确定，Tl越高

且与此同时IDF越低，表明某一语汇在某一文字中越至关重要。Tl-IDF建模经常用以文字关键

词提取和百度搜索引擎技术应用中。

 

词向量建模

 

词袋模型和Tl-IDF建模实质上均为根据词量的建模，该类建模忽视了词编码序列中的先后顺序

关联，没法体现某一语汇的前后文对语汇实际意义的反应。为了更好地调整 这种缺点，能够

经过词向量的方式 来定性分析1个语汇，词向量建模创建在一个基础假定上：具备类似前后文

语汇的具备类似词义。以传统的词向量excle2nass为例子，经过锻炼1个以语汇的onex-hot方

式空间向量为键入（ont-hot代码是一种将语汇以英文字母为单位转换成定长数据信息的方式

）的神经元网络，能够 获得文字的词向量，关键建模有以下二种：在其中BHwow建模以某

一语汇的前后文做为键入，预测分析上下两边问相对应的语汇，而Skip-GrAm建模以某一语

汇做为键入，预测分析该语汇相对应的前后文。在最后进行锻炼以后，神经元网络掩藏层的

引流矩阵权重值（掩藏层能够 参照深度神经网络的信息），即是所得的的词向量。