余弦计算相似度度量
相似度度量(Similarity), 即计算个体间的相似程度, 相似度度量的值越小, 说明个体间相似度越小, 相似度的值越大说明个体差异越大.
对于多个不同的文本或者短文本对话消息要来计算他们之间的相似度如何, 一个好的做法就是将这些文本中词语, 映射到向量空间, 形成文本中文字和向量数据的映射关系, 通过计算几个或者多个不同的向量的差异的大小, 来计算文本的相似度. 下面介绍一个详细成熟的向量空间余弦相似度方法计算相似度
向量空间余弦相似度(Cosine Similarity)
余弦相似度用向量空间中两个向量夹角的余弦值作为衡量两个个体间差异的大小. 余弦值越接近 1, 就表明夹角越接近 0 度, 也就是两个向量越相似, 这就叫 "余弦相似性".
上图两个向量 a,b 的夹角很小可以说 a 向量和 b 向量有很高的的相似性, 极端情况下, a 和 b 向量完全重合. 如下图:
如上图二: 可以认为 a 和 b 向量是相等的, 也即 a,b 向量代表的文本是完全相似的, 或者说是相等的. 如果 a 和 b 向量夹角较大, 或者反方向. 如下图
如上图三: 两个向量 a,b 的夹角很大可以说 a 向量和 b 向量有很底的的相似性, 或者说 a 和 b 向量代表的文本基本不相似. 那么是否可以用两个向量的夹角大小的函数值来计算个体的相似度呢?
向量空间余弦相似度理论就是基于上述来计算个体相似度的一种方法. 下面做详细的推理过程分析.
想到余弦公式, 最基本计算方法就是初中的最简单的计算公式, 计算夹角
图(4)
的余弦定值公式为:
但是这个是只适用于直角三角形的, 而在非直角三角形中, 余弦定理的公式是
图(5)
三角形中边 a 和 b 的夹角 的余弦计算公式为:
在向量表示的三角形中, 假设 a 向量是(x1, y1),b 向量是(x2, y2), 那么可以将余弦定理改写成下面的形式:
向量 a 和向量 b 的夹角 的余弦计算如下
扩展, 如果向量 a 和 b 不是二维而是 n 维, 上述余弦的计算法仍然正确. 假定 a 和 b 是两个 n 维向量, a 是 ,b 是 , 则 a 与 b 的夹角 的余弦等于:
余弦值越接近 1, 就表明夹角越接近 0 度, 也就是两个向量越相似, 夹角等于 0, 即两个向量相等, 这就叫 "余弦相似性".
[下面举一个例子, 来说明余弦计算文本相似度]
举一个例子来说明, 用上述理论计算文本的相似性. 为了简单起见, 先从句子着手.
句子 A: 这只皮靴号码大了. 那只号码合适
句子 B: 这只皮靴号码不小, 那只更合适
怎样计算上面两句话的相似程度?
基本思路是: 如果这两句话的用词越相似, 它们的内容就应该越相似. 因此, 可以从词频入手, 计算它们的相似程度.
第一步, 分词.
句子 A: 这只 / 皮靴 / 号码 / 大了. 那只 / 号码 / 合适.
句子 B: 这只 / 皮靴 / 号码 / 不 / 小, 那只 / 更 / 合适.
第二步, 列出所有的词.
这只, 皮靴, 号码, 大了. 那只, 合适, 不, 小, 很
第三步, 计算词频.
句子 A: 这只 1, 皮靴 1, 号码 2, 大了 1. 那只 1, 合适 1, 不 0, 小 0, 更 0
句子 B: 这只 1, 皮靴 1, 号码 1, 大了 0. 那只 1, 合适 1, 不 1, 小 1, 更 1
第四步, 写出词频向量.
句子 A:(1,1,2,1,1,1,0,0,0)
句子 B:(1,1,1,0,1,1,1,1,1)
到这里, 问题就变成了如何计算这两个向量的相似程度. 我们可以把它们想象成空间中的两条线段, 都是从原点 ([0, 0, ...]) 出发, 指向不同的方向. 两条线段之间形成一个夹角, 如果夹角为 0 度, 意味着方向相同, 线段重合, 这是表示两个向量代表的文本完全相等; 如果夹角为 90 度, 意味着形成直角, 方向完全不相似; 如果夹角为 180 度, 意味着方向正好相反. 因此, 我们可以通过夹角的大小, 来判断向量的相似程度. 夹角越小, 就代表越相似.
使用上面的公式(4)
计算两个句子向量
句子 A:(1,1,2,1,1,1,0,0,0)
和句子 B:(1,1,1,0,1,1,1,1,1)的向量余弦值来确定两个句子的相似度.
计算过程如下:
计算结果中夹角的余弦值为 0.81 非常接近于 1, 所以, 上面的句子 A 和句子 B 是基本相似的
由此, 我们就得到了文本相似度计算的处理流程是:
找出两篇文章的关键词;
每篇文章各取出若干个关键词, 合并成一个集合, 计算每篇文章对于这个集合中的词的词频
生成两篇文章各自的词频向量;
计算两个向量的余弦相似度, 值越大就表示越相似.
来源: http://www.bubuko.com/infodetail-3003251.html