首页 > 代码库 > TF-IDF 加权及其应用

TF-IDF 加权及其应用

2024-07-25 05:30:46   222人阅读

TF-IDF 加权及其应用

 

TF-IDF（term frequency–inverse document frequency）是一种用于资讯检索的常用加权技术。TF-IDF是一种统计方法，用以评估某个单词对于一个文档集合（或一个语料库）中的其中一份文件的重要程度。单词的重要性随着它在文件中出现的次数成正比增加，但同时会随着它在语料库中出现的频率成反比下降。TF-IDF加权的各种形式常被搜寻引擎应用，作为文件与用户查询之间相关程度的度量或评级。

 

一、原理

在一份给定的文件里，词频 (term frequency, TF) 指的是某一个给定的单词在该文件中出现的次数。这个数字通常会被归一化，以防止它偏向长的文件（同一个单词在长文件里可能会比短文件有更高的词频，而不管该词语重要与否）。

TF(w,d) = count(w,d)/size(d)
其中，count(w,d)：单词w在文档d中出现次数；size(d)：文档d中总的单词个数；

 

逆向文件频率 (inverse document frequency, IDF) 是一个单词普遍重要性的度量。某一特定单词的IDF，可以由总文件数目除以包含该词语之文件的数目，再将得到的商取对数得到。IDF是一个全局因子，其考虑的不是文档本身的特征，而是特征单词之间的相对重要性。特征词出现在其中的文档数目越多，IDF值越低，这个词区分不同文档的能力就越差。

IDF(w)=log(n/docs(w, D))

其中，n是文档总数；docs(w, D)是词w所出现过的文件数；
 

TF-IDF的主要思想是：如果某个单词在一篇文章中出现的频率TF高，并且在其他文章中很少出现，则认为此词或者短语具有很好的类别区分能力，适合用来分类。

 

二、应用

1、搜索引擎

在搜索引擎中，通常使用TF-IDF模型计算查询串q（由关键词w1、w2、... wk组成）和文档d之间的匹配度：
TF-IDF(q, d) = sum{i=1,2,...k | TF(wi, d)* IDF(wi)}
可见，如果关键词wi在一篇文档中出现的频率很高，同时在其他文档中很少出现，则该词具有很好的区分能力；

 

2、自动提取关键词

比如我们要想提取一篇新闻的关键词，先要对该新闻进行分词，然后根据TF-IDF计算每个单词的权重，并将权重最大的N个单词作为此新闻的关键词。

 

3、找出相似文章

计算大概过程如下（更详细内容可参考这里）：

  • 使用TF-IDF算法，找出两篇文章的关键词；
  • 每篇文章各取出若干个关键词（比如20个），合并成一个集合，计算每篇文章对于这个集合中的词的词频（为了避免文章长度的差异，可以使用相对词频）；
  • 生成两篇文章各自的词频向量；
  • 计算两个向量的余弦相似度（如下图），值越大就表示越相似。

 

 

 

 

 

4、自动摘要

 

 

 

 

参考文档：

http://www.cnblogs.com/biyeymyhjob/archive/2012/07/17/2595249.html

http://www.ruanyifeng.com/blog/2013/03/tf-idf.html

http://www.ruanyifeng.com/blog/2013/03/cosine_similarity.html

http://www.ruanyifeng.com/blog/2013/03/automatic_summarization.html

 

TF-IDF 加权及其应用


联系
我们