首页 > 代码库 > 《转》推荐系统经典论文文献及业界应用

《转》推荐系统经典论文文献及业界应用

2024-08-09 12:19:24   220人阅读

转载自http://semocean.com

列了一些之前设计开发百度关键词搜索推荐引擎时， 参考过的论文， 书籍， 以及调研过的推荐系统相关的工具；同时给出参加过及未参加过的业界推荐引擎应用交流资料（有我网盘的链接）， 材料组织方式参考了厂里部分同学的整理。

因为推荐引擎不能算是一个独立学科，它与机器学习，数据挖掘有天然不可分的关系，所以同时列了一些这方面有用的工具及书籍，希望能对大家有所帮助。

Survey方面的文章及资料

  1. Adomavicius G, Tuzhilin A. Toward the next generation of recommender systems: A survey of the state-of-the-art and possible extensions[J]. Knowledge and Data Engineering, IEEE Transactions on, 2005, 17(6): 734-749. 2005年的state-of-the-art的推荐综述，按照content-based, CF, Hybrid的分类方法进行组织，并介绍了推荐引擎设计时需要关注的特性指标，内容非常全。
  2. Marlin B. Collaborative filtering: A machine learning perspective[D]. University of Toronto, 2004. 从传统机器学习的分类角度来介绍推荐算法，有一定机器学习背景的人来看该文章的话， 会觉得写得通俗易懂
  3. Koren Y, Bell R. Advances in collaborative filtering[M]//Recommender Systems Handbook. Springer US, 2011: 145-186.  RSs Handbook中专门讲述协同过滤的一章，其中对近年协同过滤的一些重要突破进行了介绍，包括因式分解，时间相关推荐，基于近邻的推荐以及多种方法的融合，内部不多，但其中引用的论文值得细看
  4. Su X, Khoshgoftaar T M. A survey of collaborative filtering techniques[J]. Advances in artificial intelligence, 2009, 2009: 4. 协同过滤的篇survey， 按照memory-base, model-based, hybrid分类方法介绍各种协同过滤方法及评价标准，并在其中给出基于netflix数据进行评估的效果对比
  5. Koren Y, Bell R, Volinsky C. Matrix factorization techniques for recommender systems[J]. Computer, 2009, 42(8): 30-37.  主要集中在因式分解实现协同过滤方法，如果看完Advances in collaborative filtering[M]//Recommender Systems Handbook的话，这篇文章就没有必要再看了
  6. Pazzani M J, Billsus D. Content-based recommendation systems[M]//The adaptive web. Springer Berlin Heidelberg, 2007: 325-341.从宏观上介绍content-based的策略架构
  7. Burke R. Hybrid recommender systems: Survey and experiments[J]. User modeling and user-adapted interaction, 2002, 12(4): 331-370.

Content-based方法

content-based方法非常依赖于特定领域item的特征提取及处理，例如音乐推荐或是关键词推荐中很多细节内容信息处理过程都是不一样的，故这里仅列了content-based综述类的几篇文章。

  1. Pazzani M J, Billsus D. Content-based recommendation systems[M]//The adaptive web. Springer Berlin Heidelberg, 2007: 325-341.从宏观上介绍content-based的策略架构
  2. Lops P, de Gemmis M, Semeraro G. Content-based recommender systems: State of the art and trends[M]//Recommender Systems Handbook. Springer US, 2011: 73-105. RS Handbook中专门介绍content-based 算法的章节
  3. Jannach D, Zanker M, Felfernig A, et al. Content-based recommendation   [M] Charpter 3 Recommender systems: an introduction[M]. Cambridge University Press, 2010.

Collaborative Filtering方法

Neighbourhood Based Methods

  1. Sarwar B, Karypis G, Konstan J, et al. Item-based collaborative filtering recommendation algorithms[C]//Proceedings of the 10th international conference on World Wide Web. ACM, 2001: 285-295. KNN进行item-based推荐的经典文章，其中也介绍了多种相似度度量标准
  2. Linden G, Smith B, York J. Amazon. com recommendations: Item-to-item collaborative filtering[J]. Internet Computing, IEEE, 2003, 7(1): 76-80. 经典的亚马逊item-based算法的文章
  3. Gionis A, Indyk P, Motwani R. Similarity search in high dimensions via hashing[C]//VLDB. 1999, 99: 518-529.  LSH
  4. Bell R M, Koren Y. Scalable collaborative filtering with jointly derived neighborhood interpolation weights[C]//Data Mining, 2007. ICDM 2007. Seventh IEEE International Conference on. IEEE, 2007: 43-52.
  5. Indyk P, Motwani R. Approximate nearest neighbors: towards removing the curse of dimensionality[C]//Proceedings of the thirtieth annual ACM symposium on Theory of computing. ACM, 1998: 604-613. LSH
  6. Buhler J. Efficient large-scale sequence comparison by locality-sensitive hashing[J]. Bioinformatics, 2001, 17(5): 419-428. LSH应用
  7. Chen T, Zheng Z, Lu Q, et al. Feature-based matrix factorization[J]. arXiv preprint arXiv:1109.2271, 2011.上交Apex实验室开发的svdfeature工具背后的原理。 优点是可以对照着代码学习
  8. Zhuang Y, Chin W S, Juan Y C, et al. A fast parallel SGD for matrix factorization in shared memory systems[C]//Proceedings of the 7th ACM Conference on Recommender Systems. ACM, 2013: 249-256.  recsys 2013 最佳论文，并行矩阵分解

Model Based Methods

  1.  Koren Y, Bell R, Volinsky C. Matrix factorization techniques for recommender systems[J]. Computer, 2009, 42(8): 30-37.主要集中在因式分解实现协同过滤方法，如果看完Advances in collaborative filtering[M]//Recommender Systems Handbook的话，这篇文章就没有必要再看了
  2. Singh A P, Gordon G J. A unified view of matrix factorization models[M]//Machine Learning and Knowledge Discovery in Databases. Springer Berlin Heidelberg, 2008: 358-373.

Hybrid Methods

  1. Koren Y. Factorization meets the neighborhood: a multifaceted collaborative filtering model[C]//Proceedings of the 14th ACM SIGKDD international conference on Knowledge discovery and data mining. ACM, 2008: 426-434. 因式分解与Neighbour-based方法融合
  2. Burke R. Hybrid recommender systems: Survey and experiments[J]. User modeling and user-adapted interaction, 2002, 12(4): 331-370. 介绍了多种推荐算法进行融合的框架
  3. Adomavicius G, Tuzhilin A. Context-aware recommender systems[M]//Recommender systems handbook. Springer US, 2011: 217-253. context aware  RS介绍，可以对照RS Handbook中相关章节阅读

LBS推荐算法

  1. Zheng V W, Zheng Y, Xie X, et al. Collaborative location and activity recommendations with gps history data[C]//Proceedings of the 19th international conference on World wide web. ACM, 2010: 1029-1038     介绍了对GPS数据根据时间，地域维度进行网格化聚类，根据网页评论构建location-activity矩阵（这个感觉不靠谱），根据搜索引擎构建activity-activity矩阵，根据poi信息构建location-feature矩阵，之后填充稀疏的location-activity矩阵达到推荐目的
  2. Husain W, Dih L Y. A framework of a personalized location-based traveler recommendation system in mobile application[J]. International journal of multimedia and ubiquitous engineering, 2012, 7(3): 11-18.  第一轮使用content-based进行初步过滤(相当于触发)； 第二轮使用CF进行细化推荐
  3. Leung K W T, Lee D L, Lee W C. CLR: a collaborative location recommendation framework based on co-clustering[C]//Proceedings of the 34th international ACM SIGIR conference on Research and development in Information Retrieval. ACM, 2011: 305-314.  将LBS推荐过程中涉及的entity由user-location推广至user. activity. location三者的关系使用agolomative方法进行挖掘推荐
  4. Ye M, Yin P, Lee W C, et al. Exploiting geographical influence for collaborative point-of-interest recommendation[C]//Proceedings of the 34th international ACM SIGIR conference on Research and development in Information Retrieval. ACM, 2011: 325-334.
  5. Zheng Y, Zhang L, Xie X, et al. Mining interesting locations and travel sequences from GPS trajectories[C]//Proceedings of the 18th international conference on World wide web. ACM, 2009: 791-800.

推荐系统工业界应用

  1. Netflix：Netflix视频推荐的背后：算法知道你想看什么
  2. Netflix：Netflix Recommendations Beyond the 5 Stars: 大名鼎鼎的Netflix推荐系统交互，算法，架构的介绍；非常详尽的PPT，太多干货，强烈推荐
  3. Hulu：Recommender System Algorithm and Architecture-项亮
  4. Youtube：Davidson J, Liebald B, Liu J, et al. The YouTube video recommendation system[C]//Proceedings of the fourth ACM conference on Recommender systems. ACM, 2010: 293-296.  Youtube推荐系统中的主要算法。 百度关键词搜索推荐系统对其进行了优化， 实现了任意类型的级联二部图推荐。 具体内容可参见博文： google youtube 电影推荐算法， 以及百度关键词搜索推荐级联二部图实现
  5. 豆瓣： 个性化推荐系统的几个问题_豆瓣网王守崑
  6. 豆瓣：阿稳_寻路推荐_豆瓣
  7. 豆瓣：豆瓣在推荐领域的实践与思考
  8. 百分点：量化美-时尚服饰搭配引擎
  9. weibo及考拉FM：停不下来的推荐实践_陈开江
  10. 阿里：天猫双11推荐技术应用
  11. 阿里：淘宝推荐系统
  12. 当当：当当网搜索和推荐_庄洪波
  13. 土豆：个性化视频推荐系统土豆_明洪涛
  14. 360：360推荐系统实践-杨浩
  15. 盛大：推荐系统实战与效果提升之道-陈运文
  16. 盛大：智能推荐系统的开发与应用-陈运文
  17.  University of Szeged, Hungary推荐系统演讲
  18. Google News Personalization: Scalable Online Colleborative Filtering

推荐系统书籍

  1. Segaran T. Programming collective intelligence: building smart web 2.0 applications[M]. O’Reilly Media, 2007.寓教于乐的一本入门教材，附有可以直接动手实践的toy级别代码
  2. Shapira B. Recommender systems handbook[M]. Springer, 2011.  推荐系统可做枕头，也应该放在枕边的书籍，看了半本多。如果将该书及其中的参考文献都看完并理解，那恭喜你，你已经对这个领域有深入理解了
  3. Jannach D, Zanker M, Felfernig A, et al. Recommender systems: an introduction[M]. Cambridge University Press, 2010.  可以认为是2010年前推荐系统论文的综述集合
  4. Celma O. Music recommendation and discovery[M]. Springer, 2010. 主要内容集中在音乐推荐，领域非常专注于音乐推荐，包括选取的特征，评测时如何考虑音乐因素
  5. Word sense disambiguation: Algorithms and applications[M]. Springer Science+ Business Media, 2006. 如果涉及到关键词推荐，或是文本推荐， 则可以查阅该书

P.S. 想对某个领域或是工具有深入了解，可以找一本该行业的XX HandBook满怀勇气与无畏细心看完，然后就会对这个领域有一定（较深）了解，当然如果手头有相关项目同步进行，治疗效果更好^_^

推荐系统工具

  1. Mahout：基于hadoop的机器学习，数据挖掘，推荐系统开源工具。我厂的超低版本haodop集群居然不支持Mahout，想跑个Mahout还要进行移植，郁闷。。。该死！！
  2. scikit-learn：基于python的机器学习，数据挖掘库， 方便好用，适合数据量较小的调研任务，不过，一切不支持大数据的机器学习算法，（一定程度上）都是耍流氓。。。。
  3. weka：经典得不能再经典的数据挖掘工具， java版本
  4. R：R语言
  5. Cluto：聚类工具，集成了较多聚类算法及相似度度量方法；单机，数据量受限
  6. RapidMiner：没用过，但据说使用量非常大
  7. svdfeature: 上交Apex开发的svd工具集，代码质量不错，而且附带（MovieLen数据集）示例，直接下载各MovieLens数据集就能实验效果
  8. LibFM:Rendle S. Factorization machines with libFM[J]. ACM Transactions on Intelligent Systems and Technology (TIST), 2012, 3(3): 57. 实现了SGD，ALS等多种矩阵分解算法；作者使用该工具获过。其中ALS一般在大数据情况下使用（Mahout中使用该矩阵分解变种）
  9. GraphLib: 集成了协同过滤， Random Walk，Clustering， Topic Model等多种图关系挖掘算法

经典推荐算法大赛数据

  1. netflix大赛数据：netflix大赛数据，想尝试各种算法效果，可以用该数据做实验；netflix已经不再发布数据，如有需要可从该链接下载
  2. Movielen数据集

国内外推荐系统站点

  1. http://xavier.amatriain.net/   Xavier Amatriain 的博客，作者是Netflix的研发经历，理论工程并重，非常接近实战。强烈推荐 http://technocalifornia.blogspot.com/
  2. http://www.resyschina.com/
  3. http://www.recommenderbook.net/teaching-material 各种推荐系统的教学资料

因为我一直认为推荐系统不是一个独立的学科，它很多技术都是直接来自于机器学习，数据挖掘和信息检索（特别是文本相关的搜索推荐），所以以下也整理了一些之前工作及工作之余看过，了解过，或者准备看的这方面的资料

数据挖掘资料

  1. Han J, Kamber M, Pei J. Data mining: concepts and techniques[M]. Morgan kaufmann, 2006. 数据挖掘方面的handbook，教科书类型，虽然厚，却通俗易懂(再次提醒，要了解某一领域，找本该领域的啥啥handbook耐心认真读完，那你基本对该领域有一定认识了)
  2. Chakrabarti S. Mining the Web: Discovering knowledge from hypertext data[M]. Morgan Kaufmann, 2003.介绍了一个搜索引擎中的大部分技术，包括spider，索引建立，内部的机器学习算法，信息检索，而且非常具有实用性，我在百度商务搜索部开发的spider，就是按照其中的架构设计开发的
  3. Liu B. Web data mining: exploring hyperlinks, contents, and usage data[M]. Springer, 2007. 如果说 Mining the Web: Discovering knowledge from hypertext data更偏web mining更偏整体，工程的话，这本书就更偏策略，两本都读过的话，你对搜索引擎中的数据挖掘算法的了解，就比较全面了
  4. Wu X, Kumar V, Quinlan J R, et al. Top 10 algorithms in data mining[J]. Knowledge and Information Systems, 2008, 14(1): 1-37. 专门将2006年评选出来的10大数据挖掘算法拎了出来讲讲
  5. Rajaraman A, Ullman J D. Mining of massive datasets[M]. Cambridge University Press, 2012.介绍如何使用hadoop进行数据挖掘，如果有hadoop环境则非常实用
  6. Feldman R, Sanger J. The text mining handbook: advanced approaches in analyzing unstructured data[M]. Cambridge University Press, 2007.文本挖掘的handbook
  7. Witten I H, Frank E. Data Mining: Practical machine learning tools and techniques[M]. Morgan Kaufmann, 2005. 结合weka介绍数据挖掘，最大的优点是weka open source

机器学习资料

  1. Tom M Mitchell,Machine Learning, McGraw-Hill Science/Engineering/Mat, 1997，非常早起的机器学习书籍，非常适合入门， 浅显易懂， 但对于工业界应用， 只能说是Toy级别的算法。
  2. Bishop C M, Nasrabadi N M. Pattern recognition and machine learning[M]. New York: springer, 2006. 进阶型的书籍，对每种算法都有较为具体的理论介绍
  3. 课程： 机器学习（Stanford->Andrew Ng）http://v.163.com/special/opencourse/machinelearning.html，大名鼎鼎的Andrew Ng的机器学习公开课，网易上字幕版本；配合课程stanford cs229对应的handout及习题一起学习效果更好
  4. Liu T Y. Learning to rank for information retrieval[J]. Foundations and Trends in Information Retrieval, 2009, 3(3): 225-331. LTR技术比较全的介绍， 包括概念，技术； 同时还包含该领域中具体的开放数据集合， 选择特征的标准等； 在学习基本概念的同时， 可以使用这些数据做一做实验。
  5. Quinlan J R. C4. 5: programs for machine learning[M]. Morgan kaufmann, 1993. 超经典的c4.5介绍，学习树模型的同学一定要读下，非常具体，其中包含对离散，连续值，缺失值的处理任何细节。 同时有c4.5代码对照，代码参见： C4.5代码
  6. http://archive.ics.uci.edu/ml/datasets.html  包含了很多机器学习的数据集，是非常好的学习上手数据

信息检索

  1. Agirre, Eneko, and Philip Glenny Edmonds, eds. Word sense disambiguation: Algorithms and applications. Vol. 33. Springer Science+ Business Media, 2006.
  2. Manning C D, Raghavan P, Schütze H. Introduction to information retrieval[M]. Cambridge: Cambridge University Press, 2008.
  3. MOFFAT A A, Bell T C. Managing gigabytes: compressing and indexing documents and images[M]. Morgan Kaufmann, 1999.一本很老的介绍搜索引擎的书了，不过09年的时候看还是被震撼到了，书中各种变着戏法使用几十M内存处理上G数据，感觉非常牛叉。
  4. Liu T Y. Learning to rank for information retrieval[J]. Foundations and Trends in Information Retrieval, 2009, 3(3): 225-331.
  5. Cao Z, Qin T, Liu T Y, et al. Learning to rank: from pairwise approach to listwise approach[C]//Proceedings of the 24th international conference on Machine learning. ACM, 2007: 129-136. 另外附上《tutorial-lTR by Hang Li》《tutorial-LTR by TY Liu》

百度关键词工具介绍参见：http://support.baidu.com/product/fc/4.html?castk=24b18bi7062c720d0d596

转载自http://semocean.com

《转》推荐系统经典论文文献及业界应用


联系
我们