本文转自:http://blog.csdn.net/dustinsea/article/details/17529075
列了一些之前设计开发百度关键词搜索推荐引擎时, 参考过的论文, 书籍,
以及调研过的推荐系统相关的工具;同时给出参加过及未参加过的业界推荐引擎应用交流资料(有我网盘的链接), 材料组织方式参考了厂里部分同学的整理。
因为推荐引擎不能算是一个独立学科,它与机器学习,数据挖掘有天然不可分的关系,所以同时列了一些这方面有用的工具及书籍,希望能对大家有所帮助。
Survey方面的文章及资料
- Adomavicius G, Tuzhilin A. Toward the next generation of
recommender systems: A survey of the state-of-the-art and possible
extensions[J]. Knowledge and Data Engineering, IEEE Transactions on,
2005, 17(6): 734-749. 2005年的state-of-the-art的推荐综述,按照content-based, CF,
Hybrid的分类方法进行组织,并介绍了推荐引擎设计时需要关注的特性指标,内容非常全。
- Marlin B. Collaborative filtering: A machine learning
perspective[D]. University of Toronto, 2004.
从传统机器学习的分类角度来介绍推荐算法,有一定机器学习背景的人来看该文章的话, 会觉得写得通俗易懂
- Koren Y, Bell R. Advances in collaborative
filtering[M]//Recommender Systems Handbook. Springer US, 2011:
145-186. RSs
Handbook中专门讲述协同过滤的一章,其中对近年协同过滤的一些重要突破进行了介绍,包括因式分解,时间相关推荐,基于近邻的推荐以及多种方法的融合,内部不多,但其中引用的论文值得细看
- Su X, Khoshgoftaar T M. A survey of collaborative filtering
techniques[J]. Advances in artificial intelligence, 2009, 2009: 4.
协同过滤的篇survey, 按照memory-base, model-based,
hybrid分类方法介绍各种协同过滤方法及评价标准,并在其中给出基于netflix数据进行评估的效果对比
- Koren Y, Bell R, Volinsky C. Matrix factorization techniques
for recommender systems[J]. Computer, 2009, 42(8): 30-37.
主要集中在因式分解实现协同过滤方法,如果看完Advances in collaborative
filtering[M]//Recommender Systems Handbook的话,这篇文章就没有必要再看了
- Pazzani M J, Billsus D. Content-based recommendation
systems[M]//The adaptive web. Springer Berlin Heidelberg, 2007:
325-341.从宏观上介绍content-based的策略架构
Content-based方法
content-based方法非常依赖于特定领域item的特征提取及处理,例如音乐推荐或是关键词推荐中很多细节内容信息处理过程都是不一样的,故这里仅列了content-based综述类的几篇文章。
- Pazzani M J, Billsus D. Content-based recommendation
systems[M]//The adaptive web. Springer Berlin Heidelberg, 2007:
325-341.从宏观上介绍content-based的策略架构
- Lops P, de Gemmis M, Semeraro G. Content-based recommender
systems: State of the art and trends[M]//Recommender Systems
Handbook. Springer US, 2011: 73-105. RS Handbook中专门介绍content-based 算法的章节
- Jannach D, Zanker M, Felfernig A, et al. Content-based
recommendation [M] Charpter 3 Recommender systems:
an introduction[M]. Cambridge University Press, 2010.
Collaborative Filtering方法
Neighbourhood Based Methods
- Sarwar B, Karypis G, Konstan J, et al. Item-based
collaborative filtering recommendation algorithms[C]//Proceedings of
the 10th international conference on World Wide Web. ACM, 2001: 285-295.
KNN进行item-based推荐的经典文章,其中也介绍了多种相似度度量标准
- Linden G, Smith B, York J. Amazon. com recommendations:
Item-to-item collaborative filtering[J]. Internet Computing, IEEE,
2003, 7(1): 76-80. 经典的亚马逊item-based算法的文章
- Gionis A, Indyk P, Motwani R. Similarity search in high
dimensions via hashing[C]//VLDB. 1999, 99: 518-529. LSH
- Bell R M, Koren Y. Scalable collaborative filtering with
jointly derived neighborhood interpolation weights[C]//Data Mining,
2007. ICDM 2007. Seventh IEEE International Conference on. IEEE, 2007:
43-52.
- Indyk P, Motwani R. Approximate nearest neighbors: towards
removing the curse of dimensionality[C]//Proceedings of the thirtieth
annual ACM symposium on Theory of computing. ACM, 1998: 604-613. LSH
- Buhler J. Efficient large-scale sequence comparison by
locality-sensitive hashing[J]. Bioinformatics, 2001, 17(5): 419-428.
LSH应用
Model Based Methods
- Koren Y, Bell R, Volinsky C. Matrix factorization
techniques for recommender systems[J]. Computer, 2009, 42(8):
30-37.主要集中在因式分解实现协同过滤方法,如果看完Advances in collaborative
filtering[M]//Recommender Systems Handbook的话,这篇文章就没有必要再看了
- Singh A P, Gordon G J. A unified view of matrix factorization
models[M]//Machine Learning and Knowledge Discovery in Databases.
Springer Berlin Heidelberg, 2008: 358-373.
Hybrid Methods
- Koren Y. Factorization meets the neighborhood: a multifaceted
collaborative filtering model[C]//Proceedings of the 14th ACM SIGKDD
international conference on Knowledge discovery and data mining. ACM, 2008:
426-434. 因式分解与Neighbour-based方法融合
- Burke R. Hybrid recommender systems: Survey and
experiments[J]. User modeling and user-adapted interaction, 2002,
12(4): 331-370.
- Burke R. Hybrid recommender systems: Survey and
experiments[J]. User modeling and user-adapted interaction, 2002,
12(4): 331-370. 介绍了多种推荐算法进行融合的框架
推荐系统工业界应用
- Netflix:Netflix视频推荐的背后:算法知道你想看什么
- Netflix:Netflix Recommendations Beyond the 5 Stars
- Hulu:Recommender System Algorithm and Architecture-项亮
- Youtube:Davidson J, Liebald B, Liu J, et al. The YouTube
video recommendation system[C]//Proceedings of the fourth ACM
conference on Recommender systems. ACM, 2010: 293-296.
Youtube推荐系统中的主要算法。 百度关键词搜索推荐系统对其进行了优化, 实现了任意类型的级联二部图推荐。 具体内容可参见博文: google youtube 电影推荐算法, 以及百度关键词搜索推荐级联二部图实现
- 豆瓣: 个性化推荐系统的几个问题_豆瓣网王守崑
- 豆瓣:阿稳_寻路推荐_豆瓣
- 豆瓣:豆瓣在推荐领域的实践与思考
- 百分点:量化美-时尚服饰搭配引擎
- weibo及考拉FM:停不下来的推荐实践_陈开江
- 阿里:天猫双11推荐技术应用
- 阿里:淘宝推荐系统
- 当当:当当网搜索和推荐_庄洪波
- 土豆:个性化视频推荐系统土豆_明洪涛
- 360:360推荐系统实践-杨浩
- 盛大:推荐系统实战与效果提升之道-陈运文
- 盛大:智能推荐系统的开发与应用-陈运文
推荐系统书籍
- Segaran T. Programming collective intelligence: building
smart web 2.0 applications[M]. O‘Reilly Media,
2007.寓教于乐的一本入门教材,附有可以直接动手实践的toy级别代码
- Shapira B. Recommender systems handbook[M].
Springer, 2011.
推荐系统可做枕头,也应该放在枕边的书籍,看了半本多。如果将该书及其中的参考文献都看完并理解,那恭喜你,你已经对这个领域有深入理解了
- Jannach D, Zanker M, Felfernig A, et al. Recommender systems:
an introduction[M]. Cambridge University Press, 2010.
可以认为是2010年前推荐系统论文的综述集合
- Celma O. Music recommendation and discovery[M].
Springer, 2010. 主要内容集中在音乐推荐,领域非常专注于音乐推荐,包括选取的特征,评测时如何考虑音乐因素
- Word sense disambiguation: Algorithms and
applications[M]. Springer Science+ Business Media,
2006. 如果涉及到关键词推荐,或是文本推荐, 则可以查阅该书
P.S. 想对某个领域或是工具有深入了解,可以找一本该行业的XX
HandBook满怀勇气与无畏细心看完,然后就会对这个领域有一定(较深)了解,当然如果手头有相关项目同步进行,治疗效果更好^_^
推荐系统工具
- Mahout:基于hadoop的机器学习,数据挖掘,推荐系统开源工具。我厂的超低版本haodop集群居然不支持Mahout,想跑个Mahout还要进行移植,郁闷。。。该死!!
- scikit-learn:基于python的机器学习,数据挖掘库,
方便好用,适合数据量较小的调研任务,不过,一切不支持大数据的机器学习算法,(一定程度上)都是耍流氓。。。。
- weka:经典的数据挖掘工具, java版本
- R:R语言
- Cluto:聚类工具,集成了较多聚类算法及相似度度量方法
- RapidMiner:没用过,但据说使用量非常大
国内推荐系统站点
- http://www.resyschina.com/
因为我一直认为推荐系统不是一个独立的学科,它很多技术都是直接来自于机器学习,数据挖掘和信息检索(特别是文本相关的搜索推荐),所以以下也整理了一些之前工作及工作之余看过,了解过,或者准备看的这方面的资料
数据挖掘资料
- Han J, Kamber M, Pei J. Data mining: concepts and
techniques[M]. Morgan kaufmann, 2006.
数据挖掘方面的handbook,教科书类型,虽然厚,却通俗易懂(再次提醒,要了解某一领域,找本该领域的啥啥handbook耐心认真读完,那你基本对该领域有一定认识了)
- Chakrabarti S. Mining the Web: Discovering knowledge from
hypertext data[M]. Morgan Kaufmann,
2003.介绍了一个搜索引擎中的大部分技术,包括spider,索引建立,内部的机器学习算法,信息检索,而且非常具有实用性,我在百度商务搜索部开发的spider,就是按照其中的架构设计开发的
- Liu B. Web data mining: exploring hyperlinks, contents, and
usage data[M]. Springer, 2007. 如果说 Mining the Web:
Discovering knowledge from hypertext data更偏web
mining更偏整体,工程的话,这本书就更偏策略,两本都读过的话,你对搜索引擎中的数据挖掘算法的了解,就比较全面了
- Wu X, Kumar V, Quinlan J R, et al. Top 10 algorithms in data
mining[J]. Knowledge and Information Systems, 2008, 14(1): 1-37.
专门将2006年评选出来的10大数据挖掘算法拎了出来讲讲
- Rajaraman A, Ullman J D. Mining of massive
datasets[M]. Cambridge University Press,
2012.介绍如何使用hadoop进行数据挖掘,如果有hadoop环境则非常实用
- Feldman R, Sanger J. The text mining handbook: advanced
approaches in analyzing unstructured data[M]. Cambridge University
Press, 2007.文本挖掘的handbook
机器学习资料
- Tom M Mitchell,Machine Learning, McGraw-Hill
Science/Engineering/Mat, 1997,非常早起的机器学习书籍,非常适合入门, 浅显易懂, 但对于工业界应用,
只能说是Toy级别的算法。
- Bishop C M, Nasrabadi N M. Pattern recognition and machine
learning[M]. New York: springer, 2006. 进阶型的书籍,对每种算法都有较为具体的理论介绍
- 课程: 机器学习(Stanford->Andrew Ng)http://v.163.com/special/opencourse/machinelearning.html,大名鼎鼎的Andrew
Ng的机器学习公开课,网易上字幕版本;配合课程stanford cs229对应的handout及习题一起学习效果更好
信息检索
- Agirre, Eneko, and Philip Glenny Edmonds, eds. Word sense
disambiguation: Algorithms and applications. Vol. 33. Springer
Science+ Business Media, 2006.
- Manning C D, Raghavan P, Schütze H. Introduction to
information retrieval[M]. Cambridge: Cambridge University Press,
2008.
- MOFFAT A A, Bell T C. Managing gigabytes: compressing and
indexing documents and images[M]. Morgan Kaufmann,
1999.一本很老的介绍搜索引擎的书了,不过09年的时候看还是被震撼到了,书中各种变着戏法使用几十M内存处理上G数据,感觉非常牛叉。
百度关键词工具介绍参见:http://support.baidu.com/product/fc/4.html?castk=24b18bi7062c720d0d596
也可关注我的微博: weibo.com/dustinsea
或是直接访问: http://semocean.com
推荐系统经典论文文献及业界应用,布布扣,bubuko.com
推荐系统经典论文文献及业界应用
原文:http://www.cnblogs.com/hashi/p/3592499.html