图计算与推荐系统

（1）作者背景资深：作者是资深的人工智能技术专家、搜索与推荐系统技术专家，在多加企业担任算法专家、技术总监、CTO等职。
（2）作者经验丰富：作者在人工智能（NLP方向）、搜索与推荐领域工作10余年，主导了多个推荐系统项目，实战经验丰富。
（3）紧跟技术前沿：讲解图计算、图神经网络、知识图谱在推荐系统领域的最新应用，以及推荐系统的热点问题和研究方向。
（4）解决工程难题：讲解工业级推荐系统的架构、面临的难题以及解决方案，以及工业级推荐系统的增长方案。
（5）注重实战、案例详细：本书注重实战，旨在解决工程实践中的具体问题，包含大量案例且讲解详细。
（6）图文并茂、通俗易懂：书中包含大量图、表，以可视化方式呈现，语言通俗易懂，阅读体验好，让读者事半功倍。

这是一本全面讲解图计算、知识图谱及其在推荐系统领域应用的专著，为读者基于神经网络构建推荐系统提供了详细指导，是作者在相关领域10余年经验的总结。掌握本书内容，读者可开发出能处理多模态数据的推荐算法系统，提供更丰富和准确的推荐体验。
本书主要内容分为两篇。
第一篇 图数据以及图模型（第1-3章）
对图数据、图神经网络、知识图谱的基础知识进行了梳理，帮助读者掌握着3项技术的关键原理与算法，为后面的学习打下基础。
第二篇 推荐系统（第4-9章）
首先介绍了推荐系统的架构，包括逻辑架构、技术架构和数据建模，以及基于GNN的推荐系统架构；然后详细讲解了如何基于GNN构建推荐系统，以及基于图的推荐算法；再接着讲解了知识图谱在推荐系统中的应用以及相关的算法模型；最后，探讨了推荐系统领域当前的热点问题、研究方向以及工业级推荐系统领域的核心难题

本书注重实战，故理论知识简练且极具针对性，包含大量实战案例，图文并茂，易于阅读。

刘 宇

资深AI技术专家和搜索与推荐领域专家，曾在多家互联网公司担任资深算法专家、技术总监以及技术VP，现担任某创业公司CTO。在人工智能和信息检索领域有10余年开发经验，对主流的推荐、搜索、聊天机器人、大模型等技术、产品与解决方案都有深入研究，尤其擅长用简单高效的方法解决公司的数智化问题。 项目经验丰富，曾成功主导多个电商算法项目的落地和实施，参与完成多个推荐系统从0到1的搭建。曾在多家单位获得个人开发优秀贡献奖，带领团队多次获得团队优秀贡献奖。著有《智能搜索和推荐系统：原理、算法与应用》《聊天机器人：入门、进阶与实战》，其中前者在2022年被某电商平台评为“人工智能领域最受读者喜爱图书ToP5”。

Contents..目　　录
推荐序一
推荐序二
推荐序三
前言
第一篇 图数据与图模型
第1章 图数据基础               2
1.1 数学基础                2
1.2 图的基本知识                     4
1.2.1.什么是图                4
1.2.2.图中基本元素及定义          5
1.3 图的表示方法                   10
1.3.1.图的代数表示            11
1.3.2.图的遍历                   13
1.4 图数据及图神经网络              14  
1.4.1.图数据的性质            14
1.4.2.图数据应用               15
1.4.3.图神经网络的发展史        16
1.5 本章小结                          17
第2章 图神经网络基础             18
2.1 神经网络的基本知识              18
2.1.1.神经元                 19
2.1.2.前馈神经网络            22
2.1.3.反向传播                   23
2.2 卷积神经网络                   24
2.2.1.卷积神经网络基本概念
和特点                 25
2.2.2.卷积神经网络模型           29
2.3 循环神经网络                   30
2.3.1.循环神经网络结构和
特点                    31
2.3.2.循环神经网络模型           35
2.4 图神经网络                       36
2.4.1.图神经网络综述         36
2.4.2.卷积图神经网络         41
2.4.3.循环图神经网络         42
2.5 本章小结                          44
第3章 知识图谱基础                 46
3.1 知识图谱的定义和模型           46
3.1.1.知识图谱定义            47
3.1.2.知识图谱嵌入            48
3.1.3.距离变换模型            51
3.1.4.语义匹配模型            53
3.2 知识图谱上的神经网络           55
3.2.1.关系图卷积网络         55
3.2.2.知识图谱与注意力模型      55
3.3 本章小结                          59
第二篇 推荐系统
第4章 推荐系统架构                 62
4.1 推荐系统的逻辑架构              62
4.2 推荐系统的技术架构              67
4.3 推荐系统的数据和模型部分         69
4.3.1.推荐系统中的数据平台
建设                    69
4.3.2.推荐系统中的数据挖掘
方法                    73
4.3.3.推荐系统模型            76
4.4 推荐系统的评估               81
4.4.1.推荐系统的评估实验
方法                    89
4.4.2.离线评估                   89
4.4.3.在线评估                   92
4.5 基于GNN的推荐系统架构          94
4.6 本章小结                          96
第5章  基于GNN的推荐系统构
建基础                      97
5.1 关于嵌入                          97
5.2 Word2Vec                        102
5.2.1.哈夫曼树与哈夫曼编码     103
5.2.2.基于Hierarchical Softmax的CBOW模型             104
5.2.3.基于Hierarchical Softmax
的Skip-gram模型           107
5.3 Item2Vec                         109
5.4 图嵌入                       111
5.4.1.DeepWalk算法         112
5.4.2.Line算法                 113
5.4.3.Node2Vec算法         115
5.5 本章小结                       117
第6章 基于图的推荐算法         118
6.1 基于图的召回算法                 118
6.1.1.从协同过滤到GCMC     118
6.1.2.召回阶段的深度学习
算法                   121
6.1.3.图召回的方法           129
6.2 基于图的排序算法                 141
6.2.1.基于特征交互建模——GraphFM模型          142
6.2.2.基于显式关系建模——
GMT模型                145
6.3 本章小结                       150
第7章 知识图谱与推荐系统          151
7.1 利用图谱建模                  151
7.1.1.RippleNet模型         152
7.1.2.KGAT模型              155
7.2 图谱建模与物品推荐关联学习     159
7.2.1.KTUP模型              159
7.2.2.MKR模型               161
7.3 物品增强学习                  164
7.3.1.DKN模型                164
7.3.2.KRED模型              166
7.4 增强可解释性                  169
7.4.1.KPRN模型              170
7.4.2.PGPR模型               171
7.5 本章小结                         175
第8章  推荐系统的热点问题和
研究方向                  176
8.1 推荐系统的热点问题             176
8.1.1.多源数据融合           177
8.1.2.冷启动                178
8.1.3.可解释性                  183
8.1.4.探索和利用              184
8.1.5.茧房效应                  188
8.1.6.用户隐私                  189
8.1.7.评估问题                  190
8.2 推荐系统研究方向                 190
8.2.1.推荐中的图神经网络       192
8.2.2.推荐中的强化学习          193
8.2.3.因果推荐                  200
8.3 本章小结                         202
第9章 推荐系统实践                203
9.1 工业级系统架构               203
9.1.1.工业级推荐系统的特点     204
9.1.2.推荐系统的常见架构       205
9.1.3.工业级基于图神经网络的
推荐系统                  207
9.2  工业级推荐系统问题及解决
办法                           209
9.2.1.冷启动问题及解决办法     209
9.2.2.模型问题及解决办法       210
9.3 工业级推荐系统增长方案            212
9.3.1.召回                   212
9.3.2.排序                   215
9.4 本章小结                         218

前　　言　Preface　
为什么要写本书
2023年各大会议的投稿统计显示，图神经网络仍然是一个热点方向。实际上，图在任何领域都是一种复杂的数据结构。正是由于复杂，才吸引了众多专家进行研究。推荐系统是颇具应用前景的人工智能方向之一，它与图神经网络的结合必将产生巨大价值。
2003年，我开始接触知识图谱。知识图谱符合人类的学习和认知习惯，其出现大大提高了信息检索能力。人类能够处理复杂信号，从中学到有用的信息，是因为人的大脑已将这部分复杂信号处理成相互影响、有联系的信息，甚至提炼成有价值的知识。2012年，我因项亮等编写的《推荐系统实践》一书开始接触检索系统并特别关注推荐系统，当时脑海中有很多奇怪的想法。首先，用户怎么才能得到最好的检索结果？其次，系统推荐的物品到底是不是用户真正想要的？最后，系统如果一直推送用户喜欢的物品，它到底是怎么做到的？我带着这些疑问进一步学习。后来，我在工作中将深度学习和信息检索联系起来，在实践中取得了不错的效果，于是就有了将深度学习、推荐系统以及知识图谱结合起来的想法，并申请了一些专利。
2023年，ChatGPT横空出世。ChatGPT的出现让人们看到了人工智能的曙光，它的发展也让我们这些技术人员有了隐隐的担忧：它有可能改变信息检索的业态吗？但是，从另一个角度来看，人类进化了这么长时间，思考事物的底层逻辑仍然是不可取代的。
因此，当神经网络再次流行，当知识图谱概念盛行，当基于图数据的深度神经网络流行起来时，我有了将十几年的工作经验总结出来的想法，于是有了这本书。希望本书能让更多的技术人员在学习和前行的道路上不惶恐、不焦虑。
读者对象
本书是一本介绍图计算、建模以及基于图的推荐原理与实践的书籍，适合以下人群阅读。
.推荐系统研发中高级工程师
.自然语言处理中高级工程师
.图神经网络中高级工程师
.深度学习中高级工程师
.人工智能中高级工程师
如何阅读本书
本书分为两篇。
第一篇：图数据与图模型（第1~3章）
第1章主要介绍图数据的基础知识，帮助读者理解数据结构中图的概念以及图数据结构的表示。
第2章主要介绍图神经网络基础知识。
第3章主要介绍知识图谱的基础知识。
第二篇：推荐系统（第4~9章）
第4章主要介绍推荐系统的架构。推荐系统是一种信息过滤技术，旨在为用户提供个性化的推荐内容，帮助用户发现感兴趣的物品或资源。推荐系统的核心目标是根据用户的偏好和行为，预测和推荐用户可能感兴趣的物品。
第5章和第6章主要介绍基于GNN的推荐系统的构建基础知识，以及利用图数据进行推荐的算法。
第7章对知识图谱在推荐系统中的应用展开讲解。
第8章和第9章介绍推荐系统的热点问题和研究方向以及实践案例。研究人员致力于开发可解释的推荐模型，以提高用户对推荐结果的信任度和满意度。
勘误和支持
由于作者水平有限，书中难免会有一些错误或者不准确的地方，恳请读者批评指正。如果你有更多的宝贵意见，也欢迎发送邮件至邮箱[email protected]，期待得到你的真挚反馈。
致谢
感谢董文兴博士、邓宇博士认真细致地审稿并提供宝贵的意见。
感谢我的妻子和两个可爱的女儿，她们时时刻刻给予我信心和力量！
谨以此书献给我最亲爱的家人，以及众多热爱人工智能和机器学习的朋友们！