推荐系统

作为人工智能和机器学习的应用方向之一，推荐系统不仅在学术界积累了众多文献著作，在互联网业界也有着广泛的落地实践，已服务过数亿用户，其算法和系统设计相当复杂。本书结合互联网大规模应用场景的实践需求，回顾了推荐系统的发展历史，解析了核心算法、系统架构、评估方法等诸多推荐系统涉及的方向，具备很强的实用性。内容包括推荐系统介绍、推荐系统原理、推荐系统经典链路、推荐系统进阶、推荐系统内容审核与冷启动、推荐系统架构、推荐系统评估。

本书适合有机器学习基础的学生、算法工程师，以及互联网行业从业人员阅读，也适合想了解推荐系统的跨行业人员阅读。

蔡壮，毕业于天津大学。2019年加入字节跳动，先后在今日头条、西瓜视频、番茄小说、TikTok等业务的推荐团队工作，负责TikTok直播推荐生态与新业务方向。

陈敬伍，硕士毕业于中国科学院计算技术研究所。2019年加入字节跳动，先后在今日头条、西瓜视频、番茄小说、抖音、Flow等业务线负责重要产品和模块。负责Flow AI产品（召回/clc/重排/抖首AI）与抖音双列的推荐业务。

笪庆，硕士毕业于南京大学机器学习与数据挖掘研究所（LAMDA），曾多次获得国内外数据挖掘/人工智能类竞赛冠军，发表和出版了多篇顶级会议论文与书籍。曾任阿里巴巴资深算法专家，主要从事搜索算法相关工作，后加入字节跳动负责内容电商推荐业务，目前负责TikTok电商搜索算法和TikTok电商欧洲区整体算法工作。

李龙一佳，毕业于北京理工大学。2018年加入字节跳动，负责AML团队，推动大规模深度学习的训练调度框架发展，支持全产品线的推荐广告搜索相关业务。

李丕勋，毕业于浙江大学软件工程专业，曾在百度担任算法工程师，从事搜索排序和知识问答研究方向。2018年加入字节跳动，先后在内涵段子、今日头条推荐团队工作，目前负责今日头条推荐算法业务。

李亦锬，毕业于中国科学技术大学。2016年加入字节跳动，先后在AI-Lab、抖音推荐算法团队担任算法工程师，目前负责抖音视频和音乐推荐算法。

刘峰，新加坡南洋理工大学博士，曾在百度参与搜索、地图和Feed流推荐业务，两次获得百度最高奖。2020年加入字节跳动，先后在今日头条和TikTok电商推荐团队工作，目前负责TikTok内容电商推荐方向。

刘小可，伦敦大学学院统计学博士，抖音推荐数据科学团队负责人。

闵启阳，毕业于南京大学，曾在百度担任算法工程师，从事PaddlePaddle深度学习框架的开发。2019年加入字节跳动，先后在AML、Seed团队工作，主要负责推荐算法、医学算法的迭代，目前在巨量模型模型团队。

彭成伦，毕业于东南大学模式学习与挖掘实验室，曾在AI领域会刊与列表发表论文，并在美国担任算法工程师。2021年加入字节跳动，先后从事电商算法优化与抖音新一代推荐架构的重构，现负责抖音电商视频的模型链路优化。

丛书序

推荐序

前言

第1章推荐系统介绍001

1.1推荐系统崛起002

1.2现代化的推荐系统产品005

1.3推荐系统的未来006

第2章推荐系统原理009

2.1推荐系统链路概览010

2.1.1监督学习010

2.1.2推荐系统与监督学习的区别010

2.1.3多阶段推荐系统设计011

2.1.4推荐系统的离/在线流程013

2.1.5推荐系统的实时离/在线联动015

2.1.6端到端的推荐系统017

2.2推荐方法018

2.2.1模型结构与特征设计020

2.2.2目标设计022

2.3推荐效果评估025

2.3.1离线评估025

2.3.2在线评估028

第3章推荐系统经典链路031

3.1召回阶段032

3.1.1召回阶段的作用及特殊性033

3.1.2召回阶段的建模方法035

3.1.3召回建模的分类035

3.1.4u2i召回035

3.1.5i2i召回042

3.1.6u2u2i召回044

3.1.7召回的特定问题与解法045

3.2粗排阶段050

3.2.1粗排阶段的定位050

3.2.2粗排阶段的建模思路050

3.2.3粗排模型的结构052

3.2.4粗排效果的评估056

3.3精排阶段056

3.3.1经典精排模型057

3.3.2特征交叉增强061

3.3.3序列建模063

3.4重排阶段070

3.4.1重排阶段的框架071

3.4.2一阶段式重排072

3.4.3二阶段式重排075

3.4.4多体裁混排078

3.4.5对重排范式的思考084

第4章推荐系统进阶088

4.1推荐系统的多样性089

4.1.1问题设定090

4.1.2相似度度量092

4.1.3约束规则095

4.1.4最大边际相关096

4.1.5行列式点过程098

4.1.6相关拓展104

4.2Listwise建模107

4.2.1LTR方法107

4.2.2评估式生成方法116

4.2.3生成式建模方法124

4.3多种用户行为建模126

4.3.1用户行为126

4.3.2常见的建模方法129

4.3.3多目标融合140

4.4消偏141

4.4.1关于偏差的例子141

4.4.2常见偏差和消偏方法142

4.5图模型153

4.5.1图模型介绍153

4.5.2图模型在推荐系统中的经典实践156

4.5.3图模型的挑战和未来169

4.6探索与利用170

4.6.1问题与算法171

4.6.2业务应用179

4.6.3E&E平台183

4.7动态权重/门控类模型185

4.7.1动态权重/门控类模型介绍187

4.7.2动态权重/门控类模型的建模方式188

4.7.3动态权重/门控类模型的性能197

第5章推荐系统内容审核与冷启动202

5.1内容审核203

5.1.1审核系统的目标204

5.1.2审核流程设计205

5.1.3审核策略设计205

5.1.4审核模型设计206

5.1.5抄袭和洗稿识别209

5.1.6谣言识别213

5.2冷启动215

5.2.1冷启动的问题和挑战215

5.2.2通用技术手段——元学习218

5.2.3用户冷启动实践224

5.2.4物料冷启动实践229

第6章推荐系统架构233

6.1推荐系统整体架构234

6.2数据流样本拼接237

6.2.1实时样本拼接237

6.2.2大数据架构结合推荐系统239

6.3分布式训练239

6.3.1数据并行和模型并行240

6.3.2参数服务器异步训练架构243

6.4推理优化246

6.4.1什么是推理优化246

6.4.2推理优化实用技巧246

第7章推荐系统评估250

7.1A/B实验简介251

7.1.1A/B实验的基本假设251

7.1.2A/B实验的分流252

7.1.3A/B实验的基本流程254

7.1.4假设检验255

7.2A/B实验的指标建设257

7.2.1业务规模类指标的检验257

7.2.2效率类指标的检验258

7.3A/B实验指标的灵敏度提升259

7.3.1CUPED方法260

7.3.2协变量调整261

7.3.3极值截断261

7.4A/B实验的注意事项262

参考文献263