深度推荐算法实践（小麦书）：从级联架构到生成式范式的完整技术路线图

人工智能机器学习深度学习教程示例工程后端前端【免费下载链接】fun-rec推荐系统入门教程在线阅读地址https://datawhalechina.github.io/fun-rec/项目地址https://gitcode.com/datawhalechina/fun-rec点击查看免费下载本文是 Datawhale 开源项目 fun-rec《深度推荐算法实践》又称小麦书的技术导读与实践指南。全书以工业推荐系统的全链路视角组织内容上篇沿着候选召回 → 精准精排 → 多样性重排的经典级联架构展开下篇转向大模型时代的前沿生成式范式并配套一个可完整运行的生产级电影推荐系统实战项目。读完本文你将掌握该项目的章节主线、算法模型与仓库代码的对应关系、funrec 训练评估框架的使用方法以及生产级项目的本地搭建流程。一、项目定位一本以全链路视角组织的推荐算法实践书fun-rec 的定位不是算法大全而是试图解决推荐算法从业者最常见的困惑——论文聚焦单点创新而工业实践看重系统全局权衡。很多入门者读了不少论文却说不清双塔模型、多任务学习各自处于推荐漏斗的哪个阶段有经验的工程师则往往只熟悉自己负责的环节对上下游设计逻辑缺乏整体认知。为此项目按两大板块组织内容详见 README.md上篇级联架构。覆盖推荐系统概述、快速候选召回、精准偏好预测、重排多样性建模四大部分是判别式推荐的工业实践下篇生成式范式。覆盖生成式推荐基础、Scaling Law 架构探索、端到端生成式建模、会思考的推荐模型、基于扩散的推荐模型最终以生产级推荐系统构建收尾。全书正文含前言、安装、符号说明、10 个章节以 reStructuredText 源文件的形式沉淀在 docs/_sources 目录下并通过 Sphinx 构建为在线电子书算法代码位于 src/funrec实战项目位于 web_project。项目仍在持续开发中内容与代码更新较为频繁仓库暂不接受 Pull Request如有建议可通过 Issue 反馈。二、上篇级联架构的三大支柱2.1 快速候选召回召回是推荐流水线的起点需要在毫秒级时间内从亿级物品库中筛出千级候选是整个系统对效率要求最苛刻的一环。上篇第 2 章沿协同过滤 → 向量召回 → 序列召回 → 流式索引的演进路径展开协同过滤从 ItemCF 的物品相似度计算models/item_cf.py、Swing 对共现数据的工业优化models/swing.py、UserCF 的用户相似度计算models/user_cf.py到矩阵分解将用户与物品映射为隐向量models/funksvd.py、models/biassvd.py向量召回I2I / U2I将 Word2Vec 的序列建模思想迁移到推荐场景包括 Item2Vecmodels/item2vec.py、引入 Side Info 的 EGESmodels/eges.py、Airbnb 的全局上下文表征双塔模型 DSSMmodels/dssm.py与 YoutubeDNNmodels/youtubednn.py则分别编码用户与物品向量实现高效的向量检索序列召回MINDmodels/mind.py、SDMmodels/sdm.py引入用户行为的时序信息与兴趣表示将召回从看最后一步升级为理解行为序列流式索引召回Trinity、Streaming VQ 跳出模型内部压缩的思路让索引结构实时适应数据分布的变化。2.2 精准偏好预测精排经过召回粗筛精排需要对千级候选做精准的偏好打分是模型泛化能力的主战场。第 3 章从 WideDeep 确立的记忆 泛化基础框架出发models/wide_deep.py逐层展开特征交叉FMmodels/fm.py、DeepFMmodels/deepfm.py、xDeepFMmodels/xdeepfm.py等二阶与高阶交叉方法让模型摆脱手工特征工程的束缚序列建模DINmodels/din.py用局部激活注意力机制根据候选物品动态激活用户历史行为DIENmodels/dien.py进一步显式建模兴趣随时间的演化DSINmodels/dsin.py将行为组织为会话级序列建模多目标建模从 SharedBottom 的基础结构演进models/shared_bottom.py到 MMoE 的任务依赖建模models/mmoe.py、ESMM 的依赖建模models/esmm.py以及 PLE、HMoE 等多目标损失融合方案多场景建模多塔结构如 STARmodels/star.py与动态权重建模M2M、PEPNet 等。2.3 重排多样性建模精排输出的列表按分数排列往往高度同质化。第 4 章重排技术的任务是在保持相关性的前提下改善整张列表的体验基于贪心的重排最大边际相关性MMR的线性平衡策略、行列式点过程DPP用行列式数学框架对多样性进行精确控制基于个性化的重排PRM 通过 Transformer 建模物品间的相互影响实现端到端的个性化列表生成models/prm.pyPRS 基于排列组合建模整张列表models/prs.py。三、下篇生成式范式的技术图景3.1 生成式推荐基础第 5 章为后续所有生成式章节奠定基础从三个层面展开范式对比判别式建模与生成式核心思想的本质区别架构基石Transformer 自注意力机制与扩散模型前向加噪、反向去噪的工作原理LLM 建模流程从预训练到偏好对齐的三阶段范式以及如何从 LLM 迁移到生成式推荐。核心内容是物品 Tokenizer 技术——这是从记忆 ID到理解内容的技术枢纽。稀疏 ID 词表爆炸、文本 ID 效率低下而基于 VQ-VAE、RQ-VAE 的语义 ID 方案docs/_sources/chapter_5_gr_basic在表示效率与语义丰富度之间取得平衡使物品不再是不透明的符号而是可被模型真正理解的结构化 Token 序列。这一技术贯穿后续所有章节。3.2 Scaling Law 架构探索大语言模型证明了更大的模型 更多的数据 更好的性能但传统推荐模型规模化时遭遇两道瓶颈计算成本与候选数量线性绑定打一个候选就得算一次且 GPU 利用率极低。第 6 章介绍工业界探索的两条互补路径用户粒度建模HSTU 架构演进models/hstu.py、GenRank、MTGR 等方案将逐候选打分转变为用户级序列建模通过 KV Caching 解除线性绑定支持数万长度的用户行为建模硬件感知统一架构RankMixer、OneTrans 用完整的 Transformer 替代碎片化手工模块将 GPU 利用率提升至接近大语言模型的水平。3.3 端到端生成式建模有了规模化基础一个更激进的问题浮现能否直接用一个模型替代整条多阶段流水线第 7 章展示这一思路在三个场景的落地推荐场景OneRec 通过语义 ID、Decoder-Only 架构与基于 DPO 的偏好对齐直接从用户历史生成推荐序列搜索场景OneSug 将查询补全、OneSearch 将商品检索重新定义为生成任务绕过传统倒排索引 多阶段排序链路广告场景EGA 将竞价机制融入生成过程在满足激励相容性约束的同时实现端到端的广告分配GPR 以预训练驱动广告生成。3.4 会思考的推荐模型第 8 章探讨如何赋予推荐模型先思考、再推荐的能力。前面的生成式模型虽能高效生成推荐但决策过程仍是隐式黑箱语义对齐PLUM 框架通过物品索引学习与语义对齐训练将协同过滤信号与语言语义融合到统一表征空间思考框架OneRec-Think 通过物品对齐 → 推理激活 → 推理增强三阶段框架让模型在推荐前生成结构化的推理过程自主推理RecZero、RecOne 探索纯粹通过强化学习奖励信号让模型自主演化出推理策略。3.5 基于扩散的推荐模型与前几章的自回归生成不同扩散模型提供了另一种生成范式。第 9 章展示其在推荐场景的两类应用数据增强DiffuASR 通过条件扩散生成高质量的用户交互序列缓解短序列用户的数据稀疏问题Diff-MSR 用于跨场景增强特征增强与多样性优化AsymDiffRec 用离散特征 dropout 替代高斯噪声构建前向过程天然适配推荐场景中的特征缺失问题DMSG 利用扩散模型的随机采样机制为推荐列表引入可控多样性。四、生产级实战FunRec Recsys 电影推荐系统第 10 章是全书的实践落地章节对应仓库中的 web_project 目录是一个基于 MovieLens-1M 数据集构建的完整电影推荐系统涵盖离线训练、在线服务、前端展示的全流程详见 web_project/README.md。核心特性多路召回YoutubeDNN 向量召回 I2I 相似度召回 偏好类目召回Snake Merge 融合精准排序DeepFM 点击率预测模型冷启动处理UCB 类型探索算法平衡探索与利用多样性重排类型/年代连续打散避免信息茧房完整工程链路特征工程 → 模型训练 → 在线服务 → 前端交互。系统组成离线流水线backend/offline完成特征工程、YoutubeDNN 召回模型训练、DeepFM 排序模型训练、模型部署本地目录与特征上线Redis在线流水线backend/online实现冷启动检测 → 多路召回 → 精排 → 重排 → 结果组装存储采用 PostgreSQL业务数据、Redis特征缓存、Elasticsearch搜索索引前端使用 Vue.js 构建首页推荐、电影详情、搜索、用户认证与个人中心等交互界面backend 应用层。本地运行基于 Docker Compose详见 web_project/README.md下载 funrec-movielens-1m 数据集并解压记录数据绝对路径复制.env.example为.env设置FUNREC_RAW_DATA_PATH原始数据绝对路径与FUNREC_PROCESSED_DATA_PATH处理后数据缓存绝对路径启动基础设施docker compose up --build在 backend 目录下安装依赖需 Python 3.11后依次执行make ingest-data-to-database建表并导入用户、电影、评分数据创建测试用户、make index-movies-to-elasticsearch索引电影到 ES、make run-offline-pipeline特征处理 → 召回/排序模型训练 → 特征上线 → 模型部署首次约需 5–10 分钟通过curl http://localhost:8000/health等命令检查服务访问http://localhost:3000使用前端测试账号 testfunrec.com / test123456。五、代码实践funrec 训练评估框架除了完整的工程项目仓库还提供了一个轻量的模型训练评估框架 src/funrec便于读者逐个复现书中的算法模型。其设计目标是把加载配置 → 加载数据 → 准备特征 → 训练模型 → 评估模型封装为一行函数调用。安装依赖项目通过 pyproject.toml 声明依赖核心包括tensorflow2.13.0、pandas2.0.3、scikit-learn1.3.2、gensim4.3.3、pyyaml6.0.2等要求 Python 3.8 及以上。核心 APIexperiment.pyrun_experiment(model_name)运行单个模型的完整实验流程例如funrec.run_experiment(wide_deep, return_metricsTrue)compare_models(models)训练并评估多个模型输出指标对比表格单个模型失败时以error列保留错误信息保证表格对齐。配置驱动每个模型对应 src/funrec/config 下的一个配置文件以 config_wide_deep.py 为例配置分为四段——data数据集名称如kuairand_data、featuresemb_dim嵌入维度、task_names任务名、每个特征所属的模型分组如wide_deep/linear、training模型构建函数funrec.models.wide_deep.build_wide_deep_model、dnn_units、dnn_dropout_rate、优化器、损失、batch_size、epochs、validation_split、subsample_size等、evaluationmodel_type与用户/物品 ID 列配置。这种配置即实验的设计让读者可以只改配置复现同一模型的多种变体。六、环境搭建与快速开始在开始跑代码之前可以按 docs/_sources/chapter_installation/index.rst.txt 中的步骤搭建环境# 创建并激活 Python 3.10 虚拟环境 conda create --name funrec python3.10 conda activate funrec # 在仓库根目录安装 funrec 库及其依赖 pip install -e .随后下载配套数据集并复制根目录下的.env.example为.env配置两个环境变量FUNREC_RAW_DATA_PATH原始数据绝对路径留空则使用当前路径下的data文件夹FUNREC_PROCESSED_DATA_PATH处理后数据缓存的绝对路径留空则使用当前路径下的tmp文件夹。结语与许可fun-rec 以既有原文档详实的实操又有开源项目源码级深度支撑的方式将推荐系统从级联架构到生成式范式的完整演进串成一条主线既覆盖 ItemCF、Swing、DeepFM、DIN、MMoE 等经典工业方法也覆盖 HSTU、OneRec、OneRec-Think、扩散推荐等近两年最活跃的前沿方向最终通过电影推荐系统实战项目完成理论到工程的闭环。建议读者在理解核心思想后动手运行 src/funrec 中的实验——推荐算法的很多直觉只有在和真实数据打过交道之后才能真正建立起来。项目采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议CC BY-NC-SA 4.0发布具体声明见 README.md 末尾 LICENSE 部分。赞分享人工智能机器学习深度学习教程示例工程后端前端【免费下载链接】fun-rec推荐系统入门教程在线阅读地址https://datawhalechina.github.io/fun-rec/项目地址https://gitcode.com/datawhalechina/fun-rec点击查看免费下载相关推荐FunRec 深度推荐算法实践小麦书指南从级联架构到生成式范式FunRec 深度推荐算法实践小麦书指南从级联架构到生成式范式 导读 README_en.md https://link.gitcode.com/i/e2人工智能机器学习深度学习教程示例工程后端前端GitDiagram 架构深度解析从 GitHub 仓库到交互式架构图的完整生成流水线GitDiagram 架构深度解析从 GitHub 仓库到交互式架构图的完整生成流水线 GitDiagram 是一个免费、简单、快速的开源工具能在数秒内把任AI 应用开发者工具前端后端数据可视化企业级分布式物联网平台架构深度解析从技术选型到亿级连接实践企业级分布式物联网平台架构深度解析从技术选型到亿级连接实践 在数字化转型浪潮中物联网平台正成为企业构建智能化业务的核心基础设施。面对海量设备连接、异构协议适物联网后端前端上一篇10款顶级Android UI自动化测试框架推荐从入门到精通的完整指南下一篇Alipay Ruby Gem高级特性证书模式、异步通知处理与错误处理机制终极指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考