推荐系统 — rin.contact

现代生活中出人意料的一大部分，是被推荐系统塑造的：一个流媒体服务推到你眼前的电影、一家商店建议的商品、一个信息流接下来给你看的帖子。它们是个性化的引擎，而它们核心的想法真正优雅——从每个人过去喜欢过什么的模式里，预测一个特定的人会有多喜欢一个特定的东西，并据此排序。

它值得好好了解，有两个原因。它的机制漂亮地连回降维——核心的技术就是同一个潜在因子的想法——而它的失败模式（过滤气泡、反馈回路）是整个应用机器学习里社会后果最严重的一些。这一页讲整体的地形：两大策略、矩阵分解引擎，以及哪里会出问题。

预测你会喜欢什么

把问题想成一张巨大的、大部分为空的表：行是用户，列是物品，每个格子是那个用户有多喜欢那个物品—— 一个评分、一次点击、一次购买。问题在于这张表极度稀疏：任何一个人都只与所有物品里极小的一部分有过交互。推荐器的工作就是把空白填上——预测缺失的格子——然后推荐它预测你会打最高分的物品。

做这件事有两种根本不同的方式，区别在于它们去哪里寻找信号：在物品本身，还是在其他用户构成的人群。

基于内容的过滤：更多你喜欢过的那类

基于内容的过滤看的是物品。它从你过去喜欢过的东西的特征里，建立起一个「你喜欢什么」的画像，然后推荐有相似特征的物品。喜欢过好几部硬科幻电影？这里又有一部标着科幻的。物品特征可以是显式的（类型、作者、价格），也可以是描述的学习得到的文本嵌入，而「相似」就是 NLP 页里那个同样的向量距离的想法。

它的强项与弱点是一枚硬币的两面：它能在全新的物品一被录入目录的那一刻就推荐它（它只需要它们的特征），而且它从不需要其他用户——但它被困在你已有的口味里。它永远只能建议更多同类的东西，从不会有那种喜出望外、从天而降的发现。要那个，你需要人群。

协同过滤：群体的智慧

协同过滤完全忽略物品特征，只用交互的模式——群体的智慧。直觉是：「过去与你意见一致的人，未来也会与你一致。」两种风味：

用户—用户——找到口味与你相似的人，把他们喜欢、而你还没看过的东西推荐给你。
物品—物品——找到倾向于被同一批人喜欢的物品，把（在那种共同喜欢的意义上）与你打过高分的物品相似的物品推荐给你。（「购买此商品的顾客也购买了……」）这是大多数大规模系统的驱动力，因为物品—物品的关系比用户口味更稳定。

协同过滤的魔力在于，它不需要知道物品实际上是什么——只需要知道谁与什么交互过。那也是它的弱点，下一节的技术会处理它，而再后面的冷启动问题会把它暴露出来。

矩阵分解：潜在因子引擎

驱动了现代协同过滤——并著名地赢得了 Netflix 大奖——的那个突破是矩阵分解。想法是：把巨大稀疏的用户—物品评分矩阵 $R$ 近似为两个小得多的稠密矩阵的乘积：

R_{\,m \times n} \;\approx\; U_{\,m \times k}\, V_{\,n \times k}^{\top}

每个用户变成一个由 $k$ 个潜在因子组成的短向量，每个物品也是。一个预测的评分，就是一个用户的向量与一个物品的向量的点积。这些因子是学出来的、而非标注的——但它们往往对应可解释的维度（「有多科幻」「有多轻松」），而一个用户在某个因子上的分数，乘以一个物品在同一个因子上的分数，就捕捉到了他们的契合度。

矩阵分解。巨大、稀疏的用户—物品矩阵被两个瘦长的矩阵近似——每个用户、每个物品一个短的潜在因子向量。一个预测的评分是这两者的点积。这与 PCA 是同一个低秩、潜在维度的想法。

这与 PCA 是同一个低秩、潜在维度的想法——把一个巨大的矩阵压缩进几个有意义的维度——这正是为什么线性代数的基础在这里直接见效。它还优雅地处理稀疏性：你只在你确实观测到的格子上拟合，而分解会泛化到其余的格子。

冷启动问题

协同过滤的一大弱点是冷启动问题：它需要交互历史，而一个全新的用户或物品一点历史都没有。你没法给一个你一无所知的人推荐，你也没法把一个刚加进来、还没人碰过的物品推上去。这是每一个新推荐器核心处那个先有鸡还是先有蛋的难题。

标准的修法是走混合路线：对新用户和新物品依靠基于内容的方法（它只需要特征），然后随着交互历史的积累转向协同过滤。大多数生产系统正是因为这个原因而是混合的——每种方法都覆盖另一种的盲点。

衡量成功：关键在于排序

评估推荐器比一个单一的准确率数字更微妙，因为要紧的是你展示之物的顺序，而非一个精确的评分。指标是以排序为中心的：precision@k（在前 k 个推荐里，有多少是相关的？）和 NDCG（它还奖励把最好的物品放到最高）。你关心的是列表的顶部——没人会滚动到第 200 条推荐。

气泡与反馈回路

推荐器不只是预测行为——它们塑造行为，而那制造出比任何准确率指标都更大的问题：

流行度偏差——群体的最爱被推荐得最多，于是它们被交互得最多，于是它们被推荐得更多。富者愈富，而小众的物品始终不可见。
过滤气泡 / 回音室——通过给你看越来越多你已经参与的东西，系统收窄了你的世界，这对电影是无害的，对新闻和观点却是腐蚀性的。
反馈回路——模型的推荐成为它接下来训练所用的数据，于是它从自己的影响里学习，并可能失控地盘旋上升。这是奖励塑形问题换了个样子：优化原始的参与度，你可能恰恰放大那些最大化点击的耸动或上瘾的内容，不管它对任何人是否有好处。

它在我工作中的体现

排序、潜在因子与反馈回路

推荐系统不是政府分析师的核心工具，但它的机制可以推广到任何排序或优先级排定问题—— 从一长串里把最值得关注的案件、物品或线索浮现出来，这是一种不断重现的形状。矩阵分解 / 潜在因子的想法就是与 PCA 相同的低秩压缩，而那些排序指标（precision@k）是你评判任何「给我看前 N 个」系统的方式。

不过，最能迁移过来的，是那个警示性的一半。反馈回路——一个在自己过去输出的后果之上训练的模型——是一个远超推荐器的陷阱：任何作用于世界、然后又从那个被改变的世界里学习的系统，都有把自己的偏差固化下来的风险，这直接连到公平和漂移问题。知道这个失败模式，正是让你能去提防它的东西。

60 秒回顾

一个推荐器填补一张稀疏的用户 × 物品矩阵，并对预测出的最爱排序。
基于内容（按特征推荐相似物品——能处理新物品，但把你困在你的口味里）对协同（用群体的交互——「像你这样的人喜欢」；物品—物品驱动大多数大系统）。
矩阵分解（ $R \approx U V^\top$ ）为每个用户/物品学出短的潜在因子向量；评分 = 点积。与 PCA 同一个低秩的想法。
冷启动问题（新用户/物品，无历史）→ 走混合（新的用内容，历史增长后用协同）。
用排序评估（precision@k、NDCG）——但留意离线—在线鸿沟；由实时 A/B 测试评判。
重大的问题：流行度偏差、过滤气泡、反馈回路——推荐器塑造行为，而不只是预测它。

基于内容对协同的划分、矩阵分解/冷启动的框架，以及过滤气泡/反馈回路的告诫，反映了当前的推荐系统参考文献以及课程。