IT时代网11月8日消息，一项新研究发现，基于大语言模型（LLM）的商品推荐系统在用自身生成的推荐结果重新训练时，会过度集中于少数商品，或反复给出错误推荐。研究认为，初始阶段的偏差与错误不会消失，反而会随着模型使用自身推荐结果继续训练而累积。
韩国蔚山科学技术院人工智能研究生院的研究团队开发了名为EchoTrace的诊断工具，用于追踪基于LLM的推荐系统中偏差与错误如何产生、如何累积，并用它对三类推荐系统做了分析。
这三类方式分别是：LLM直接推荐商品、由LLM生成反映用户偏好的虚拟画像、以及用LLM为推荐模型生成额外训练数据。
结果显示，在LLM直接推荐商品的模型中，出现了推荐不存在条目的错误，电影推荐中占4.07%，图书推荐中占7.40%，商店推荐中占13.14%。
在LLM生成的用户画像中也发现了错误：使用电影使用数据时，LLM为用户推荐的职业有93.16%与原始信息不符，模型还凭空生成了原有职业分类中并不存在的“影评人”。最终推荐结果也比真实用户记录更偏向热门条目。
即使经过五轮使用推荐结果的重训练，初始偏差与错误依然存在，部分系统对热门条目的集中度还进一步上升。在LLM直接推荐电影的模型中，100人里有86至92人在选择下一部电影时主要参考了AI此前的推荐。
这类反馈回路把AI的推荐当作新的用户选择记录再训练，使初始偏差持续影响后续推荐。研究团队表示，该成果建立了系统性框架，可用于诊断LLM推荐系统在反复推荐中偏差与错误的累积与放大过程，有助于设计和评估更安全可靠的推荐系统。
相关成果已被数据挖掘领域国际学术会议ACM CIKM 2026接收。
编辑：林一舟
