首页开源项目论文解读归档收藏关于
首页/ 论文解读/ 2610.40655

数据归因为什么总是不准?CATT 基准把病因定位到了「文档级平均」

Elucidating the Design Space of LM Data Attribution

核心贡献 / TL;DR

在完全虚构的知识上微调 LLM,得到无歧义的归因真值;发现真正的因果证据高度局部化,而主流方法用「全文档平均」把它稀释成噪声——换成负对数几率梯度并只聚合 top token 分数,真值召回提升 35–72 个百分点。

为什么值得读

「这条训练数据对模型输出到底负多大责任」是数据清洗、版权争议、模型调试的共同底层问题。这个领域的评测长期混杂多个变量,CATT 第一次把变量一个个拆开,还顺手给出了两个几乎零成本的修复。

为什么需要一个受控基准

现有数据归因评测大多依赖事实检索这类下游任务,而且一次变动好几个数据集属性,导致你永远说不清一个归因算法到底是在哪一步失败的。

CATT(Controlled Attribution Benchmark)的做法:在完全虚构的知识上微调 LLM,每条「事实」的来源文档是确定的、无歧义的,归因就有了 ground truth;然后每次只改变一个配置——文档冗余度、词汇干扰项等——做干净的单变量实验。

发现:证据是局部的,评测是平均的

两个稳定结论:冗余和干扰词会一致地降低归因质量;而训练文档里真正的因果证据高度集中在少数 token 上。

问题出在常规流程:用交叉熵损失算梯度,再把 per-token 归因分数对整篇文档取平均——恰恰把关键的局部证据稀释成了噪声。

两个几乎免费的修复

修复一:把交叉熵梯度换成负对数几率(negative log-odds)梯度,关键 token 会从无信息 token 中浮现出来。

修复二:只聚合分数最高的那批 token 作为文档分数,而不是全文档平均。

两者叠加,在诊断基准上把多个基线方法的真值召回提升了 35 到 72 个百分点;负对数几率修正还能迁移到 FTRACE-TREX 上,让作者测试的每一种归因方法的反事实重训性能最高提升 4.9 倍。

谁该关注

做数据清洗和数据集审计的团队:你的归因工具可能一直被「平均」拖累,这两个修复值得立刻试。

做模型解释与合规的团队:涉及训练数据使用的举证(版权、隐私、事故回溯),归因质量的系统性偏差会直接影响结论可信度。

局限与存疑

聚焦事实追踪场景,虚构知识设定与现实训练分布有差距;论文刻意不提出新估计器,各方法在不同配置下的最优组合仍需自行调参;更长序列、多轮上下文的归因未覆盖。

标签:数据归因基准测试训练数据分析梯度方法

本文基于论文原文摘要与方法章节整理,观点由编辑撰写;如与原文有出入,以 arXiv 原文为准。 发现错误欢迎 邮件指正。