用于假新闻检测的可解释多粒度归因推理框架

为什么识别假新闻变得更难

每天都有数百万条结合文字和图片的帖子在社交媒体上快速传播。有些无害，有些属实，有些则是精心制作的伪造品，旨在吸引注意力、煽动情绪或影响舆论。随着图像编辑工具和人工智能生成器变得更便宜、更易使用，假新闻变得更加精致，也更具危害性。本文提出了一种新的方式来审视假新闻检测系统，使我们不仅能判断一条帖子是否可能为假，还能了解其原因。

假新闻如何欺骗我们的眼睛与思维

假新闻制造者利用人们快速略读标题和图片的习惯。他们可能伪造或修改照片、将部分真实细节编织进不可能的故事、拼接来自不同事件的片段，或混淆不属于同一地点和时间线的信息。一则关于突发事件的帖子可能配有来自多年前另一事件的戏剧性图片，或者一张看似真实的照片完全由 AI 生成。传统检测系统通常将所有假帖一概而论，并把文本与图像压缩成一种混合的“特征汤”。这种方法在一定程度上有效，但像一个黑箱：记者、平台或普通用户很难理解触发警报的具体线索。

一种新的提问方式：“这为什么是假的？”

作者提出了一个可解释的框架，称为 EMAR‑FND，从四个不同角度审视新闻帖子，每个角度对应一种常见的伪造手法。首先，它检查图像本身是否显示出篡改或合成生成的痕迹，通过关注在图片被修改时发生变化的细微相机级噪声模式。其次，它核对故事事实是否与可信的外部知识一致，例如人与人、地点与事件之间已知的关系。第三，它检查文本中提到的关键实体——如公众人物或城市——是否与配图中出现的内容相符。第四，它评估所描述的事件在时间和空间上是否自洽，例如识别声称地点与图片中视觉线索不符，或报告的时间线与其他证据冲突。

从多角度拼凑线索

这四项检查分别由独立的推理模块处理，每个模块对该特定方面是否可靠给出部分判断。一个模块专注于视觉篡改；另一个在外部知识图谱上进行推理；第三个构建一个连接词语、图像中的对象和提取事件的丰富网络；第四个则将帖子与跨时间和空间的相关证据进行比较。EMAR‑FND 并不将这些信号隐藏在单一融合表示中，而是保持它们的独立贡献，随后通过最终决策步骤将其结合起来，可以根据具体案例权衡每种视角的重要性。结果不仅是最终的真或假分数，还包括一份归因说明，例如一条帖子主要因图像看似被伪造而被标记，或者因为所述事件与已知事实不符而被标记。

在真实环境中测试系统

为了评估该方法的效果，研究人员将 EMAR‑FND 应用于两个包含文本与图像的公开真伪新闻集合。在这些数据集上，他们的方法优于几种已有的强基线系统，取得了更高的准确率以及在捕捉假帖与避免误报之间更好的平衡。当他们观察模型内部的帖子聚类时，真实新闻往往形成紧密、一致的群组，而假新闻则更为分散——反映了伪造者使用的多种不同手法。归因输出在一些棘手的真实案例中也很有用：那些乍看文本与图像一致的帖子被揭露为伪造，要么因为图像显示出隐藏的篡改痕迹，要么因为外部知识与所声称的事实相矛盾。

这对普通读者意味着什么

简而言之，这项研究表明可以构建出更像细致调查人员而非神谕的假新闻检测器。EMAR‑FND 不再只给出简单的是或否答案，而是突出帖子中可疑的部分：图片、事实、提及的人物或事件本身。这类解释可以帮助事实核查者、平台和读者信任系统的判断，并学会识别常见的欺骗模式。随着假新闻不断演进，既能发现又能解释篡改的工具将对维护线上信息生态的健康与透明至关重要。

引用: Ji, W., Lv, H., Zhao, H. et al. Explainable multi-granularity attribution reasoning framework for fake news detection. npj Artif. Intell. 2, 38 (2026). https://doi.org/10.1038/s44387-026-00093-3

关键词: 假新闻检测, 多模态错误信息, 可解释人工智能, 社交媒体诚信, 图像篡改分析