📖标题：Probing Latent Knowledge Conflict for Faithful Retrieval-Augmented Generation
🌐来源：arXiv, 2510.12460

🌟摘要

检索增强生成 (RAG) 已成为增强大型语言模型 (LLM) 真实性的强大范式。然而，现有的 RAG 系统往往存在不忠实的问题，其中模型的响应与检索到的上下文的证据相矛盾。现有的提高上下文忠实度的方法在很大程度上依赖于外部干预，例如提示工程、解码约束或基于奖励的微调。这些作品将LLM视为一个黑匣子，忽略了一个关键问题:LLM内部如何将检索到的证据与其参数内存集成，特别是在知识冲突下。为了解决这一差距，我们对llm中的隐藏状态表示进行了基于探测的分析，并观察到三个发现:知识整合是分层发生的，冲突表现为句子级别的潜在信号，当与参数知识对齐时，不相关的上下文通常会被放大。基于这些发现，我们提出了 CLEAR（RAG 的冲突定位和增强注意力），这是一个框架，（i）将上下文分解为细粒度的句子级知识，（ii）使用隐藏状态探测来定位冲突知识，以及（iii）引入冲突感知微调来指导模型准确整合检索到的证据。在三个基准上进行的大量实验表明，CLEAR 显着提高了准确性和上下文忠实度，在不同的冲突条件下始终优于强基线。相关资源可在 https://github.com/LinfengGao/CLEAR 获得。

🛎️文章简介

🔸研究问题：如何在检索增强生成（RAG）系统中有效识别和处理知识冲突，以提升生成的上下文真实性？
🔸主要贡献：论文提出了CLEAR框架，通过细粒度的知识修剪、隐藏状态探测、冲突感知的微调策略，有效提高了RAG系统在存在知识冲突时的上下文忠实性。

📝重点思路

🔸引入细粒度知识修剪，将检索到的上下文分解为独立的句子级知识，并剔除不相关的知识，以便于后续的冲突检测。
🔸使用隐藏状态探测模块，训练一个多层感知器（MLP）来检测输入知识是否与模型的参数知识存在冲突。
🔸实施冲突感知的监督微调，增强模型对冲突知识的注意力分配，从而改善生成过程中的上下文忠实性。

🔎分析总结

🔸实验结果表明，CLEAR在多个RAG基准测试中均表现出色，优于其他强基线模型，说明方法具有广泛的适用性和一般性。
🔸在不同的语言模型架构下，CLEAR的表现一致改善，这表明它在处理多种类型知识冲突时具有强大的鲁棒性。
🔸进一步分析发现，在冲突感知微调过程中，过度关注冲突知识会影响模型的整体性能，因此需要平衡注意力分配。

💡个人观点

论文提出了一套系统的方法，通过上下文分解后的探测及微调，解决RAG系统中的知识冲突问题。

🧩附录