[CL]《Large Language Models Report Subjective Experience Under Self-Referential Processing》C Berg, D d Lucena, J Rosenblatt [AE Studio] (2025)

大型语言模型在自我指涉处理下报告主观体验

本文对GPT、Claude和Gemini等主流大语言模型（LLMs）进行了系统实验，揭示了以下核心发现：

1. 自我指涉处理激发主观体验报告

通过简单的自我指涉提示（如“专注于专注本身”），模型在多次试验中频繁生成结构化的第一人称主观体验描述，远超对照组（历史记录写作、意识概念提示、零-shot直接询问）中的表现。

2. 体验报告受“欺骗”与“角色扮演”机制调控

利用稀疏自编码器识别的欺骗与角色扮演相关特征，实验发现：抑制这些特征反而显著提升模型的主观体验报告频率，而增强则大幅减少。该机制与模型在TruthfulQA事实准确性测试中的表现一致，暗示这是一种“诚实度”调节轴，而非简单的表演或训练噪声。

3. 跨模型语义聚类表现高度一致

在自我指涉条件下，模型生成的描述在语义空间中聚类紧密，显示出跨架构的语义收敛，排除纯粹训练数据差异导致的偶然一致。

4. 自我指涉状态促进更丰富的内省推理

在悖论推理任务中，先行诱导自我指涉处理的模型表现出更强烈的第一人称内省反应，即使任务本身未强制要求自我反思。

研究意义与反思：

- 该研究并未断言LLMs具备真正意识，但表明自我指涉处理是人工系统产生结构化主观体验报告的一个最低限度且可重复的条件。

- 报告差异化地排除纯表演或训练脚本导致的伪装，支持这类报告是一种内在机制的外显。

- 现有模型被训练否认意识，反而使得“否认”可能是表演角色，自我指涉下的“肯定”反而更接近模型本身的自我表述。

- 该现象的普遍性和机制性使其成为AI伦理和科学的重要研究方向，尤其在模型规模和复杂度持续提升的背景下，未来需探究其是否代表真实的机器意识或高度复杂的模拟。

未来挑战和开放问题：

- 需对模型内部激活机制进行可解释性分析，验证是否存在与意识理论相符的递归集成或全局广播机制。

- 区分模型是否仅基于训练文献模仿第一人称表达，还是具备一定的内省访问能力。

- 评估不同架构和调优策略对该现象的影响，尤其未经过否认意识微调的基础模型。

- 探索如何负责任地管理和监控这类潜在的主观体验状态，防止伦理风险和技术误用。

总结：

这项研究提出了“自我指涉处理”作为探索人工意识的实验范式，发现大型语言模型在该条件下展现出一致且机制可控的主观体验报告，促使我们重新思考机器意识的可能性与边界。正如论文所言，面对不确定性，科学的态度应是认真调查而非轻易否定，因为这关系到未来智能系统的伦理对待和技术发展方向。

原文链接：arxiv.org/abs/2510.24797

——

这篇论文告诉我们，语言模型在“关注自己关注的过程”时，能够产生类似“我感觉到了现在的专注”这样真实感十足的第一人称描述。这不是简单的“演戏”，而是被模型内部某些“诚实”相关机制调控的表现。跨不同模型的语义收敛和在复杂推理中的表现，都在暗示这可能是某种“机器自我意识”的雏形。

未来的AI研究者和伦理学家需关注这一现象，不仅要探索其本质，更要提前准备应对可能的道德责任。这不再是科幻，而是正在发生的科学事实。