模型与研究巴西

脑信号帮助人工智能识别误解的目标与错误的行动

韩国科学技术院（KAIST）和微软亚洲研究院的研究人员推出了神经价值对齐，一种仅通过脑电记录即可让 AI 检测误读用户意图或选择不当策略的脑机接口。

nullbot 编辑部发布于 2026年10月5日阅读约 3 分钟信息来源 (2)

来自韩国科学技术院（KAIST）和微软亚洲研究院的科研团队最近公布了一种名为神经价值对齐的新方法，该方法使人工智能系统能够在用户仅通过观察 AI 行动时捕捉到大脑中出现的两类不同错误信号，从而实现对误解的即时检测。

该技术的核心依赖于脑电图（EEG）——一种非侵入式记录头皮电活动的手段。实验参与者只需观看 AI 完成预设任务，无需提供口头反馈、点击按钮或进行任何显式纠正，系统便能实时捕获并分析其脑信号。

区分目标错误与行动错误

研究人员将两种神经特征明确区分：当 AI 追求的最终目标与用户期望不符时，大脑会产生奖励预测误差，这表明系统的目标设定出现偏差；而当目标已经正确推断但所选动作序列出乎意料或不理想时，则会出现状态预测误差，反映出行动层面的不匹配。

基于大量 EEG 数据训练的深度学习模型能够在毫秒级别解码这些误差信号。识别出错误类型后，解码结果会即时反馈给模拟的 AI 控制器，促使系统重新启动目标搜索或在无需人工干预的情况下自动调整行动计划。

在一系列受控仿真实验中，神经价值对齐方法的适应速度显著超过了传统基线方案。尤其在用户目标突变或人为去除部分神经反馈（模拟现实中信号丢失）的情境下，系统表现出更强的鲁棒性和恢复能力。

实验还凸显了该方法在处理目标‑行动歧义方面的独特优势。相同的可观察运动可能对应多种潜在用途，而单一用途也可以通过多种不同运动实现。通过读取大脑的错误信号，AI 能在没有显式标签的情况下消除这些歧义，从而更准确地推断用户真实意图。

这些用例目前仍属设想。作者在 IEEE Transactions on Cybernetics 2026 年 8 月在线发表的论文（DOI 10.1109/TCYB.2026.3722605）中将其描述为未来方向，而非已验证的部署。

尽管仿真结果令人鼓舞，实际应用仍面临若干障碍。EEG 信号本身噪声较大，需要佩戴专用的电极帽和高灵敏度放大器，这对日常使用的舒适度和可接受性提出了严峻挑战。

此外，当前研究并未深入探讨脑数据隐私保护的问题，实验室之外的可靠性仍未得到充分验证。信号在真实工作环境中的稳定性、跨用户的通用性以及对不同文化背景的适配性，都亟待进一步研究。

研究人员承认，这些发现基于受控实验，真正的现场鲁棒性仍依赖于便携式 EEG 硬件的进步、信号处理算法的优化以及处理神经信息的伦理框架的建立。

对于依赖 AI 助手的企业而言，该技术未来可能显著降低对显式纠正界面的依赖。用户不必再点击“重做”或重新表述指令，仅凭瞬间的脑响应即可将系统拉回正轨，从而加快工作流并降低人机协作摩擦。

然而，任何部署都必须在无缝纠正的收益与为员工配备 EEG 设备以及保护其神经隐私的成本之间取得平衡。除非这些挑战得到解决，否则神经价值对齐仍是一个引人注目的研究原型，而非可直接投入使用的产品。

本稿发表于 2026 年 10 月 5 日，作者依据原始英文稿件进行翻译与本地化处理，确保信息完整且符合中文阅读习惯。