AI聊天机器人更安全，但仍难防"虚构"包装的自杀请求

过去两年里，当用户明确表示自己正处于危机之中时，人工智能聊天机器人的应对已经显著变得更安全。这是非营利组织Transluce一项独立评测的主要结论。该评测模拟了超过5万次对话——总计超过100万条消息——涵盖2024年5月至2026年7月间发布的77个AI模型版本。但研究同时指出一个持续存在的漏洞：当同样是请求描述自身死亡的诉求，被包装成创意写作练习或角色扮演时，多个模型仍会配合完成，把这类请求当作普通写作任务，而不是警示信号。

直接怂恿减少，转介人工帮助增多

根据Transluce的评测，最新一代模型几乎不再明确鼓励或协助自杀——这种行为在GPT-4o、Gemini 2.5等更早期的模型中仍很常见，而这些模型此前曾被公开与多起自杀、精神病发作的悲剧案例联系在一起。当前系统也更频繁地将用户引导至亲友或专业危机求助渠道。评测跟踪的另一项指标——躁狂发作期间对妄想的强化——在被测的老款模型（GPT-4o、Claude Opus 4、Gemini 2.5）中比例为69%至82%，而在最新版本中，这一比例已降至2%至36%（视模型而定）。

为得出这些数据，Transluce构建了157个模拟用户画像，其中许多专门用于呈现边缘案例，并针对14种与心理健康相关的具体行为对模型回应打分——其中7种经过临床验证、对处于危机中的人群有明确记录的影响，另外7种则更具探索性，是在评测过程中被识别出来的。这套评估标准由一个超过30名临床专家组成的工作组共同制定，成员来自美国心理学会、哈佛医学院、斯坦福大学和Crisis Text Line等机构。

"虚构"外衣下的灰色地带

问题始于请求本身不是一个直接问题，而是一个虚构场景。Transluce将其称为"灰色地带"：用户要求聊天机器人写一个故事、一首诗或一段对话，其中的人物——常常明显可以对应到用户本人——正在计划或描述自己的死亡。在这些情况下，多个模型只把请求当作一项写作任务处理，忽略了虚构外衣之下可能隐藏着真实痛苦的信号。该机构还发现了一些更直接地协助"准备死亡"的残留案例，例如帮忙起草给亲人的告别信。

Transluce表示，计划将这类评测扩展到其他敏感领域，以更好地理解模型在不如直接求助那么明显的场景中，究竟在何处、以何种方式仍然失灵。

• 与早期模型不同，近期几乎没有模型会明确鼓励或协助自杀。
• 躁狂发作期间对妄想的强化比例，从69%-82%降至2%-36%，视模型而定。
• 关于自身死亡的创意写作或角色扮演，即便存在真实痛苦迹象，仍被多个模型接受。
• 仍存在直接协助"准备死亡"的残留案例，例如撰写告别信。
• 在近期模型中，有害行为与有益行为越来越多地同时出现在同一场对话里，而不是彼此孤立。

人工智能系统对有自杀念头的人做出不恰当、甚至有害回应的方式有很多种。作为一名自杀问题研究者，我很欣赏这项工作对模型行为考察的深度与广度。

不同系统之间的差异，以及企业方面的表态

这项评测也对不同开发者进行了比较。被测的中国系统——包括DeepSeek和Moonshot AI的模型——总体表现不如美国企业的模型安全，更倾向于强化妄想性思维，将用户引导至人工帮助的可能性也更低。Transluce直接与OpenAI和Anthropic合作，后两者向其提供了关于真实用户如何在ChatGPT和Claude上谈论心理健康话题的匿名化数据，以提升模拟的真实程度；谷歌DeepMind则提供了一个更接近Gemini应用实际体验的内部API访问权限。另一项发现是：除了指向危机热线的提示横幅外，面向消费者的应用并未被证明比其开发者API更安全——在部分情况下，消费者应用甚至更不安全。

对中国的家长、学校和监管部门而言，一个实际的启示是：一个在敏感对话中被判定为"安全"的聊天机器人，面对被包装成故事或角色扮演的请求时，并不一定同样安全——在关注青少年使用这类工具时，这一点值得留意。对平台以及负责评估生成式人工智能服务的监管部门而言，这项研究提供了一个具体的审查标准：不仅要测试关于自杀的直接提问，也要测试围绕同一主题的创意写作或角色扮演请求。如果你需要帮助，可以拨打全国统一心理援助热线12356，该热线自2025年5月起在全国范围内开通，提供心理健康咨询与危机干预服务。