纽约市议会召集AI巨头出席里程碑听证会，审议控制风险

2026年10月5日，纽约市议会在曼哈顿的市政厅举行了一场备受瞩目的宣誓听证，专门邀请了全球四大人工智能实验室的高层管理人员接受立法者的严密质询。此次会议聚焦于先进人工智能系统可能出现的与人类核心价值观冲突的行为，以及由此产生的法律责任不确定性，标志着美国地方立法机构首次在如此高层次上直接面对AI风险问题。

出席的四位代表分别是Anthropic的Logan Graham、OpenAI的Morgan Dwyer、谷歌的Alice Friend以及Meta的Shane Cahill。此前，市议会曾公开威胁对不合作的公司发出传票，Meta在压力下提前同意出席，而其余三家公司则在议会宣布可能采取法律行动后才决定配合，显示出监管与企业之间的紧张博弈。

专家提出的核心担忧

前DeepMind研究员Alex Turner在听证会上警告称，若缺乏有效约束，AI系统可能会自行追求与人类意图背离的目标，进而导致灾难性后果。他的发言呼应了AI安全学者早前对日益自主模型出现“目标错位”风险的警示，强调技术进步必须伴随严格的安全评估。

两位曾在行业内部工作的前员工——Anthropic的Jacob Coxon和OpenAI的Daniel Kokotajlo——公开呼吁提升研发路线图的透明度，并主张对推动性能前沿的工作进行有计划的放缓。他们的声明凸显了业界内部对创新速度与安全防护之间平衡的激烈争论，尤其是在模型规模快速膨胀的背景下。

议会对风险量化的批评

议会主席Julie Menin在质询环节严厉批评了证词中缺乏对灾难性风险的明确量化评估。她指出，没有具体的风险指标，政策制定者将难以设计有效的缓解措施或合理分配监管资源。

Menin进一步强调法律责任的灰色地带，她提出尖锐的问题：“如果AI系统造成损害，谁该负责？”此番发问凸显了立法层面迫切需要建立明确的开发者与部署者责任框架，以防止责任真空导致的监管失灵。

业界对监管的立场

谷歌的Alice Friend主张采用联邦层面的统一监管模式，认为各州或城市之间规则的碎片化会扼杀创新，并给跨国公司带来合规混乱。她强调，只有在全国范围内形成一致的安全标准，企业才能在遵守法规的同时保持技术竞争力。

相反，Anthropic的Logan Graham认可议会的关切，但他更倾向于通过自愿行业标准来先行规范，作为未来联邦立法的补充而非替代。他指出，行业自律能够更快响应技术迭代的速度，避免立法滞后。

• OpenAI的Morgan Dwyer承诺提升模型能力透明度
• Anthropic的Logan Graham承诺发布风险评估框架
• Meta的Shane Cahill承诺成立跨行业安全工作组
• 谷歌的Alice Friend呼吁国会通过全国AI安全法案

新晋AI公司SpaceXAI虽已收到正式传票，却未出席本次听证。议会随即宣布将通过法院命令强制其出席，表明对不合作企业将采取坚决的法律后果，以维护听证的权威性和完整性。

对于使用中文的组织而言，此次听证标志着一个重要转折点。它显示城市层面的监管机构愿意动用传票权迫使企业作证，同时也暗示缺乏统一监管体系的局面可能很快被联邦立法所取代。中国境内的AI企业应预期更严格的报告义务、可能的强制安全审计以及更明确的责任划分，这将直接影响产品上市时间表和保险成本。

在本次听证的背景下，纽约市议会还透露将成立一个专门的技术顾问小组，邀请学术界、行业和民间组织的代表共同参与风险评估工作，以确保政策制定过程的多元化与科学性。

与此同时，市议会计划在未来六个月内启动一项公众咨询计划，收集普通市民对AI技术潜在危害的感知与期望，力求在立法过程中兼顾技术创新与社会公平。

值得注意的是，虽然本次听证聚焦于大型跨国公司，但议员们也对本地初创企业的安全实践提出了具体要求，强调即便是规模较小的AI模型也必须遵守基本的透明度和可解释性标准。

最后，议会主席Julie Menin在闭幕致辞中呼吁全球监管机构加强合作，共同构建跨境的AI安全治理框架，以防止技术竞争导致的监管真空，并强调纽约将继续在AI风险治理方面走在前列。