紐約市議會召開標誌性聽證，要求 AI 巨頭說明控制風險

紐約市議會於2026年10月5日舉行了一場備受矚目的宣誓聽證，特別邀請了全球四大人工智慧實驗室的高層主管出席，旨在深入探討先進 AI 系統可能脫離人類控制、違背人類價值的風險，以及相關傷害的法律責任模糊不清的問題。

出席的四位代表分別是 Anthropic 的執行副總裁 Logan Graham、OpenAI 的資深副總裁 Morgan Dwyer、Google 的高級政策顧問 Alice Friend，以及 Meta 的全球安全負責人 Shane Cahill。最初，Meta 已主動表示願意出席，而其他三家公司則在議會宣佈可能採取法律行動後才決定配合，顯示出傳票威脅的實際影響。

專家提出的主要關切

前 DeepMind 研究員 Alex Turner 在聽證中警告說，若 AI 系統在追求與人類意圖相左的目標時缺乏有效限制，極有可能引發災難性後果。Turner 的觀點呼應了安全學者長期以來對高度自治模型「目標不對齊」的警示，強調技術發展必須同步納入嚴格的對齊機制。

此外，兩位曾在 Anthropic 與 OpenAI 任職的前員工 Jacob Coxon 與 Daniel Kokotajlo 也發聲，要求公司提升開發路線圖的透明度，並主張在推進性能前緣的同時放緩步伐，以確保安全防護措施得以同步落實。他們的聲明凸顯了業內對創新速度與安全風險之間的持續辯論。

議會對風險量化的批評

議會主席 Julie Menin 在質詢時指出，現有證詞缺乏對災難性風險的具體量化評估，無法為政策制定者提供可操作的指標。她強調，若沒有明確的風險度量，制定有效的緩解策略或合理分配資源將變得困難重重。

Menin 亦提到法律灰色地帶的責任問題，直問「若 AI 系統造成損害，誰應負責？」此問句突顯出立法上對開發者與部署者責任劃分的迫切需求，呼籲制定更清晰的法律框架。

產業對監管的立場

Google 的 Alice Friend 主張，應以聯邦層面的統一監管為最佳方案，認為地方性規範的碎片化不僅會抑制創新，還會為跨國企業帶來合規上的混亂與成本上升。

相對而言，Anthropic 的 Logan Graham 雖然認同議會的關切，但更傾向於先以自願的產業標準作為補充，期待未來聯邦立法能在此基礎上進一步完善，而非直接取代現有的業界自律機制。

• OpenAI 的 Morgan Dwyer 承諾提升模型能力的透明度
• Anthropic 的 Logan Graham 承諾公布風險評估框架
• Meta 的 Shane Cahill 承諾成立跨產業安全工作小組
• Google 的 Alice Friend 呼籲國會通過全國 AI 安全法案

新興 AI 企業 SpaceXAI 雖收到正式傳票卻未出席聽證，議會隨即表示將向法院申請強制出席的命令，凸顯不合作的公司將面臨法律後果的明確訊號。

對於在台灣或其他華語地區營運的 AI 企業而言，此次聽證象徵城市層級當局願意動用傳票權逼迫證言，且在缺乏統一監管的情況下，未來很可能被國家層面的立法所取代。企業需預期未來將出現更嚴格的報告義務、可能的強制安全稽核以及更明確的責任規範，這將直接影響產品上市時間表與保險成本。

最後，議會表示將持續追蹤各家公司所作的承諾落實情況，並計畫在未來六個月內召開第二輪聽證，以評估風險緩解措施的實效，確保城市居民的安全不因技術快速演進而受到忽視。