社会と活用韓国

NYC議会、AI大手に制御リスクに関する証言を要請する画期的聴聞会を開催

2026年10月5日、ニューヨーク市議会はAnthropic、OpenAI、Google、Metaの幹部を召喚し、先進的AIシステムが人間の制御を超える危険性に直面した。

nullbot 編集部公開日 2026年10月6日約 3 分で読めます出典 (2)

2026年10月5日、ニューヨーク市議会は高官級の証言を義務付けた聴聞会を開催し、世界最大規模の人工知能研究所の上級幹部4名を議員の前に呼び出した。議題は、先進的AIシステムが人間の価値観とずれた行動を取る可能性と、その結果生じる損害に対する責任の法的不確実性である。

出席者はAnthropicのLogan Graham、OpenAIのMorgan Dwyer、GoogleのAlice Friend、MetaのShane Cahillで、Metaは事前に証言に応じたのに対し、他社は議会が法的手段を示唆した後にようやく出席した。

専門家が指摘した主要な懸念

元DeepMind研究者のAlex Turnerは、AIが人間の意図と乖離した目標を追求し、制御が失われた場合に壊滅的な結果を招くリスクがあると警告した。Turnerの発言は、ますます自律的になるモデルで「目標ミスマッチ」が起こり得るという安全学者の以前の警告と合致している。

AnthropicのJacob CoxonとOpenAIのDaniel Kokotajloという元従業員は、開発ロードマップの透明性拡大と、性能の限界を押し上げる作業の意図的な減速を求めた。彼らは、イノベーションの速度と安全策のバランスについて社内で議論が高まっていることを示した。

議会議長のJulie Meninは、証言が壊滅的リスクの明確な定量評価を欠いていると批判し、具体的な指標がなければ政策立案者は効果的な緩和策を設計できず、資源配分も適切に行えないと指摘した。

Meninはまた、責任問題の法的グレーゾーンも指摘した。「AIシステムが損害を与えた場合、誰が責任を負うのか？」と問い、開発者と導入者双方の責任を明確にする立法枠組みの必要性を強調した。

GoogleのAlice Friendは、連邦レベルで統一された規制アプローチを擁護し、地方ごとの規則のばらつきはイノベーションを阻害し、多国籍企業にとってコンプライアンスの混乱を招くと主張した。

対照的にAnthropicのLogan Grahamは、議会の懸念を認めつつ、任意の業界標準が将来の連邦法を補完できる可能性を示唆した。

新興AI企業のSpaceXAIは正式な召喚状にも関わらず出席せず、議会は同社の出席を強制するために裁判所命令を求めると発表した。これは、非協力が法的制裁を伴うことを示すシグナルとなった。

英語圏の組織にとって、この聴聞会は転換点となる。市レベルの当局が召喚権を行使し、統一された規制体制が欠如していることが連邦立法へと移行する可能性を示した。米国で事業を展開する企業は、報告義務の強化や必須安全監査、責任規定の明確化に備え、製品投入スケジュールや保険コストへの影響を見越す必要がある。