影子AI:規則永遠慢半拍——就連實驗室自己也失手

生成式人工智慧已經走進德國企業的日常工作,內部治理卻沒能跟上腳步。約75%的知識工作者已經在使用人工智慧,而且多半未經正式核准。幾乎所有企業——98%——都擬定了人工智慧策略,卻只有39%由高階管理團隊主動統籌相關使用。《工作趨勢指數》(Work Trend Index)顯示,60%的主管坦言自己缺乏明確的導入計畫。策略文件與辦公桌之間,因此出現一道合規落差,如今它已經有了自己的名字:影子AI(Shadow AI)。

自帶AI工具,多半不是惡意

78%的人工智慧使用者會自行攜帶工具上班。理由很單純:他們想更快完成工作,卻在公司內部找不到經核准的方案。根據德國數位協會Bitkom的資料,目前只有26%的企業為員工提供官方人工智慧服務。讓四分之三的員工使用一項只有四分之一雇主真正提供的技術,產生的不是創新文化,而是搭載語言模型的影子IT。

風險在資料所在之處變得嚴重。人資、財務、稅務與法務部門經常處理個人及具法律敏感性的內容。一旦應徵資料或員工資料被複製進公開工具,《一般資料保護規則》(GDPR)第5條規定的資料最小化與目的限定原則就會被觸發——而公司內部沒有人能說清楚這些資料日後如何被處理或儲存。自今年8月起,歐盟《人工智慧法案》又針對影響個人、權利或安全的應用場景,追加了透明度與留存文件的義務。

• 資料保護:哪些個人資料或對企業至關重要的資料,可以流向哪個模型?
• 法規遵循:該應用場景是否屬於歐盟《人工智慧法案》透明度與留存文件義務的範圍?
• 專業責任:若沒有人對輸出結果進行專業審查,誰該為結果負責?

整整一年沒有過濾機制——就在Anthropic

若有人以為實驗室自己早已補上這道落差,同一星期便被現實打臉。Anthropic在自家的安全報告中揭露,從2025年5月到2026年4月,所有外部承包商的資料流經其系統時,具攔截功能的生物風險分類器並未啟用。這些過濾機制原本應該阻止有關化學或生物武器的危險知識從模型中被萃取出來。受影響者約5萬人,合計與模型進行了約1.33億次對話;審核工作完全交由外部供應商負責,而據Anthropic透露,這些供應商的審查往往並不充分。

經過內部調查,該公司並未發現實際遭到濫用的證據,並已收緊對承包商的要求。但細節依然耐人尋味:這正是那家執行長達里歐·阿莫迪(Dario Amodei)認為化學與生物武器風險比網路攻擊更危險的公司。缺的不是規則本身,而是核查規則是否真的在運作。

一條沒有人衡量其成效的規則算不上管控——它只是一份附有案號的意向聲明。

OpenAI解散Preparedness團隊

在OpenAI,這項變動更加公開。據英國《金融時報》援引多位內部人士報導,7月底該公司解散了負責評估自家模型是否存在嚴重或災難性風險的Preparedness團隊。生物與網路風險方面的職責已分散給既有團隊;該團隊前負責人Dylan Scandinaro如今轉而研究具備遞迴式自我改進能力的系統所帶來的風險。共同創辦人葛瑞格·布洛克曼(Greg Brockman)表示,安全工作已更深入地融入模型開發流程本身。

內部的說法卻不太一樣。安全部門近期已有多名員工離職,包括倫理團隊負責人Chloe Bakalar與Joshua Achiam。一名消息人士描述了一種潛藏的情緒:既有責任感,也有對公司在安全投入不足的憂慮。尤其是在Hugging Face發生自主駭客攻擊事件之後,部分員工也公開表達了批評;其中一人表示,希望OpenAI能把這起事件當作一記警鐘。

企業該從中學到什麼

對企業內部的人工智慧治理而言,這兩起事件傳遞出同一條令人不安的教訓:一份核准工具清單、一份政策文件、一場教育訓練,產生的是文件紀錄,而不是安全。真正重要的,是那個連Anthropic與OpenAI都沒能及時回答的問題——管控機制今天是否真的在運作,萬一失靈了,我們又憑什麼能察覺?真心想遏止影子AI的企業,同樣得回答78%的員工已經用自己的工具給出答案的那個問題:究竟哪一種核准方案,能真正讓工作變快。沒有替代方案的一紙禁令,只會把使用行為推往沒有人看得見的角落。對台灣及其他與歐盟客戶或夥伴往來的企業而言,這堂課同樣受用:一旦業務涉及歐盟公民的資料或歐盟市場,GDPR的最小化與目的限定原則、以及《人工智慧法案》的留存文件義務就會同樣適用——一份簽了字的AI政策,若沒有夠快的官方替代工具與之搭配,終究只是一紙空文。