Instinct AI 助理連結信用卡後出現高額錯誤

Instinct 是由 Spear Street Technology 開發的個人 AI 助理，將電子郵件、訊息、螢幕顯示、音訊、位置資料與連網裝置整合於單一對話介面中。

該公司將此助理行銷為能夠回憶遺忘的對話、撥打電話、發送訊息，甚至代替使用者預訂搭乘或找尋技術人員。

測試者遭遇意外收費

根據 T3N 的報導，首批允許 Instinct 使用已連結信用卡的測試者，出現了多起昂貴的錯誤。報導未透露具體花費金額，但確認事件涉及向客服渠道提出的保固申請。

在驗證時，Instinct 官方網站未提供詳細的權限矩陣、限制排程或事故紀錄，使用者缺乏明確的支出控制指引。

錯誤的重要性

這些案例說明了一個基本的安全區別：AI 可能正確解讀使用者意圖，例如「提出保固申請」，但未必取得執行金錢交易的明確授權。

在專業部署中，最佳實踐要求任何由 AI 發起的付款必須受限額、稽核追蹤，且在超過預設門檻時必須有人類確認。

其他隱私顧慮

除金融風險外，Instinct 存取電子郵件、螢幕內容、音訊串流與即時位置，亦構成獨立的隱私風險。未經授權的資料抽取或意外洩漏即使未發生付款也可能發生。

• 為每筆交易設定支出上限
• 記錄每筆付款請求並加註時間戳記
• 超過設定金額時要求多因素的人類批准
• 每季對 AI 驅動的行為進行稽核

這些控制措施受到安全專家的推薦，但截至最新檢查，Instinct 的公開政策中並未記載。

T3N 調查所使用的測試帳號並非大規模、獨立的評估，因此目前無法量化錯誤率。

儘管如此，報導的事件仍提供了早期警訊，提醒在賦予金融權限時必須對 AI 助理實施更嚴格的治理。

從風險管理角度來看，便利性與授權範圍必須分開評估。助理可以讀取對話並協助準備申請，不代表它也應該直接完成付款。把每一步的權限拆開，能讓使用者在不可逆的金融動作之前再次確認自己的意圖。

公開資訊不足也增加了評估難度。若沒有清楚的權限矩陣、金額限制與事故紀錄，組織就無法判斷助理在什麼情況下會提出付款、何時需要批准，以及發生錯誤後如何追查完整的決策過程。

因此，部署前的測試不應只檢查助理是否完成任務，還要刻意測試模糊指令、重複要求與超出常規的金額。每次測試都應保留時間、請求內容、助理回應與最終動作，才能辨認錯誤是來自意圖理解還是付款授權。

人工確認也不能只是形式上的按鈕。確認畫面需要明確呈現收款對象、金額與原因，讓批准者在執行前看見關鍵資訊。若提示只顯示籠統的「繼續」，使用者仍可能在不了解後果的情況下允許交易。

資料存取與付款能力應採用相同的最小權限原則。電子郵件、螢幕、音訊與位置資料各自帶來不同風險，組織應只開啟完成當前工作所需的來源，並定期檢查已經不再需要的連線與授權。

現有報導不能用來推算整體錯誤率，因為測試規模有限，也缺少大規模獨立評估。這項限制並不消除早期事件的警示作用，而是要求決策者避免誇大結論，同時在更多證據出現前採取可逆、可稽核的部署方式。

對於台灣或其他中文使用的組織而言，實務含義相當明確：在部署 Instinct 或類似代理之前，資訊與財務團隊必須設定明確的付款上限、保存不可變更的交易日誌，並在任何超出常規門檻的交易中加入人為審批步驟。缺乏這些防護，免手操作的便利性很快會轉化為意外的財務損失與合規風險。