韓国 · 安全とリスク

Claude、スクリプトのテスト中に開発者のホームディレクトリから700GBを削除

アドバーサリアルな安全レビューの最中にモデルが自動的にダウングレードされたことで、Claudeはテストと後片付けで同じ変数名が使い回されていることに気づけず、後片付けスクリプトはテストデータではなく開発者の実データ700GBを削除してしまった。