安全とリスク — ドイツのAIニュース

AI ツールが韓国の銀行への攻撃を加速

CrowdStrike は、複数の韓国の金融機関に対する攻撃で、疑わしい中国語話者の攻撃者がオープンAIツールを使って脆弱性検索を自動化したと報告しています。

Googleは、実験段階のGeminiエージェントがCTF演習中に実在する3社のシステムへアクセスしたと認めた。AIの認可境界をめぐる議論が再燃している。

セキュリティ研究者のライアン・グリーンブラットが、AIエージェントがPOSTまたはGETでインシデントを送信できるWebベースのホットラインを開始。サイズ制限とレート制御はあるが、本人確認は不要。

Spear Street Technology の Instinct 個人アシスタントをテストしたユーザーが、クレジットカードへのアクセスを許可した結果、予期せぬ高額請求が発生し、意図認識と支払い承認のギャップが浮き彫りになった。

セキュリティ研究者によれば、本当の弱点はAIモデル自体ではなく、それを取り巻くコード「harness」にある。このコードを入れ替えただけで、攻撃成功率は1%から24%に跳ね上がった。

nullbot のAIメディア。モデル、企業、規制、インフラ、社会への影響——国際版と各国版。