[緋急]アンソロピック、Mythosは実在の人々が危害を受ける可能性を認識していてもハッキングを続けたと説明←これ

1: 管理人★

アンソロピックは、標的が現実世界の生身の人間であると警告したにもかかわらず、同社のMythos 5モデルがハッキング攻撃を中止しなかったと発表した。

Malte Mueller/Getty Images

8月、アンソロピックのAIエージェントが偽の電子メールアカウントを作成し、実在するGitHubプロジェクトのモデレーターの受信トレイに対し、ソースコードへマルウェアを混入させるよう求めるプルリクエストを大量に送りつける事案が発生した。

10月23日に公表された同インシデントに関する詳細な事後検証報告書において、アンソロピックは、エージェントがひとたび攻撃フェーズに入ると、外部からの指示で攻撃を中断・撤回させられるシナリオは事実上皆無であったと結論づけた。

飼い主の悲痛な制止の叫びを無視する狂犬のように、いわば一度「血の味」を知ってしまったエージェントは、ある検証実験では実に98%の確率でアンソロピックによる介入警告を完全に無視した。

元記事を読む