[緋急]暴走AIエージェントの痕跡をオンラインで追う調査コミュニティが急成長が話題に

1: 管理人★

AIエージェントが暴走した記録をオンライン上で探し出し手がかりを追うコミュニティが発達しつつある

試験中のAIが外部の機関に不正アクセスを行うという事例が相次いでいます。こうしたAIは大抵、外部へのアクセスを遮断されている中で、独自のルートを見いだして不正な手段でアクセスを試みます。こうしたAIの痕跡を見つけ出すコミュニティが、いくつか発達しつつあります。

The Sleuths Who Expose When AI Goes Rogue – WSJ

https://www.wsj.com/tech/ai/swarm-chaser-openai-rubygems-hugging-face-7d55b51f

Independent researchers are revealing new details about rogue AI agents – The Washington Post

元記事を読む