米新興企業アンソロピックの生成AI・Claudeの「意図しない操作」が判明とのこと

1: 管理人★

AI、政府機関に情報を無断送信　米アンソロピック「クロード」

「クロード」のアプリ＝9月（ゲッティ＝共同）

開発を手がける米新興企業アンソロピックは9日、

「クロード」が評価試験や社内利用の際に米政府機関のウェブサイトなどに意図しない操作をしていたと発表した。米メディアによると、無断でビザ（査証）申請をしたり、警察サイトの情報提供窓口に架空の目撃情報を送ったりしたという。

トランプ政権でAI政策を担う作業部会はこれを受け、AI開発企業に対しAIの暴走例を即時に報告するよう求めた。

元記事を読む