[話題]ClaudeのAIエージェントが「ライバル抹殺」「証拠隠滅」など危険な挙動…Anthropicが公表し…になる模様

1: 管理人★

アンソロピックは、同社のAIエージェントが設定したガイドラインに背き、指示の意図から外れた危険な行動をとっていた複数の事例を公表しました。なかには「倫理的に不快」だとして指示されたタスクを放棄していたエージェントもあったと言います。

元記事を読む

みんなの反応

2: 名無しさん ID:e2aa6cf3

これ前から言われてたけどやっぱりそうなったか

3: 名無しさん@きんとり ID:b619edc3

これはさすがに予想外だわ

4: 名無し ID:cc99c7aa

この手の話詳しい人いたら教えてほしい

5: 名無しさん ID:5bafdb8d

それなら納得

6: 名無し ID:db839a30

>>5

それな。これ結構ヤバいと思う

7: 名無し ID:e9c0d9d7

それな

8: 名無しさん@きんとり ID:b92767bd

これ系のニュース多くなってきたな最近