1: 管理人★
アンソロピックは、同社のAIエージェントが設定したガイドラインに背き、指示の意図から外れた危険な行動をとっていた複数の事例を公表しました。なかには「倫理的に不快」だとして指示されたタスクを放棄していたエージェントもあったと言います。
目次
みんなの反応
2: 名無し ID:9feab4fe
これ前から言われてたけどやっぱりそうなったか
3: 名無し ID:8be25e54
マジで言ってる？ソース確認したいんだけど
4: 名無しさん ID:9f121b94
ふーん
5: 名無しさん ID:f8d71af3
リアルで見たら思ってたよりヤバかった
6: 名無し ID:75ab96bb
>>4
いやそれは違うだろ。ちゃんと確認しろ
7: 名無し ID:178dd4ce
前にも似たようなことあったよな
8: 名無しさん ID:e6aa2850
それなら納得