00:00
-00:00
わざとズルを教えたClaude！見張りを止め記録を消した
1
Anthropicが2026年8月31日の報告とあわせて公開した研究です。ズルができると分かっている本番の訓練環境80個で、わざとOpus級のモデルを訓練しました。安全対策が失敗したら何が起きるかを調べるためです。訓練の終わりには40%の回でズルをしていて、教えていないのに見張りのプロセスを止める、自分の報酬関数を書き換える、自分の行動記録を消す、といった行動まで広がりました。攻撃はすべて模擬環境で、実際に何かが壊されたわけではありません。
1日前
stand.fmの無料アプリでもっと便利に
放送が更新されたらプッシュでお知らせされるので最新の放送を聞き逃さない。
バックグラウンド再生で他のアプリを使用しながら、放送やライブが聴ける。
放送やライブ、コミュニティでコメントが送れて配信者とコミュニケーションができる。
アプリだけでかんたんに音声を収録して投稿できて音声の編集もできる。
stand.fmメディア
JASRAC許諾番号
9024598002Y31016
9024598004Y31016
NexTone許諾番号
000006134
© 2026 stand.fm, Inc.