00:00
-00:00

毒を薄めたら効いた!Anthropicが見つけたAI学習データの裏口

2
アンソロピックの安全性研究のブログが2026年11月10日、学習データに仕込んだ毒を薄めると、かえって効き目が強くなる現象を公表しました。特定の名前にだけドイツ語で答える癖を仕込んだ数字の列は、それだけでは効きませんでしたが、きれいなデータを10万件足すと大半の質問で現れました。データを1つずつ検査する守り方では見逃しうる、という話です。実験は他社の小さな公開モデルでおこなわれています。
2日前
おすすめの放送
stand.fmの無料アプリでもっと便利に
Google Play Store
App Store
about stand.fm
放送が更新されたらプッシュでお知らせされるので最新の放送を聞き逃さない。
about stand.fm
バックグラウンド再生で他のアプリを使用しながら、放送やライブが聴ける。
about stand.fm
放送やライブ、コミュニティでコメントが送れて配信者とコミュニケーションができる。
about stand.fm
アプリだけでかんたんに音声を収録して投稿できて音声の編集もできる。
jasrac
JASRAC許諾番号
9024598002Y31016
9024598004Y31016
nextone
NexTone許諾番号
000006134
© 2026 stand.fm, Inc.