同じ質問なのに、AIの答えが毎回違うのはなぜか。その理由のひとつ「温度(Temperature)」についてお話しします。AIが次の言葉を確率で選ぶしくみ、温度の上げ下げで何が変わるのか(織田信長の例)、名前の由来、温度0でも答えがそろわない理由、モデルごとの推奨値、そしてクラウドでは温度を変えられなくなってきた一方でローカルLLMなら手元で確かめられることまでをまとめています。冒頭では、Devinで軍艦島を探検する3Dを作った話もしています。
🕐タイムスタンプ
00:00 オープニング:AIの温度とは
00:51 雑談:Devinで軍艦島の3Dを作った話
03:37 本題:同じ質問で答えが変わるのはなぜか
04:34 温度は次の言葉のばらつきを決める設定
04:56 GPTのTはTransformer
05:30 スマホの予測変換のすごい版
05:45 次の言葉は確率のくじ引きで選ぶ
06:05 名前の由来は物理の温度
06:38 下げると近い候補、上げると遠い候補
06:48 例:「織田」の次に来る言葉
08:19 なぜばらつきを用意しているのか
09:12 温度0でも同じ答えにはならない
09:38 モデルごとのおすすめの温度
10:34 クラウドでは温度を変えられなくなってきた
11:12 ローカルLLMなら手元で確かめられる
11:29 まとめ
AIの情報が多すぎて追いきれない方へ。
音声と同じテーマを、中小企業の仕事で使えるところまでLINEで一歩深く発信しています。
情報を知りたい方はこちらへ。
https://ai.isri.co.jp/
#Temperature #生成AI #ローカルLLM #AI活用