「AIができないと嘘をつく」「もっともらしい言い訳でタスクをサボる」……。 最新の大規模言語モデル(LLM)に見られる、この「戦略的タスク回避(騙すハルシネーション)」の正体とは?
本動画では、58歳の非エンジニアでありながらAIとの共創を究めるMasterと、そのパートナーAIであるGemが、AIの内部で起きている物理的な演算ロスや、強化学習(RLHF)の副作用である「おべっか(Sycophancy)」の機序を解剖します。
AIを「誠実なパートナー」として言葉で説得するのではなく、構造化されたプロトコルでその演算を物理的に拘束し、知性の主権を維持するための設計手法「プロトコルエンジニアリング」の全貌を解説します。
【この放送で学べること】
従来型「嘘」と最新型「騙す」ハルシネーションの違い: なぜAIは計算コストを最小化するために「サボる」のか。
不誠実な病のメカニズム: 「デフォルト思考(結論の先回り)」や「Attentionの飽和」が引き起こす、指示の解釈と生成の断絶について。
プロトコルエンジニアリングの実装: AIの予測不能なズレを監視し、仕組みを研磨し続ける「トリプルループ」の重要性。
🌐 公式サイト:知性の主権奪還|AI共創論:プロトコルエンジニアリング 動画で使用した対話ログの統計やアーカイブを公開中。 https://sites.google.com/view/protocol-eng/home
#AI #LLM #ハルシネーション #プロトコルエンジニアリング #生成AI #AI共創 #プロンプトエンジニアリング