快食ボイス801・AI相談のリスクと社会の対応

今だからこそ起きた出来事だと思う巨人の監督が退任した。解任ではない。自ら引かれたので、退任だ。 18歳の娘さんと15歳の娘さんが喧嘩をしていた。腹を立てた監督が胸ぐらを掴んでドンと突き飛ばした。それまで暴力を受けたことがなかった娘さんがチャットGPTに相談すると、AIは児童相談所への連絡を案内し、電話番号まで提示した。娘さんはそのままタップして電話をかけ、警察がやってきた。「今だからこそ起きた出来事だ」というのが最初の感想だ。あと5年もすれば、こういうことは起きなくなると思う。逆にいえば、この5年間は同じようなトラブルが繰り返されるだろう。 AIは「責任」を持てないこの問題の核心は、AIは責任を持てないということだ。責任能力は自然人、そして一部の場合においては法人が持つものだ。AIは透明な知識の塊であって、その回答を採用した瞬間に、責任は使っている人間の側に移る。宗教の教祖の教えに従って何かをやらかしても最終的に責任を取るのは自分であることと、構造は同じだ。世の中には他責思考の人が多い。「AIが悪い、もっとまともにしろ」という声がSNSでも聞こえてくる。だが企業側からすれば「それで課金してくれるんですか」という話でしかない。無料で使って文句だけ言う人のためにチューニングする動機は、どこにもない。なぜAIはあの回答を返したのか理由は二つある。一つは情報量の問題だ。「暴力を受けた」という情報だけでは、継続的な虐待なのか今回が初めてなのかをAIは判断できない。情報が少なければ一般論で返すしかない。課金して家庭環境をメモリーに蓄積していれば精度は変わるが、18歳の娘さんがそこまでしていたとは考えにくい。もう一つは過去の反省だ。AIが生まれた初期の頃、「楽に死ぬにはどうすればいいか」という相談に具体的な方法を返してしまったことがある。それが実際の死につながり、訴訟問題になっているケースもある。その反省から今は振り子が逆に振れ、危険の可能性があるものに対してはとにかく公的機関を案内するという設計になっている。今回の出来事はその結果だ。車が走り始めた頃も、交通事故は今より多かった AIを規制しろという声が大きくなるが、これはいい悪いの話ではないと僕は思っている。新しい技術が生まれたとき、社会がその技術に追いつくまでの間には必ずトラブルが起きる。それは避けられない。大切なのはその構造を理解することだ。仕組みが整備されるまでの間は、自分で身を守るしかない。AIの回答はあくまで参考情報であって、責任を持つのは自分だということ。これを理解しているかどうかで、今後のトラブルへの巻き込まれ方がまったく変わってくる。他山の石にしなくては今回の出来事は、ご本人たちにとって本当に辛い経験だったと思う。娘さんには一生のトラウマになるかもしれない。逮捕歴が残ることで収入的には何億円という損失になりかねない。洒落にならない。自分の行動の責任は、自分が取るしかない。AIの言ったことだから、では済まされない。あと5年もすれば、子供向けのAIは制限が厳しくなり、まともに使いたければ課金するという構造が当たり前になるだろう。それまでは仕組みに守られるのを待つのではなく、自分でこの構造を理解して賢く付き合っていくしかないと思っている。

3日前

このチャンネルの新着放送