「ローカルLLM」は、どんな現場で求められているのか。今日参加したセミナーの熱気も踏まえて、外に出せない情報を持つ医療・士業・設計・自治体から広がっていく理由と、メモリが高騰している今の試し方についてお話しします。
🕐タイムスタンプ
00:00 オープニング:ローカルLLMはどの現場で求められる?
01:16 ここ数回のローカルLLMの話の続き
01:34 今日参加したローカルLLMのセミナー
02:12 なぜローカルモデルを入れたいのか
02:57 漏れる前提の設計と、ローカルLLM
03:14 求められる現場:医療・士業
04:01 求められる現場:設計・製造業・建築
04:24 求められる現場:自治体
04:45 普及の変数は機材とメモリの価格
05:17 メモリが高騰している背景
06:09 今のおすすめ:手持ちのマシンで試す
07:25 31万円のWindows PCで動かしてみた実感
07:48 ポイントはGPUのメモリ(VRAM)
08:12 注目度はかなり高い
09:10 まとめ
🔗 AIを仕事に取り入れていくSubstack(特典PDFあり):
https://ikkaku.substack.com/
#AI活用 #ローカルLLM #生成AI #情報漏洩 #ゲーミングPC