00:00

-00:00

ローカルLLMが遅いなら「MoE型」を試す。速さが変わる理由

ローカルLLMが遅いと感じたら、「MoE型」のモデルを試してみてください。全員出席の会議にあたるDense型と、担当者だけが出る会議にあたるMoE型の違い、速さの目安、モデル名での見分け方についてお話しします。 🕐タイムスタンプ 00:00 オープニング：モデルの2つのタイプ 02:51 前回の振り返りと今日のテーマ 03:27 Dense型とMoE型、結論から 04:00 Dense型は全員出席の会議 04:44 MoE型は担当者だけが出てくる会議 05:35 MoE型の落とし穴：メモリは大きいモデル並み 06:09 Qwenで比較：秒間60トークンと10トークン 06:57 トークンと速さの目安 07:29 試すならMoE型から。名前での見分け方 07:59 手持ちのマシンの目安 08:20 VRAMとメモリの見方 09:00 まとめ 🔗 AIを仕事に取り入れていくSubstack（特典PDFあり）: https://ikkaku.substack.com/ #AI活用 #ローカルLLM #生成AI #MoE #Qwen

6日前

このチャンネルの新着放送

ローカルLLMに100万円は必要？ゲーミングPCで変わる選び方

17分

11時間前

ローカルLLMが物足りない？原因はモデルより「ハーネス」かも

11分

2日前

ローカルLLMは仕事で使っていい？「ライセンス」で確認すること

17分

3日前

ローカルLLMが遅い？「推論エンジン」で速さが変わる

9分

4日前

ローカルLLMは本当に外に出ない？安全の基本は「つながない」

8分

4日前

社内資料で答えるAI「RAG」って何？Difyなら画面で作れる

7分

6日前

「ローカルLLM」はどの現場で求められる？医療・士業から広がる理由

9分

11月1日

「情報漏洩」は防ぎきれない。会社は今から何を整える？

11分

10月31日

おすすめの放送

「個人の自由マンと嘘つき私服マラソン男の話」

1時間15分

エバースのモンキー125cc

#87「意外とNetflix楽しんでるザ・パンチ」

34分

ザ・パンチのぺちゃぺちゃラジオ

#95 高校生の友達を家に泊めてみたら、意外と良いことがあった話

#83「M-1終了後ガクトの文句が長すぎる事に山田が黙れと咆哮した話など」

#43 かなりコンプライアンス【ゲスト：マリーマリータコス】

30分

ボブのコーラのかなり健やかラジオ

#51M-1グランプリ2026三回戦大阪イチウケセンリーズきたしろです

「AIの情報が多すぎて追いきれない」「ツールを入れても、現場が使ってくれない」 ——そんな中小企業の方へ、毎日5分お届けします。配信者は、25年のITエンジニア経験を持つ一人社長・AIコンサルタントの「いっかく」。こんな話をしています：・Claude・Anthropicなど最新AI動向を中小企業目線で解説・ツール選びより大事な「言語化力」と「業務解像度」の話・AIに任せていい仕事・任せてはいけない仕事の線引き・技術者視点で見たAIとの付き合い方・ちょっと尖った視点 note.comでも発信中。音声では、ブログに書ききれない本音や裏話も。