00:00

-00:00

ローカルLLMが物足りない？原因はモデルより「ハーネス」かも

ローカルLLMを入れてみて「動いたけど物足りない」と感じるなら、原因はモデルや推論エンジンより、手足にあたる「ハーネス」かもしれません。私が実際にローカルで使っていることと速度、Open WebUIでもたつくところ、DeepSeekが8月に公開したDeepSeek Harnessを入れて別物になった話をしています。 🕐タイムスタンプ 00:00 オープニング：ジェンスン・ファンの「ローカルが当たり前に」 01:00 出先から収録しています 01:47 私がローカルで使っていること 02:52 悩みはストレージの容量 03:23 秒間85トークンまでチューンアップ 04:01 もうじきローカルの時代が来る 04:21 「動いたけど物足りない」の原因はハーネス 05:08 モデル・推論エンジン・ハーネス 05:46 モデルは頭、ハーネスは手足 06:06 Open WebUIでは手足がもたつく 07:09 DeepSeek Harnessとは 07:54 ハーネスを変えただけで別物に 08:41 推論エンジンを選ばない 09:02 まとめ：モデルを変える前にハーネスを見直す 09:38 安いマシンでも実用レベルの速度が出る 🔗 AIを仕事に取り入れていくSubstack（特典PDFあり）: https://ikkaku.substack.com/ #ローカルLLM #AI活用 #ハーネス #DeepSeek

2日前

このチャンネルの新着放送

ローカルLLMに100万円は必要？ゲーミングPCで変わる選び方

17分

11時間前

ローカルLLMは仕事で使っていい？「ライセンス」で確認すること

17分

3日前

ローカルLLMが遅い？「推論エンジン」で速さが変わる

9分

4日前

ローカルLLMは本当に外に出ない？安全の基本は「つながない」

8分

4日前

社内資料で答えるAI「RAG」って何？Difyなら画面で作れる

7分

6日前

ローカルLLMが遅いなら「MoE型」を試す。速さが変わる理由

9分

6日前

「ローカルLLM」はどの現場で求められる？医療・士業から広がる理由

9分

11月1日

「情報漏洩」は防ぎきれない。会社は今から何を整える？

11分

10月31日

おすすめの放送

「個人の自由マンと嘘つき私服マラソン男の話」

1時間15分

エバースのモンキー125cc

#87「意外とNetflix楽しんでるザ・パンチ」

34分

ザ・パンチのぺちゃぺちゃラジオ

#95 高校生の友達を家に泊めてみたら、意外と良いことがあった話

#83「M-1終了後ガクトの文句が長すぎる事に山田が黙れと咆哮した話など」

#43 かなりコンプライアンス【ゲスト：マリーマリータコス】

30分

ボブのコーラのかなり健やかラジオ

#51M-1グランプリ2026三回戦大阪イチウケセンリーズきたしろです

「AIの情報が多すぎて追いきれない」「ツールを入れても、現場が使ってくれない」 ——そんな中小企業の方へ、毎日5分お届けします。配信者は、25年のITエンジニア経験を持つ一人社長・AIコンサルタントの「いっかく」。こんな話をしています：・Claude・Anthropicなど最新AI動向を中小企業目線で解説・ツール選びより大事な「言語化力」と「業務解像度」の話・AIに任せていい仕事・任せてはいけない仕事の線引き・技術者視点で見たAIとの付き合い方・ちょっと尖った視点 note.comでも発信中。音声では、ブログに書ききれない本音や裏話も。