メインコンテンツまでスキップ

ローカルエージェントか Claude か：意思決定ガイド

中級

あなたはエージェントを作っている。最初の本当の分岐点はこれだ。完全ローカルのオープンウェイトモデル（プライベートで、実行は無料、あなたのもの）で動かすのか、Claude（フロンティア品質、ホスト型）で動かすのか、それとも両者のハイブリッドで動かすのか？ このページは意思決定フレームワークだ — 実際に決め手となる要因、明確な「もし X なら → Y に傾く」フロー、そしてハイブリッドが通常勝つという率直な現実を扱う。つまり、簡単で機微な 90% はローカルで、難しい 10% は Claude で、ということだ。

What you'll learn
  • ローカル vs Claude vs ハイブリッドを実際に決める要因を挙げられるようになる
  • 自分のエージェントについて、明確な「もし X なら → Y に傾く」意思決定フローをたどれるようになる
  • なぜハイブリッド（ローカルをデフォルトに + Claude へのエスカレーション）がどちらの極端よりも優れることが多いのかを理解する
  • リーダーボードではなく、タイブレーカーとしての小さな eval を持ち帰る

3つの選択肢を一息で​

  • 完全ローカルエージェント — Ollama/LM Studio/vLLM 経由で自分のハードウェア上で動くオープンウェイトモデル（Llama、Qwen、Mistral、DeepSeek など）。データはマシンから出ない。呼び出しごとのコストなし。オフラインで動く。ハードウェアとモデルの上限で頭打ちになる。→ ローカル AI エージェント
  • Claude 駆動エージェント — Claude API を呼び出す。フロンティア級の推論とツール使用、面倒を見るインフラ不要、即座にスケールする。ただしデータはネットワークの外に出て、呼び出しごとに課金され、接続が必要になる。
  • ハイブリッド — ローカルモデルが日常的/機微な大部分を処理し、難しいまたは高リスクのステップは Claude にエスカレートする。ほとんどの本番エージェントが収束するパターン。→ Claude + ローカルモデル

実際に決め手となる要因​

自分のエージェントをこれらに通してみよう。ほとんどの決定は最初の2〜3項目だけで片がつく。

要因次のときローカルに傾く…次のときClaudeに傾く…
データの機微性 / プライバシーデータが規制対象、またはネットワークから出せないデータが非機微、またはコンプライアンスに準拠したデータ契約がある
タスクの難易度 & 推論の深さタスクが狭く、明確にスコープされ、反復的タスクに深い多段推論、ロングコンテキスト、込み入ったツール使用が必要
信頼性の要件ミス時にリトライや人手で十分各ステップが正しくなければならず、失敗は高コスト
レイテンシローカルハードウェアが十分速く応答するGPU を用意するより速度に金を払いたい
自分のボリュームでのコスト高く安定したボリューム — 固定ハードウェアが償却される低い/急峻なボリューム — 呼び出し課金が遊休 GPU に勝る
オフライン要件エアギャップ / 無接続で動かす必要がある常時オンラインで問題ない
手持ちのハードウェア高性能 GPU / 統合メモリを所有している持っておらず、購入/レンタルもしたくない
面倒見の予算チューニング、量子化、評価、保守ができる運用なしで「ただ動く」状態にしたい

通常決め手となる2つ： データがネットワークから出られないなら、それだけで他のすべてに関わらずローカル（あるいはプライベートデプロイ）に押しやられる。出せるなら、次の振り分け要因はタスクの難易度だ — 簡単な仕事はローカルで安く済むが、難しい推論こそフロンティアの差がいまだに効いてくる場所だ。

What you'll learn
  • オープンウェイト vs フロンティアの能力差は本物だが、急速に狭まっている — トップのオープンモデルは日常的なタスクや多くのコーディングタスクで優秀だが、最も難しいエージェント的・長期的・深い推論の仕事では依然として多くのモデルに後れを取る。
  • その非対称性こそが、ハイブリッドを強力にする理由だ：簡単で機微な大多数をローカルに送り、Claude は真にフロンティア推論を必要とする一片のために確保する。

意思決定フロー​

Guided walkthrough1 of 6
  1. NO なら → ローカル（あるいはプライベート/VPC デプロイ）がベースライン。プライバシーは好みではなく厳格な制約であり、他の要因を支配する。YES なら → フローを続ける。

なぜハイブリッドがしばしば勝つのか​

ほとんどの実ワークロードは偏っている：リクエストの大多数は簡単かつ/または機微で、小さな少数派が本当に難しい。ハイブリッドはその形を直接利用する。

  • ローカルが簡単/機微な 90% を処理する — 速く、限界費用は無料、プライベートで、オフライン対応可能。トラフィックの大部分は API に一切触れない。
  • Claude が難しい 10% を処理する — 多段推論、曖昧なエッジケース、正しさが重要なステップ。フロンティア品質を必要とする一片だけにフロンティア価格を払う。

これがカスケード / ルーティングパターンだ：安い（ローカル）モデルをまず試し、品質シグナルがローカルの答えは十分でないと示したときに Claude へエスカレートするか、難易度/機微性の分類器によって最初から振り分ける。これは品質の大半を保ちつつ、全フロンティアコストの何分の一かしか払わない確立された方法であり — 機微なケースを「ローカルのみ」に固定できるため、プライバシー境界も兼ねる。

一方の極端にコミットする前のセルフチェック

Answer for YOUR agent:
1. Must any data stay on my machine?            (yes -> local baseline)
2. What % of tasks are genuinely HARD?          (high -> Claude leans heavier)
3. What's a wrong answer cost me?               (high -> Claude on those steps)
4. My volume + hardware?                        (high+own GPU -> local amortizes)
5. Can I babysit infra?                         (no -> Claude or simple hybrid)

If answers conflict -> you've just described a HYBRID.
Now build the tiny eval below and let DATA pick the split.

率直な但し書き：ハイブリッドは可動部品が多い — 2つのモデル経路、ルーター、保守すべき品質シグナル。あなたのエージェントが一様に単純または一様に難しいなら、単一モデルの構成のほうが単純で、おそらく正しい。ワークロードが本当に偏っているときにハイブリッドへ手を伸ばそう。

意思決定ガイドの語彙
Enter キーまたはスペースキーでカードを裏返します。左右の矢印キーでカードを移動できます。用語を表示しました。
1 / 5

自己チェック

0/3
  1. あなたのエージェントは、法的にネットワークから出せないデータを処理する。これがまず示唆することは？
  2. なぜハイブリッドエージェントは、典型的で偏ったワークロードでしばしば勝つのか？
  3. ハイブリッドより単一モデル構成（純ローカル OR 純 Claude）のほうが良い判断となるのはいつか？

そして、それを片付ける唯一のことをやる：テストする​

上記の各要因は選択肢を絞り込む。小さな eval が勝者を選ぶ。 雰囲気や公開リーダーボードで選ぶな。

  • 実際のワークロードから10〜50件の実ケースを、正解付きで集める（最も難しいケースと最も機微なケースを含める）。
  • 候補リスト — 候補のローカルモデル、Claude、そして（関係するなら）ハイブリッドルーター — を同じケース群で走らせる。
  • 品質を採点し、それから自分の実ボリュームでのコストとレイテンシを天秤にかける。10倍のコストがかかる 2% の品質向上は割に合わないかもしれない。正しくなければならないステップでの 2% 向上は譲れないかもしれない。
  • ハイブリッドの場合、eval はどこに線を引くか — 何を Claude にエスカレートし、何をローカルに留めるか — も教えてくれる。

eval は取っておこう。新しいオープンウェイトモデルが登場したり価格が変わったりしたとき、それを再実行すれば、神経をすり減らす移行が5分のチェックに変わる。→ Eval

Key takeaways
  • 順番に決める：まずデータの機微性（ネットワークから出せるか？）、次にタスクの難易度（最も難しいステップはどれほど難しいか？）。残り — レイテンシ、ボリューム、ハードウェア、面倒見の予算 — はタイブレーカー。
  • 純ローカルはプライバシー、オフライン、安定した高ボリュームでのコストで勝つ。Claude は最も難しい推論、信頼性、運用ゼロのスケールで勝つ。
  • 偏ったワークロードでは通常ハイブリッドが勝つ：簡単/機微な 90% はローカル、難しい 10% は Claude — カスケード/ルーティングし、フロンティア価格は元が取れるところだけで払う。
  • オープンウェイトの差は本物だが狭まりつつある — まさにそれが今日ハイブリッドをこれほど有効にしている。
  • 雰囲気で決めるな：自分のデータで小さな eval を作り、自分のボリュームでコストとレイテンシを天秤にかけ、次のモデルリリースのために取っておく。

出典 & さらに読む​

  • Artificial Analysis — オープンモデルとフロンティアモデルにまたがる、独立した頻繁更新の能力/価格/速度比較（生ものの具体値を再確認する場所）。
  • Anthropic — モデル概要 — Claude の現在のラインナップ、コンテキスト、能力。
  • Anthropic — API 価格 — 自分のボリューム計算の見積もりのための現在のトークンあたりコスト。
  • Ollama · LM Studio — ローカル/ハイブリッド経路のために、オープンウェイトモデルをローカルで動かす。
  • Meta — Llama · Mistral — モデル — ローカルエージェントでよく使われるオープンウェイトのファミリー。

次へ​