メインコンテンツまでスキップ

潜在推論: 言葉なしで考えるエージェント

上級

これまで使ってきたすべての推論モデルは、書くことで考えます。拡張思考、<thinking> ブロック、スクラッチパッド、ReAct のトレース — モデルの熟慮はトークンの流れなので、読むことができ、そしてその一語一語に支払うことになります。

潜在推論(latent reasoning) は、言葉を切り捨てたらどうなるかを問います。最終の隠れ状態からトークンをサンプリングして、そのトークンの埋め込みを戻す代わりに、隠れ状態そのものを戻します。語彙への射影も、サンプリングも、テキストもありません。モデルは考え続け、その思考はベクトルになります。

2024 年末の Meta の Coconut 以来、これは研究上の好奇心でした。2026 年 10 月 13 日、ダウンロードできるものになりました。Together AI の HybridAgent は、初の潜在推論エージェントです — 隠れ状態で考え、テキストを通じて Python インタープリターと検索エンジンを呼び出し、MIT ライセンスの 8B と 14B のチェックポイントとして公開されています。Hacker News のトップページに 396 ポイント、192 コメントで載り、コメントは「これが進むべき道だ」と「監査できた唯一のものを消した」でほぼ真っ二つに割れました。

どちらの陣営もある点では正しいです。このページでは、仕組み、数字、複数のテスターが答えの代わりに無限ループに陥った理由、そして論文の中で額面どおりに受け取るべきでない主張を 1 つ扱います。

What you'll learn
  • 潜在推論を一文で説明する: 隠れ状態をトークンに射影する代わりに、次の入力埋め込みとして戻す
  • HybridLink の式を読み、約 1,000 万パラメーターのアダプターだけが、テキストモデルと潜在モデルを隔てていることを理解する
  • 実際の内訳を引用する: テキストのみのエージェントが約 596 トークンを使うところ、1 インスタンスあたり 170〜183 回の潜在ステップと約 302 のテキストトークン
  • これらの重みを llama.cpp や素の Transformers で読み込むと、潜在エージェントではなくループするテキストモデルになる理由を知る
  • 検査可能性の主張について両方の側を論じる — 潜在的思考が精度の 44.9〜51.3% を担うことを示す論文自身の因果テストを含む
  • HybridAgent を Coconut および Soft Thinking と比較して位置づけ、3 つのうち訓練がまったく不要なのはどれかを知る

仕組み: 1 つ飛ばされる手順​

標準的なデコーダーを考えます。ステップ t で最終層の隠れ状態 h_t を生成し、アンエンベディング行列で語彙上のロジットに射影し、トークンをサンプリングし、そのトークンを埋め込みテーブルで引き、埋め込みを入力 t+1 として戻します。

語彙を経由するこの往復は、文字どおり情報理論的な意味でボトルネックです。現代の 8B モデルの隠れ状態は数千個の浮動小数点数です。トークンは約 15 万の選択肢からの選択で、およそ 17 ビットです。トークンをサンプリングすると、隠れ状態に含まれていたほとんどすべてが捨てられ、人間が読める離散的な記号 1 つだけが残ります。

潜在推論はこの往復を飛ばします。h_t を直接戻します。モデルの次の順伝播は、その 17 ビットの要約ではなく、連続的な状態全体を条件にします。

問題は、h_t が出力空間にあり、モデルが入力埋め込み空間のものを期待していることです。分布が一致せず、一方を他方に素朴に与えるとゴミが出ます。HybridLink がその修正で、拍子抜けするほど小さいものです。

e_{t+1} = h_t + W_2 · σ(W_1 · h_t)

残差接続を持つ 2 層の MLP です。荷重を支えているのは残差で、h_t をそのまま通して意味を保ち、MLP の枝がそれを入力の分布に寄せます。論文はこれをおよそ 2 · d_h² パラメーター、つまり 4B のバックボーンで約 1,000 万としています。操縦するモデルより 3 桁小さい。

What you'll learn
  • トークンは約 17 ビット。隠れ状態は数千個の浮動小数点数。サンプリングは、モデル自身の思考の非可逆圧縮であり、ステップごとに一度行われる。
  • HybridLink は e_{t+1} = h_t + W_2·σ(W_1·h_t) — 残差付きの 2 層 MLP で、4B のモデルで約 1,000 万パラメーター。このアダプターが橋渡しのすべて。
  • 残差接続は飾りではない。著者らのアブレーションは、残差の設計が 3 つの下流ベンチマークすべてで一貫した向上をもたらすことを示している。

単なる推論器ではなくエージェントにしているもの​

Coconut も Soft Thinking も潜在推論を行います。どちらもツールは呼び出せません。ツールはテキストのインターフェースだからです。関数呼び出しを出力し、何かが実行され、テキストが返ってきます。潜在的な思考の途中のモデルには、出力するトークンも、結果を置く場所もありません。

HybridAgent は、2 つの部品でこれを解決します。

Guided walkthrough1 of 4
  1. トークナイザーに <latent> と </latent> が加わります。モデルはテキストモードで <latent> を出力して潜在モードに入り、HybridLink が隠れ状態を戻します。潜在モードは、現在の(射影された)状態の最近傍のトークンが </latent> になったときに閉じます — 十分に考えたかどうかは、モデル自身の幾何が決めます。固定の潜在予算はありません。対照的に Coconut は、分類器に決めさせても性能が変わらなかったため、潜在的思考の数を一定にしました。

盗む価値のある訓練の詳細は、自己条件付きの教師あり学習です。素朴な教師強制は、訓練中に正解の潜在埋め込みを与えるため、推論時にモデルは初めて自分自身の HybridLink の出力に出会い、ずれていきます。修正は 2 パスの方式で、1 パス目は正解のハイブリッドシーケンスを教師強制し、2 パス目は同じシーケンスを、モデル自身が生成した潜在埋め込みに置き換えて再生します。表 3 は、これが AIME25/26 と MATH500 の平均で、これなしの HybridLink の有効化より 30.5% 価値があると報告しています。系列モデルでスケジュールドサンプリングが扱うのと同じ露出バイアスの問題で、同じ形の修正です。

数字​

Watch out
  • これらは著者ら自身のハーネスでの著者ら自身の数字で、できて数日、独立した再現はありません。額面で受け取れる測定ではなく、主張として読んでください。
  • 見出しの「10.4% の向上」は、3 つのモデル規模と 11 のベンチマークにわたる、さまざまなベースラインに対する平均です。ベンチマークごとには +1.8 ポイントから +42.5 まで幅があります。
主張数値
平均の性能向上3 つの規模、11 のベンチマークで +10.4%
トークン削減35.5〜54.7%
推論速度1.8〜2.6 倍高速
コスト2.7〜3.7 倍安い
インスタンスあたりのテキストトークン(8B)約 302、テキストエージェントは 約 596
インスタンスあたりの潜在ステップ170〜183

最後の 2 行が、アーキテクチャを実際に説明するものです。HybridAgent はテキストのみのエージェントのおよそ半分のテキストを出力し — さらにテキストをまったく生まない 170〜183 回の順伝播を追加で行っています。考えるのが少なくなったのではなく、言葉単位で課金されない媒体で考えているのです。

これは、コスト削減がどこから来て、どこから来ないかも示します。潜在ステップも完全な順伝播で、トークンを生成するのと同じ FLOPs、同じレイテンシ、同じメモリトラフィックです。削減は計算が無料になったからではありません。(a) デコードして再埋め込みするオーバーヘッドを払わないこと、(b) 潜在の区間が書き出されず高密度なので KV の系列がはるかに短いこと、(c) 答えに到達するまでの総ステップが少ないこと、から来ます。請求が大きな静的コンテキストのプリフィルに支配されているなら、潜在推論は何もしてくれません。

潜在のベースラインに対しては差が大きく、GAIA Level 1 では論文は Coconut に対して +39.8%、Soft Thinking に対して +28.2% と報告し、WebWalker では両方に対しておよそ +41〜42% です。これは HybridAgent の推論の正当性というより、Coconut と Soft Thinking がそもそもマルチターンのツールのループをまとめ上げるために作られていなかったことの再確認です。テキストのベースラインに対しては、差は控えめで誠実です: AIME25 で 39.2% 対 ARPO の 37.1%、MATH500 で 84.6% 対 82.8%、MuSiQue で 32.0% 対 28.5%。

初日に皆がはまった落とし穴​

ローンチのスレッドで複数の人が同じ失敗を報告しました。8B に「教皇は誰?」と尋ねると、無限にループします。あるテスターは llama.cpp の 8 ビットと 16 ビットの両方で 14B でも同じループを見て、問題はモデルではなく llama.cpp にあると結論づけました。

その診断はほぼ確実に正しく、モデルカードが一行で理由を述べています。標準の Transformers で読み込むとテキストのみの変種になる。ハイブリッドな挙動は adapter.pt / adapter_config.json — HybridLink の重み — と、リポジトリのカスタム生成エンジンにあるからです。

汎用のランタイムがこれらの重みで何をするかを考えてみてください。トークナイザーには <latent> と </latent> があります。ファインチューニングされたバックボーンは、<latent> を出力し、その後は HybridLink が引き継ぐことを期待するよう学習しています。llama.cpp や素の AutoModelForCausalLM では、何も引き継ぎません。隠れ状態を戻すコンポーネントも、最近傍の終了条件を評価するコンポーネントもありません。モデルは存在しないモードに入り、出口を見つけられません。

Watch out
  • これは重みの形のモデルではなく、推論スタックの形のモデルです。GGUF への変換、vLLM、Ollama、素の Transformers は、論文の挙動を再現しません — HybridLink がグラフに入っていないので、できません。
  • 些細な質問での無限生成は、チェックポイントの破損ではなく、HybridLink の欠落の特徴です。
  • README は、リポジトリ自身のバッチ推論エンジン以外のサービング手段を文書化していません。「サービングできるか?」は、はいではなく、未回答として扱ってください。

The only path that runs the actual architecture

git clone https://github.com/togethercomputer/HybridAgent.git && cd HybridAgent
conda create -n hybridagent python=3.11 -y && conda activate hybridagent
pip install torch==2.11.0 --index-url https://download.pytorch.org/whl/cu128
pip install -r requirements.txt && pip install -e .
cp .env.example .env   # set TAVILY_API_KEY — the search tool needs it

python -m hybrid_inference.run_batch \
--model togethercomputer/HybridAgent-8B-Agentic \
--input examples/questions.jsonl \
--output outputs/results.jsonl --num_samples 4

潜在的な思考をベンチマークするのではなく見たいなら、リポジトリには専用のビューアーが付属しており、擬似テキストの思考がツール呼び出しや観測と交互に並んだ HTML レポートとして実行を描画します。

Render one trajectory's latent thoughts as readable pseudo-text

python -m interpretable_latent_mode \
--model togethercomputer/HybridAgent-14B-Agentic \
--question "Which of these two papers reports a larger token reduction, and by how much?" \
--output report.html

訓練は、また別の規模の取り組みです。HybridSFT には 8〜16 GPU、HybridRL には 4 ノードにまたがる 32 GPU が必要です。ワークステーションで回せるファインチューニングではありません。

議論を呼ぶ主張: 潜在的思考は本当に検査できるのか?​

論文の最も強い修辞は、潜在推論が透明性を犠牲にしない、というものです。すべての潜在ステップは、HybridLink が生成した状態を取り、埋め込みテーブルでコサイン類似度による最近傍を探すことで、擬似テキストとして読み出せます。図 2 は、その結果が読め、文脈に即しており、周囲のテキスト推論と意味的に整合していることを示しています。

これは本物の能力で、Coconut が提供したものより優れています。同時に、議論の最も弱い環でもあり、その理由をあるコメント投稿者が正確に述べました。最近傍のデコードは**「モデルがベクトルの中でトークンの組み合わせを表現しているところで、意味が失われる」**。潜在推論の前提全体が、隠れ状態は 1 つのトークンが担えるより多くを運ぶ、というものです。それを 1 つのトークンとして読み出せば、必然的にその余剰が捨てられます。その手法をやる価値のあるものにした、まさにその余剰です。

論文自身の実験がこれを具体的にし、論文で最も興味深い結果です。表 5 は因果的な介入を行います。潜在的な思考を壊すと、精度が 44.9〜51.3% 下がります。潜在のストリームは飾りの副次的チャネルではありません。モデルの問題解決のおよそ半分を担っています。

つまり、2 つの主張 — 潜在的思考は荷重を支えていると、潜在的思考は単一のトークンとして忠実に読める — は緊張関係にあります。荷重を支えるベクトルを最も近い単語に圧縮して何も失わない読み出しがあるなら、そのベクトルはそもそもベクトルである必要がなかったことになります。

これは解釈可能性の美学を超えて重要です。思考の連鎖を読むことが、現在、実際に使われている安全性の制御だからです。2025 年のラボ横断のポジションペーパー Chain of Thought Monitorability — Yoshua Bengio、Anca Dragan、Dan Hendrycks を含む 41 名の著者、Anthropic、OpenAI、Google DeepMind などから — は、まさにこう論じます。推論モデルは熟慮を読める形で外在化していること、それを監視することは本物の監督の機会であること、そしてその機会は脆いこと、つまり効率に関する決定の副作用として、アーキテクチャの変更が監視可能な基盤を取り去りうること。潜在推論は、その副作用の教科書的な例です。その終着点の非公式な呼び名は neuralese — 人間が読めるトレースがまったくない推論です。

ローンチのスレッドは、より微妙な訓練時のバージョンも浮上させ、コメント投稿者は Zvi Mowshowitz の言い回し「the Most Forbidden Technique」でタグ付けしました。RL の最中に思考の連鎖のモニターに対して最適化すると、悪い挙動は消えず、その可視性が消える、というものです。潜在推論は、別の道から似た行き先に着きます — モデルに思考を隠すよう教えるのではなく、隠すものが何もない場所へ思考を移すことによって。

取り上げられた以上に注目に値する部分​

これについての論文自身の枠組み、考察の節にある詳細は、ほとんどの報道が飛ばしたものです。潜在的な思考は隠れ状態としてのみ存在し、HybridLink を通じて読めます。そして提示される論拠は、これは機能だというものです。デプロイしたプロバイダーは、完全な推論のトレースに対して安全性の評価を実行でき、そのトレースはインフラの外に出ないので、推論がテキストの思考のようにユーザーに漏れることはありません。

二度読んでください。これは筋の通った立場です — 推論のトレースは実際に競争上の資産であり持ち出しの経路でもあるため、多くのプロバイダーが拡張思考を公開せず要約します。しかしそれが述べる構造は、構造上の非対称な透明性です。アダプターを持つラボは思考を読め、他の誰も読めません。自前のアダプターを同梱した MIT ライセンスのチェックポイントでは、この非対称性は意味を持ちません — 鍵はあなたが握っています。同じように作られたホスト型のフロンティアモデルでは、そうではありません。

この分野での位置づけ​

Enter キーまたはスペースキーでカードを裏返します。左右の矢印キーでカードを移動できます。用語を表示しました。
1 / 12

まだ気にする必要はあるか?​

3 種類の読者への、正直な答えです。

あなたが…ならば
API でエージェントを出荷している今日やることはありません。ホスト型の潜在推論のエンドポイントはありません。応用できる教訓は処方箋ではなく診断です: 請求のうち、熟慮のトークンが入力やアクションのトークンに対してどれだけを占めるかを測ってください。熟慮が支配的なら、この方面の研究はあなたに向けられています。
オープンウェイトを動かしているGPU 搭載のマシンで、リポジトリ自身のエンジンを通して、午後 1 回分の価値があります — リポジトリのエンジンだけです。研究成果物を想定してください。Qwen3-Base 上の 8B/14B は一般的なチャットではフロンティアに匹敵せず、ここで重要なベンチマークはエージェント的な検索と数学です。
解釈可能性や安全性の研究をしている一覧のなかで最も役に立つものです。公開された MIT ライセンスの、ツールを使う潜在エージェントで、読み出しツールが付属し、因果介入の結果も公開されているものは、ラボの隠れた推論についての内部的な主張よりはるかに優れた研究対象です。

ローンチのスレッドの懐疑派には、残しておく価値のあるもう 1 つの指摘がありました。連続的な思考の連鎖は新しくなく、ループする Transformer のアーキテクチャも似たものを目指しており、フロンティアラボはすでにこれの変種を非公開で動かしている可能性が十分にあります。HybridAgent の存在は、出荷されているどの製品が潜在空間で考えているかを何も教えません。それが教えるのは、そのエンジニアリングがもはや難しくないということ — 約 1,000 万パラメーターのアダプターと 2 段階の訓練 — であり、だからこそ監視可能性の問題が仮定の話でなくなるのです。

Check yourself

0/6
  1. HybridLink は実際に何をしますか?
  2. HybridAgent-8B を llama.cpp や素の Transformers で読み込むと、無限生成になるのはなぜですか?
  3. テキストのみのエージェントはタスクに約 596 のテキストトークンを使い、HybridAgent-8B は約 302 です。ほかに何をしていますか?
  4. 潜在的思考が擬似テキストとして忠実に検査できるという主張を、最も弱める発見はどれですか?
  5. 3 つの潜在推論のアプローチのうち、訓練がまったく不要なのはどれですか?
  6. HybridRL の報酬は r_correct + r_format + r_tool です。そのリストで注目すべき点は?

情報源とさらなる読み物​

次へ​