トークン、コンテキスト & 料金
- Anthropic 自身のツールで(他モデルのトークナイザではなく)トークンを正しく数える
- max_tokens とコンテキストウィンドウを見分ける——そしてその違いがなぜ重要か
- 入力 + 出力トークンからモデル別レートで API コストを見積もる
- 品質を落とさずコストを削る:適正化、キャッシュ、トリム、バッチ
API でのコストと上限はすべて**トークン**(およそ単語の¾)で測られます。正しく押さえるべきことが3つあります。
1. トークンを正しく数える
当てずっぽうにせず、他モデルのトークナイザを使わない(例:tiktoken)——トークン数はモデルファミリーごとに異なります。Anthropic のトークンカウントエンドポイント/SDK ヘルパーを使って、送信する前にリクエストを測りましょう。
- 大まかな計画ルール:約750語 ≈ 約1,000トークン(1トークンはおよそ単語の¾)。
2. max_tokens ≠ コンテキストウィンドウ
この2つの上限は混同しやすいですが、別のものを支配します。
| 上限 | 何を制限するか | いつ変えるか |
|---|---|---|
max_tokens | 返信の長さ(出力のみ) | 出力が途切れるなら上げる |
| コンテキストウィンドウ | 入力 + 出力の合計予算 | 大きな入力は出力の余地を減らす |
- max_tokens はタスクが必要とする値に設定する。低すぎると返信が切れる。無駄に高くてもコストは増えない——実際に生成されたトークンにだけ課金される——が、返信がだらだらしうる。
3. コストを見積もる
入力トークン + 出力トークンに対して、モデル別レート(Opus > Sonnet > Haiku)で課金されます。手早い見積もり:
cost ≈ (input_tokens × input_rate) + (output_tokens × output_rate)
現在のレートは公式の料金ページから取得してください——ここでは意図的にハードコードしていません。
コストを削る(品質を落とさずに)
Guided walkthrough1 of 4
- Sonnet から始め、難しい部分のために Opus を温存します。モデルを選ぶ (/docs/api/choosing-a-model) を参照。
- 安定したプロンプト接頭辞を呼び出し間で再利用します。プロンプトキャッシング (/docs/api/prompt-caching) を参照。
- 重要なコンテキストだけを送ります。ここは RAG (/docs/foundations/rag) が効くところでもあります。
- レイテンシが重要でないジョブはバッチで。
さらなる戦略はコスト & レイテンシのトレードオフで。
理解度チェック
0/4- すべてはトークン(およそ単語の¾)で測られる;約750語 ≈ 約1,000トークン。
- トークンは Anthropic 自身のツールで数える——他モデルのトークナイザは決して使わない。
- max_tokens は返信を制限する;コンテキストウィンドウは入力 + 出力の合計予算。
- 課金 = 入力トークン + 出力トークン、モデル別レート(Opus > Sonnet > Haiku)で。
- モデルの適正化、接頭辞のキャッシュ、入力のトリム、バッチ化でコストを削る。