Перейти к основному содержимому

Продакшен-сниппеты для API

Средний

Проверенные на практике шаблоны для разработки на основе API. Адаптируйте и укрепляйте под свой стек.

Отказоустойчивая обёртка для вызова (повторы + backoff)​

import time, random, anthropic
client = anthropic.Anthropic()

def ask(messages, model="claude-sonnet-4-6", max_tokens=1024, system=None):
    for attempt in range(5):
        try:
            return client.messages.create(
                model=model, max_tokens=max_tokens,
                system=system or anthropic.NOT_GIVEN, messages=messages,
            )
        except (anthropic.RateLimitError, anthropic.APIStatusError) as e:
            if attempt == 4:
                raise
            time.sleep(min(2 ** attempt + random.random(), 30))

(SDK по умолчанию тоже повторяют временные ошибки — изучите поведение своего клиента, прежде чем накладывать собственную логику. См. Ошибки и лимиты запросов.)

Стриминг чата​

with client.messages.stream(model="claude-sonnet-4-6", max_tokens=1024,
        messages=[{"role": "user", "content": "Hello"}]) as stream:
    for text in stream.text_stream:
        print(text, end="", flush=True)

Цикл вызова инструментов (каркас)​

messages = [{"role": "user", "content": "What's the weather in Rome?"}]
while True:
    resp = client.messages.create(model="claude-sonnet-4-6", max_tokens=1024,
                                  tools=TOOLS, messages=messages)
    if resp.stop_reason != "tool_use":
        break
    messages.append({"role": "assistant", "content": resp.content})
    results = [run_tool(b) for b in resp.content if b.type == "tool_use"]
    messages.append({"role": "user", "content": results})  # tool_result blocks

:::warning Укрепление Ограничивайте число итераций и стоимость, валидируйте входные данные инструментов и храните секреты в переменных окружения. Для автономного использования прочитайте Защита агентов. :::

Дальше​