LLM API Engineering: OpenAI + Claude в production

Подключить GPT или Claude к приложению несложно. Сделать так, чтобы это нормально работало в проде, — отдельная инженерная задача. На курсе вы соберёте слой для работы с LLM: OpenAI и Claude через единый интерфейс, structured output, стриминг, tool calling, MCP, переключение между провайдерами, контроль стоимости и защиту от типичных сбоев. Практика на Python, свои API-ключи и оплата токенов не нужны.

Чему вы научитесь

• Единый клиент для OpenAI и Claude: модели переключаются без переписывания бизнес-логики.
• Надёжные вызовы в проде: таймауты, повторные запросы, лимиты, переход на другого провайдера и защита от повторного выполнения операций.
• Structured output вместо парсинга текста: модель возвращает данные по схеме, их сразу можно использовать в коде.
• Стриминг ответов: пользователь видит текст по мере генерации, обрыв соединения обрабатывается корректно.
• Tool calling и MCP: модель вызывает функции вашего приложения, работает с несколькими инструментами и спрашивает подтверждение перед опасными действиями.
• Контроль стоимости: видно, сколько токенов и денег тратит каждый запрос, модель выбирается под задачу и бюджет.
• Долгие задачи и агенты: процессы длиннее одного HTTP-запроса, фоновые задачи, пакетная обработка за полцены и агенты с памятью.
• Финальный сервис на Claude и OpenAI, который переживает сбои провайдеров и переносится в рабочий проект сменой адреса и ключей.

О курсе

Большинство примеров работы с LLM заканчиваются одной строкой: `client.responses.create(...)`. Для демо этого хватает. Для продукта нет.

Как только LLM-функция попадает к пользователям, появляются вопросы. Что делать, если модель не отвечает? Как переключиться на другого провайдера? Как не выполнить один и тот же инструмент дважды после повтора запроса? Как заставить модель стабильно возвращать JSON? Как ограничить стоимость? Как найти причину ошибки в логах? Курс отвечает на них кодом.

Работаем сразу с OpenAI и Claude, сравниваем их API и строим код так, чтобы приложение не зависело от одного провайдера. Практика построена на задачах из продукта: разбор писем и документов, вызов функций бэкенда, MCP, выбор модели под задачу, бюджет, долгие операции и агенты. Отдельный блок посвящён надёжности: повторы, лимиты, таймауты, резервный провайдер, идемпотентность. Каждую из этих проблем вы решаете в работающем сервисе.

**Финальный проект** — сервис поддержки, который принимает обращения, смотрит статус заказа, оформляет заявку и переключается на резервного провайдера при сбое основного. Для практики не нужны свои ключи OpenAI или Anthropic: задания идут в учебной среде Mentorix, которая эмулирует сбои обоих API. Лабы пишутся на Python, после курса тот же код переносится на реальные API. Поиск по своей базе знаний разобран в отдельном курсе «RAG Engineering».

Вы также можете задать любой вопрос по курсу у поддержки t.me/mentorix_support

Для кого этот курс

Бэкенд-разработчикам на любом языке, которым нужно добавить GPT или Claude в существующий продукт. Практика на Python, устройство API одинаково из Go, Rust и Java.

Python- и ML-инженерам, которые уже вызывают LLM из ноутбука и хотят перенести это в нормальный бэкенд с логированием, повторами, бюджетом и контролем ошибок.

DevOps и SRE, которые поддерживают сервисы с LLM в проде и должны понимать, что происходит при лимитах, таймаутах и падении провайдера.

Тимлидам, которые проектируют AI-фичи: какую модель выбрать, сколько она будет стоить и как не привязать продукт к одному API.

Программа курса

Модулей: 9, уроков: 29. Задачи с кодом проверяются автоматически.

1. OpenAI и Claude: запросы, ответы, стриминг

   • Что реально даёт API frontier-моделей в 2026 году
   • Responses API: анатомия запроса и ответа
   • Messages API: content blocks, stop_reason и правила ролей
   • Streaming в обоих API: события, сборка ответа, обрыв

2. Structured output: данные вместо текста

   • Structured Outputs в OpenAI: json_schema strict и parse
   • Structured output у Claude: output_config.format и strict tools
   • Валидация, ремонт и повтор невалидного JSON

3. Tool calling: подключаем модель к бэкенду

   • Tool calling: цикл вызова в Responses и Messages
   • Параллельные вызовы: несколько инструментов за один ход
   • Web search: поиск прямо через API
   • Файлы, PDF и большие документы
   • Code execution: модель считает сама

4. MCP и большие наборы инструментов

   • MCP через API: удалённые серверы инструментов
   • Сотни инструментов: tool search и programmatic tool calling

5. Рассуждение, кэш и стоимость

   • Thinking, reasoning effort и адаптивное мышление
   • Prompt caching в OpenAI: автоматический префикс и prompt_cache_key
   • Prompt caching у Claude: cache_control, breakpoints и TTL
   • Context management: окно, обрезка, compaction

6. Долгие задачи и агенты

   • Long-running: background, polling, cancel, таймауты
   • Batch API: тысячи запросов за полцены
   • OpenAI Agents API: managed agent runtime
   • Claude long-horizon: memory, compaction, subagents

7. Надёжность и обработка сбоев

   • Rate limits, 429/529 и backoff с jitter
   • Идемпотентность и дедупликация запросов
   • Fallback между провайдерами и graceful degradation

8. Архитектура: единый слой над OpenAI и Claude

   • Provider abstraction: один интерфейс, два провайдера
   • Cost engineering: учёт токенов, роутинг моделей, бюджеты
   • Observability: latency, usage, tool calls, ошибки

9. Финальный проект: сервис поддержки

   • Сервис поддержки: собираем всё вместе

Стоимость курса: 6990 ₽

Открыть курс на Mentorix · Все курсы