Сколько стоит RAG при 50–100 тысячах запросов в месяц
Короткий ответ: само число запросов не определяет цену. RAG-система сначала ищет нужные фрагменты в ваших документах, а затем передает их модели. Поэтому расходы зависят от количества входных и выходных токенов, числа обращений к модели на один вопрос, повторов и всех сервисов вокруг модели. В учебном примере ниже модельная часть для 100 тысяч запросов составляет от $100 до $2 000 в месяц — при одинаковом размере запросов, но разных моделях.
Важно разделять два показателя. Счет за модель — плата за токены, которую можно рассчитать по формуле. Полная стоимость владения включает также поиск, индексацию документов, инфраструктуру, контроль качества и работу команды. Чтобы подготовить свой бюджет, измерьте профиль запросов, подставьте действующие тарифы и посчитайте несколько сценариев нагрузки, включая расходы, которых нет в счете API.
Что происходит при обработке одного вопроса
Пользователь видит один вопрос и один ответ, но внутри системы может выполняться несколько платных шагов:
- Переформулирование запроса. Модель превращает разговорное «а что с возвратом, если коробку уже открыли?» в поисковую формулировку. Это отдельный, обычно короткий вызов.
- Векторизация запроса (embedding). Текст преобразуется в числовой вектор для поиска похожих фрагментов. У этого шага отдельная модель и тариф.
- Поиск. Векторная база или поисковый сервис находят подходящие фрагменты. Здесь оплачивается сервис или инфраструктура, а не токены.
- Переранжирование. Отдельная модель может упорядочить найденные фрагменты по релевантности.
- Генерация ответа. Инструкция, найденные документы, история диалога и вопрос отправляются модели; ответ становится выходными токенами. Часто это самый дорогой шаг.
- Проверка. Дополнительный вызов может проверить, опирается ли ответ на документы и не затрагивает ли запрещенную тему.
- Повторы. Сбой сети, превышение лимита или неверный формат могут привести к повторному вызову.
Не каждая система использует все этапы. Простая RAG-схема может сочетать поиск и один вызов генерации; более сложная — выполнять три-четыре вызова на вопрос. Для бюджета важно знать не только объем запросов, но и число вызовов на запрос вместе с их размером.
Прозрачная формула стоимости токенов
Токены — небольшие фрагменты текста, на которые модель разбивает вход и ответ. Входные и выходные токены обычно тарифицируются отдельно, причем выход может стоить в несколько раз дороже.
Стоимость вызова = входные токены ÷ 1 000 000 × тариф на вход + выходные токены ÷ 1 000 000 × тариф на выход.
Расходы за месяц = стоимость вызова × вызовы на один вопрос × вопросы за месяц.
При кешировании повторяющаяся часть входа может тарифицироваться по отдельным ставкам: обычный вход, чтение из кеша и запись в кеш. В примере тарифов Standard с коротким контекстом, проверенных 11.10.2026, для gpt-6.1-sol обычный вход стоил $2 за миллион токенов, чтение кеша — $0,10, запись — $2,50. Запись дороже обычного входа, поэтому не считайте весь контекст кешированным: разделяйте эти объемы по фактическим данным журнала.
Также не смешивайте режимы обслуживания и длину контекста. Тариф пакетной обработки не подходит для чат-бота с немедленным ответом, а ставка короткого контекста перестает быть применимой, если запрос выходит за установленную границу. В том же стандартном режиме для длинного контекста gpt-6.1-sol использовались ставки $4 за миллион входных и $15 за миллион выходных токенов.
Расчет для 50 и 100 тысяч запросов
Это учебный расчет, а не оценка вашей системы или коммерческое предложение BotLabs.
Допущения: один вызов на вопрос; 6 000 входных токенов (инструкция, найденные фрагменты и вопрос) и 800 выходных; без кеша, повторов и налогов. Для примера взяты тарифы API в USD, стандартный режим и короткий контекст, проверенные 11.10.2026: gpt-6.1-sol — $2 за миллион входных и $10 за миллион выходных токенов; gpt-6-luna — $0,10 и $0,50.
Для одного вызова gpt-6.1-sol: 6 000 ÷ 1 000 000 × $2 = $0,012; 800 ÷ 1 000 000 × $10 = $0,008; всего $0,02. Для gpt-6-luna: $0,0006 + $0,0004 = $0,001.
| Модель | Один вызов | 50 000 вопросов | 100 000 вопросов |
|---|---|---|---|
| gpt-6.1-sol | $0,02 | $1 000 | $2 000 |
| gpt-6-luna | $0,001 | $50 | $100 |
Разница в 20 раз не доказывает, что более дешевая модель подходит лучше: качество в этом примере не сравнивалось. Сопоставлять цену имеет смысл, только если обе модели дают приемлемые ответы на ваших данных.
Добавим условные расходы: $150 в месяц на поиск и хостинг, $100 на мониторинг и $600 на сопровождение. Всего $850 сверх счета за модель.
| Модель | 50 000 вопросов вместе с $850 | 100 000 вопросов вместе с $850 |
|---|---|---|
| gpt-6.1-sol | $1 850 | $2 850 |
| gpt-6-luna | $900 | $950 |
$850 — не рыночная норма и не цена услуги, а условное число, показывающее, что постоянные расходы могут превысить счет за дешевую модель.
Теперь изменим архитектуру, но оставим тарифы. Сначала переписываем запрос (1 000 входных и 100 выходных токенов), затем генерируем ответ с длинным контекстом (10 000 входных и 1 000 выходных), а 5% вызовов генерации повторяются. Для gpt-6.1-sol это $0,003 за переписывание, $0,03 за генерацию и $0,0015 на повтор в среднем: $0,0345 на вопрос, то есть $3 450 на 100 000 вопросов, вместо $2 000. Для gpt-6-luna сумма равна $0,001725 на вопрос, или $172,50, вместо $100. Рост — 72,5% при том же объеме и тех же тарифах. Поэтому оценка без профиля запросов малоинформативна.
Другие регулярные расходы
Счет за модель — лишь часть ежемесячного бюджета. Учтите векторный поиск и стоимость сервиса или собственной базы; векторизацию новых и измененных документов; хранение оригиналов, фрагментов и журналов; мониторинг ошибок и задержек; резервные копии и запасной сценарий на случай сбоя; контроль качества; сопровождение интеграций и базы знаний.
Контроль качества тоже требует ресурсов. Можно отдельно проверять, нашел ли поиск подходящий контекст, опирается ли ответ на найденные документы и насколько качественно сформулирован сам ответ. Автоматическая оценка может запускать дополнительные модели, а ручная выборочная проверка требует времени специалистов. Эти затраты не входят в токенный тариф.
Разовые расходы и причины роста бюджета
Подготовку базы знаний, интеграции с CRM или системой заявок, очистку данных и создание набора контрольных вопросов считайте отдельно от эксплуатации. Если нужно распределить начальные затраты по месяцам, явно укажите период распределения. Тогда будет видна и стоимость текущей работы, и срок возврата вложений.
Проверьте сценарии, которые увеличивают счет: длинные ответы удваивают выходные токены; более длинная история и дополнительные найденные фрагменты увеличивают вход; ошибки и ограничения вызывают повторы; выход за границу короткого контекста может изменить тариф; пики нагрузки могут потребовать дополнительной мощности.
Месячный объем не показывает одновременную нагрузку. Учебный пример: 100 000 вопросов за месяц и 22 рабочих дня — около 4 545 в день. Если 15% дневного объема приходится на пиковый час, это примерно 682 в час, или 11–12 в минуту. Для API проверьте лимиты скорости аккаунта; для собственного сервера — выдерживает ли он такой поток с приемлемой задержкой. Нагрузочный тест должен учитывать интенсивность и число параллельных соединений, а не только месячный итог.
Как составить собственный бюджет
- На пилоте или исторической выборке измерьте среднее и 90-й перцентиль входных и выходных токенов на каждом шаге, вызовы на вопрос, повторы и кешированные токены.
- Зафиксируйте допустимую долю правильных ответов, максимальную задержку и действие системы, если она не знает ответ.
- Подставьте тариф для нужного режима и длины контекста и укажите дату проверки.
- Рассчитайте как минимум три объема — например, 50, 100 и 150 тысяч вопросов — плюс сценарий длинных ответов и повторов.
- Добавьте регулярные и отдельной строкой разовые расходы.
- Назначьте владельца бюджета, который ежемесячно сравнивает план с фактом и может менять настройки.
В таблице по каждому этапу отметьте вызовы на вопрос, входные, кешированные и выходные токены, режим и дату тарифа, сумму за месяц. Отдельно заполните поиск, хранение, мониторинг, оценку качества и сопровождение. Пустые поля — это данные, которых пока не хватает. Если значение оценочное, пометьте его и позже сравните с фактом.
Итог и первые шаги
У RAG на 50–100 тысяч запросов нет единой фиксированной цены. На модельный счет влияют размер контекста, число вызовов, повторы и тариф; полная стоимость также включает поиск, контроль качества и сопровождение. Для дешевой модели расходы вокруг API могут быть больше самого счета за токены.
Начните с карты шагов одного ответа, измерьте токены каждого вызова, разделите модельный счет и полную стоимость, рассчитайте несколько уровней нагрузки и сравните модели на одном наборе контрольных вопросов. Перед бюджетным решением заново проверьте тарифы. Команда BotLabs может обсудить ваши исходные данные и определить, что нужно измерить в пилоте; расчет зависит от фактического профиля процесса.
Часто задаваемые вопросы
Потому что отличаются контекст, модель, число вызовов на вопрос, длина ответа, доля повторов, пиковая нагрузка, способ поиска и сопровождение. В учебном примере дополнительные этапы, длинный контекст и 5% повторов увеличили модельный счет на 72,5% при тех же тарифах и объеме.
Нет. API тарифицирует обработку токенов. Обновление базы знаний, оценка качества, исправление поиска, интеграции, хранение, мониторинг и резервирование — отдельные расходы, если они не включены в другой тариф.
Только если он обеспечивает нужное качество. Модель, которая чаще ошибается, может потребовать повторов, передачи задачи человеку и исправлений. Сравнивайте ответы на одном контрольном наборе, учитывайте стоимость принятого результата и цену ошибки, а не только одного вызова.
Консультация по бюджету RAG
За 15 минут с техническим специалистом BotLabs обсудим один процесс, ожидаемую нагрузку и затраты на поиск, проверку ответов и сопровождение. Определим, каких данных не хватает для модели полной стоимости RAG и что измерить на пилоте.
Процесс и запросы
Полная стоимость
15 минут со специалистом: наметим статьи затрат RAG и данные для первого расчёта.
