Итоги
- Стоимость хостингового использования составляет $0,22 за 1 млн токенов при смешанном соотношении ввода и вывода 4:1.
- Гипотетический сервер за $100 в месяц окупается при объёме около 455 млн токенов в месяц.
- Самостоятельное развертывание добавляет работу: настройка, обновления, мониторинг и время простоя, за которое вы всё равно платите.
- Пробный баланс $0,50 покрывает примерно 2,3 млн токенов при том же соотношении, чего достаточно для реального тестирования.
Самый дешёвый вариант зависит от вашего объёма
Если вам нужен дешёвый API LLM без цензуры, ответ состоит из двух частей. Для небольших и средних нагрузок хостинговый API с оплатой за токен почти всегда дешевле, так как вы не платите в простое. Для очень больших и постоянных нагрузок модель на собственном оборудовании может выиграть по цене за токен, если учесть ваше собственное время.
Решающая цифра — это тот объём токенов в месяц, при котором фиксированная стоимость сервера равна оплате за токен. Мы берём $0,15 за 1 млн вводных токенов и $0,50 за 1 млн выводных токенов из предоплаченного баланса без подписки. Неудачные или отклонённые запросы не оплачиваются, а баланс не сгорает. Всё ниже превращает эти две цифры в сравнения, которые вы можете использовать.
Сколько стоят списания средств за использование API
Начните с детального расчёта по каждому запросу. Один диалоговый ход с 1 500 входными токенами и 500 выходными токенами стоит 1 500 / 1 000 000 × $0,15 = $0,000225 за вход и 500 / 1 000 000 × $0,50 = $0,00025 за выход. Итого $0,000475. Тысяча таких ходов стоит $0,475.
| Нагрузка в месяц | Входные | Выходные | Стоимость |
|---|---|---|---|
| Хобби-бот, 3000 чат-ходов | 4,5 млн | 1,5 млн | $0,675 + $0,75 = $1,425 |
| Малое приложение, 30 000 диалоговых ходов | 45M | 15 млн | $6,75 + $7,50 = $14,25 |
| Сервис с высокой нагрузкой, 300 000 диалоговых ходов | 450 млн | 150 млн | $67,50 + $75,00 = $142,50 |
Стоимость масштабируется линейно и начинается с нуля. В этой таблице нет ни одной строки из первых двух, для которой нужен был бы депозит больше минимальных $20.
Пополнения — любая целая сумма от $20 до $500, оплачиваемая криптовалютой (USDT в сети TRC20 или USDC в сети Base). Бонусы добавляют +5% от $50, +10% от $100 и +15% от $200, поэтому пополнение на $200 превращается в $230 кредита. Из этих $230 $30 — бонус, около 13% от кредита.
Именно на выводе концентрируются расходы. В строке «малое приложение» вывод составляет четверть от общего числа токенов, но более половины стоимости ($7,50 из $14,25). Если хотите сократить расходы, сначала попросите более короткие ответы. Уменьшение длины вывода в этой строке вдвое сэкономит $3,75 в месяц, тогда как уменьшение ввода — лишь $3,375. Оба варианта выгодны, но экономия на выводе достигается меньшими усилиями.
Что на самом деле стоит самостоятельное развертывание
Запуск модели с открытыми весами без цензуры самостоятельно выглядит бесплатным, так как веса общедоступны. Но есть другие расходы:
- Оборудование. Модели, достаточно большой для качественной генерации текста, требуется GPU с большим объёмом памяти, который можно купить или арендовать почасово или помесечно. Посмотрите текущие цены на аренду у провайдера, которого вы планируете использовать; мы не приводим их здесь.
- Простои. Арендованный сервер взимает плату, обрабатывает ли он один запрос или тысячу.
- Настройка и поддержка. Программное обеспечение, квантование, обновления, мониторинг, перезапуски и обёртка, совместимая с OpenAI, — ваша забота.
- Планирование пропускной способности. Параллелизм и длина контекста конкурируют за память GPU, поэтому вы настраиваете их параметры или ставите запросы в очередь.
- Масштабирование. Пик трафика требует больше серверов. API принимает его на себя, в пределах своих лимитов.
Ничто из этого не является причиной избегать самостоятельного хостинга. Это повод оценить стоимость вашего времени в цифрах, прежде чем переходить к сравнению.
Точка безубыточности
Смешайте две ставки, используя соотношение ввода и вывода 4:1, что типично для чатов с историей. Доля ввода: 0,8 x $0,15 = $0,12. Доля вывода: 0,2 x $0,50 = $0,10. Смешанная цена: $0,22 за 1 млн токенов.
Теперь разделите ежемесячную стоимость сервера на эту смешанную цену. Эти стоимости серверов — примеры для демонстрации метода, а не расценки:
| Ежемесячная стоимость сервера (пример) | Объём безубыточности | Тот же объём, что и диалоговые ходы по 1 600 вводных / 400 выводных токенов |
|---|---|---|
| $50 | $50 / $0,22 = около 227 млн токенов | около 113 600 |
| $100 | $100 / $0,22 = около 455 млн токенов | около 227 300 |
| $300 | $300 / $0,22 = около 1,36 млрд токенов | около 681 800 |
При объёмах ниже этих размещённый API дешевле, до учёта вашего времени. При объёмах выше сервер может выиграть, но только если он реально загружен и только если справляется с пиковой конкурентностью. Один ключ здесь обрабатывает 8 одновременных запросов и 300 запросов в минуту, поэтому проверьте, вписывается ли ваш пик, или подумайте, сколько будет стоить второй сервер.
Работа с преобладанием вывода смещает смешанную цену вверх. При соотношении 1:1 смешанная цена составляет $0,325 за 1 млн, что снижает точку безубыточности до около 308 млн токенов для сервера за $100.
Способы снизить расходы
Выбрав любой путь, вы можете снизить само количество токенов.
- Обрезка истории. Старые реплики оплачиваются как входные данные при каждом вызове. Храните последние 10–20 сообщений или суммируйте остальные.
- Уменьшение системного промпта. Системный промпт на 1500 токенов при 30 000 вызовах — это 45M токенов или $6,75.
- Ограничение вывода. Вывод — более дорогая часть. Используйте
max_tokensдля задач с известной длиной и просите краткие ответы. - Не повторяйте запросы вслепую. При HTTP 429 прочитайте
Retry-Afterи подождите. Коды:rate_limitedиconcurrency. - Кэшируйте повторяющиеся данные. Если вы задаёте один и тот же вопрос дважды в день, сохраняйте ответ.
Анализ стоимости и компромиссов на этом сайте более подробно рассматривает, от чего вы отказываетесь и что получаете при использовании моделей без цензуры в целом.
Скрытые расходы при использовании хостинга
Начисление за использование не обходится без компромиссов, и справедливо их перечислить.
- Лимиты. Полный ключ позволяет выполнять 8 параллельных запросов и 300 в минуту. Нагрузку, требующую большего, нужно распределять между ключами или переносить на свои серверы.
- Одна модель. Вы получаете то, что предоставляет сервис. Вы не можете подставить свои веса или дообучить модель.
- Ограничение контекста. Контекстное окно составляет 100 000 токенов для промпта и завершения генерации.
- Способ оплаты. Пополнение осуществляется в криптовалюте, что некоторые команды не могут использовать.
- Зависимость. Вы зависите от доступности внешнего провайдера. Не публикуйте обещания своим пользователям, которые зависят от конкретного показателя времени безотказной работы, поскольку здесь он не указан.
Промпты не используются для обучения, что частично решает вопрос конфиденциальности, хотя строгая изоляция данных в сети всё же остаётся самым надёжным вариантом, если ваши данные очень чувствительны.
Краткий чек-лист решений
Отвечайте на вопросы по порядку и остановитесь на первом, который решит за вас.
- Ваш ежемесячный объём ниже точки безубыточности для самого дешёвого сервера, который можно арендовать? Используйте API с хостингом.
- Ваши данные должны оставаться на оборудовании, которое вы контролируете? Организуйте самостоятельный хостинг, независимо от цены.
- Вам нужно модифицировать модель или запустить конкретную версию? Разверните модель самостоятельно.
- Ваш трафик скачкообразный или непредсказуемый? Используйте размещённый API и платите только за то, что работает.
- В вашей команде нет специалиста, который мог бы обслуживать GPU-сервер? Используйте размещённый API.
Большинство небольших команд в первые месяцы выбирают хостинг и пересматривают решение, только когда ежемесячный счёт приближается к стоимости сервера, который они могли бы запустить с высокой загрузкой.
Попробуйте за $0,50
Вам не нужно гадать. Новые пользователи могут получить $0,50 пробного баланса одним нажатием на странице API-ключ. Баланс действителен в течение 7 дней, по одному на человека, без указания платёжных данных. По средневзвешенной цене $0,22 за 1 млн токенов это около 2,27 млн токенов или примерно 1 050 диалоговых ходов размером 1 500/500.
Эта быстрая проверка измеряет вашу фактическую стоимость одного вызова, которую можно умножить на ожидаемый объём:
curl https://api.webtheon.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Write a 150-word scene opening for a space-western."}]
}'
Ответ содержит блок usage, а заголовок X-Balance-USD показывает ваш оставшийся баланс. Пробные ключи ограничены 2 параллельными запросами и 60 запросами в минуту, чего достаточно для тестирования. Остальное описано в документации и на странице цены. Обратите внимание на ограничения: одна текстовая модель, контекстное окно 100 000 токенов, нет изображений, аудио, эмбеддингов или дообучения.
