RU ▾

Дешёвый API LLM без цензуры: стоимость хостинга и самостоятельного развертывания

Дешёвый API LLM без цензуры — это в основном вопрос объёма: платите за токен при низкой или неравномерной нагрузке, арендуйте или покупайте оборудование только при высокой и стабильной. Вот расчёт с реальными цифрами тарифов $0,15 и $0,50 за 1 млн токенов этого API.

Короткая цепочка монет рядом с длинной дорогой к серверной стойке, иллюстрирующая стоимость хостинга и самостоятельного развертывания

Последнее обновление

Итоги

  • Стоимость хостингового использования составляет $0,22 за 1 млн токенов при смешанном соотношении ввода и вывода 4:1.
  • Гипотетический сервер за $100 в месяц окупается при объёме около 455 млн токенов в месяц.
  • Самостоятельное развертывание добавляет работу: настройка, обновления, мониторинг и время простоя, за которое вы всё равно платите.
  • Пробный баланс $0,50 покрывает примерно 2,3 млн токенов при том же соотношении, чего достаточно для реального тестирования.

Самый дешёвый вариант зависит от вашего объёма

Если вам нужен дешёвый API LLM без цензуры, ответ состоит из двух частей. Для небольших и средних нагрузок хостинговый API с оплатой за токен почти всегда дешевле, так как вы не платите в простое. Для очень больших и постоянных нагрузок модель на собственном оборудовании может выиграть по цене за токен, если учесть ваше собственное время.

Решающая цифра — это тот объём токенов в месяц, при котором фиксированная стоимость сервера равна оплате за токен. Мы берём $0,15 за 1 млн вводных токенов и $0,50 за 1 млн выводных токенов из предоплаченного баланса без подписки. Неудачные или отклонённые запросы не оплачиваются, а баланс не сгорает. Всё ниже превращает эти две цифры в сравнения, которые вы можете использовать.

Сколько стоят списания средств за использование API

Начните с детального расчёта по каждому запросу. Один диалоговый ход с 1 500 входными токенами и 500 выходными токенами стоит 1 500 / 1 000 000 × $0,15 = $0,000225 за вход и 500 / 1 000 000 × $0,50 = $0,00025 за выход. Итого $0,000475. Тысяча таких ходов стоит $0,475.

Нагрузка в месяцВходныеВыходныеСтоимость
Хобби-бот, 3000 чат-ходов4,5 млн1,5 млн$0,675 + $0,75 = $1,425
Малое приложение, 30 000 диалоговых ходов45M15 млн$6,75 + $7,50 = $14,25
Сервис с высокой нагрузкой, 300 000 диалоговых ходов450 млн150 млн$67,50 + $75,00 = $142,50

Стоимость масштабируется линейно и начинается с нуля. В этой таблице нет ни одной строки из первых двух, для которой нужен был бы депозит больше минимальных $20.

Пополнения — любая целая сумма от $20 до $500, оплачиваемая криптовалютой (USDT в сети TRC20 или USDC в сети Base). Бонусы добавляют +5% от $50, +10% от $100 и +15% от $200, поэтому пополнение на $200 превращается в $230 кредита. Из этих $230 $30 — бонус, около 13% от кредита.

Именно на выводе концентрируются расходы. В строке «малое приложение» вывод составляет четверть от общего числа токенов, но более половины стоимости ($7,50 из $14,25). Если хотите сократить расходы, сначала попросите более короткие ответы. Уменьшение длины вывода в этой строке вдвое сэкономит $3,75 в месяц, тогда как уменьшение ввода — лишь $3,375. Оба варианта выгодны, но экономия на выводе достигается меньшими усилиями.

Что на самом деле стоит самостоятельное развертывание

Запуск модели с открытыми весами без цензуры самостоятельно выглядит бесплатным, так как веса общедоступны. Но есть другие расходы:

  • Оборудование. Модели, достаточно большой для качественной генерации текста, требуется GPU с большим объёмом памяти, который можно купить или арендовать почасово или помесечно. Посмотрите текущие цены на аренду у провайдера, которого вы планируете использовать; мы не приводим их здесь.
  • Простои. Арендованный сервер взимает плату, обрабатывает ли он один запрос или тысячу.
  • Настройка и поддержка. Программное обеспечение, квантование, обновления, мониторинг, перезапуски и обёртка, совместимая с OpenAI, — ваша забота.
  • Планирование пропускной способности. Параллелизм и длина контекста конкурируют за память GPU, поэтому вы настраиваете их параметры или ставите запросы в очередь.
  • Масштабирование. Пик трафика требует больше серверов. API принимает его на себя, в пределах своих лимитов.

Ничто из этого не является причиной избегать самостоятельного хостинга. Это повод оценить стоимость вашего времени в цифрах, прежде чем переходить к сравнению.

Точка безубыточности

Смешайте две ставки, используя соотношение ввода и вывода 4:1, что типично для чатов с историей. Доля ввода: 0,8 x $0,15 = $0,12. Доля вывода: 0,2 x $0,50 = $0,10. Смешанная цена: $0,22 за 1 млн токенов.

Теперь разделите ежемесячную стоимость сервера на эту смешанную цену. Эти стоимости серверов — примеры для демонстрации метода, а не расценки:

Ежемесячная стоимость сервера (пример)Объём безубыточностиТот же объём, что и диалоговые ходы по 1 600 вводных / 400 выводных токенов
$50$50 / $0,22 = около 227 млн токеновоколо 113 600
$100$100 / $0,22 = около 455 млн токеновоколо 227 300
$300$300 / $0,22 = около 1,36 млрд токеновоколо 681 800

При объёмах ниже этих размещённый API дешевле, до учёта вашего времени. При объёмах выше сервер может выиграть, но только если он реально загружен и только если справляется с пиковой конкурентностью. Один ключ здесь обрабатывает 8 одновременных запросов и 300 запросов в минуту, поэтому проверьте, вписывается ли ваш пик, или подумайте, сколько будет стоить второй сервер.

Работа с преобладанием вывода смещает смешанную цену вверх. При соотношении 1:1 смешанная цена составляет $0,325 за 1 млн, что снижает точку безубыточности до около 308 млн токенов для сервера за $100.

Способы снизить расходы

Выбрав любой путь, вы можете снизить само количество токенов.

  1. Обрезка истории. Старые реплики оплачиваются как входные данные при каждом вызове. Храните последние 10–20 сообщений или суммируйте остальные.
  2. Уменьшение системного промпта. Системный промпт на 1500 токенов при 30 000 вызовах — это 45M токенов или $6,75.
  3. Ограничение вывода. Вывод — более дорогая часть. Используйте max_tokens для задач с известной длиной и просите краткие ответы.
  4. Не повторяйте запросы вслепую. При HTTP 429 прочитайте Retry-After и подождите. Коды: rate_limited и concurrency.
  5. Кэшируйте повторяющиеся данные. Если вы задаёте один и тот же вопрос дважды в день, сохраняйте ответ.

Анализ стоимости и компромиссов на этом сайте более подробно рассматривает, от чего вы отказываетесь и что получаете при использовании моделей без цензуры в целом.

Скрытые расходы при использовании хостинга

Начисление за использование не обходится без компромиссов, и справедливо их перечислить.

  • Лимиты. Полный ключ позволяет выполнять 8 параллельных запросов и 300 в минуту. Нагрузку, требующую большего, нужно распределять между ключами или переносить на свои серверы.
  • Одна модель. Вы получаете то, что предоставляет сервис. Вы не можете подставить свои веса или дообучить модель.
  • Ограничение контекста. Контекстное окно составляет 100 000 токенов для промпта и завершения генерации.
  • Способ оплаты. Пополнение осуществляется в криптовалюте, что некоторые команды не могут использовать.
  • Зависимость. Вы зависите от доступности внешнего провайдера. Не публикуйте обещания своим пользователям, которые зависят от конкретного показателя времени безотказной работы, поскольку здесь он не указан.

Промпты не используются для обучения, что частично решает вопрос конфиденциальности, хотя строгая изоляция данных в сети всё же остаётся самым надёжным вариантом, если ваши данные очень чувствительны.

Краткий чек-лист решений

Отвечайте на вопросы по порядку и остановитесь на первом, который решит за вас.

  1. Ваш ежемесячный объём ниже точки безубыточности для самого дешёвого сервера, который можно арендовать? Используйте API с хостингом.
  2. Ваши данные должны оставаться на оборудовании, которое вы контролируете? Организуйте самостоятельный хостинг, независимо от цены.
  3. Вам нужно модифицировать модель или запустить конкретную версию? Разверните модель самостоятельно.
  4. Ваш трафик скачкообразный или непредсказуемый? Используйте размещённый API и платите только за то, что работает.
  5. В вашей команде нет специалиста, который мог бы обслуживать GPU-сервер? Используйте размещённый API.

Большинство небольших команд в первые месяцы выбирают хостинг и пересматривают решение, только когда ежемесячный счёт приближается к стоимости сервера, который они могли бы запустить с высокой загрузкой.

Попробуйте за $0,50

Вам не нужно гадать. Новые пользователи могут получить $0,50 пробного баланса одним нажатием на странице API-ключ. Баланс действителен в течение 7 дней, по одному на человека, без указания платёжных данных. По средневзвешенной цене $0,22 за 1 млн токенов это около 2,27 млн токенов или примерно 1 050 диалоговых ходов размером 1 500/500.

Эта быстрая проверка измеряет вашу фактическую стоимость одного вызова, которую можно умножить на ожидаемый объём:

curl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a 150-word scene opening for a space-western."}]
  }'

Ответ содержит блок usage, а заголовок X-Balance-USD показывает ваш оставшийся баланс. Пробные ключи ограничены 2 параллельными запросами и 60 запросами в минуту, чего достаточно для тестирования. Остальное описано в документации и на странице цены. Обратите внимание на ограничения: одна текстовая модель, контекстное окно 100 000 токенов, нет изображений, аудио, эмбеддингов или дообучения.

Часто задаваемые вопросы

Какой самый дешёвый способ использовать LLM без цензуры?

При низком или неравномерном использовании выгоднее хостинг API с оплатой за токены, так как в простое вы ничего не платите. При соотношении входных и выходных данных 4:1 стоимость API составляет около $0,22 за 1 млн токенов.

Когда самостоятельное развёртывание становится дешевле?

Когда ваш месячный объём токенов превышает стоимость сервера, делённую на средневзвешенную цену. При стоимости сервера $100 и цене $0,22 за 1 млн токенов это около 455 млн токенов в месяц, до того как вы посчитаете своё время.

Можно ли бесплатно протестировать этот API?

Новые пользователи могут получить $0,50 пробного баланса одним нажатием на странице API-ключа. Он действителен 7 дней, не требует данных для оплаты и предоставляется один раз на человека.

Как оплатить?

С помощью криптовалюты: USDT в сети TRC20 или USDC в сети Base. Пополнения могут составлять от $20 до $500, с бонусами 5%, 10% и 15% при больших суммах.

Сгорает ли неиспользованный баланс?

Нет. Баланс предоплаченный, не сгорает, подписки нет.

Получите API-ключ мгновенно

Зарегистрируйтесь, скопируйте токен, обновите базовый URL. Готово.