Resumo
- O custo de uso hospedado é de $0,22 por 1M de tokens, misturado em uma proporção entrada-saída de 4:1.
- Um servidor hipotético de $100 por mês atinge o ponto de equilíbrio com isso em cerca de 455M de tokens por mês.
- A auto-hospedação adiciona trabalho: configuração, atualizações, monitoramento e tempo ocioso que você ainda paga.
- O crédito de teste de $0,50 cobre cerca de 2,3M de tokens na mesma proporção, suficiente para um teste real.
A opção mais barata depende do seu volume
Se você quer uma API LLM sem censura barata, a resposta tem duas partes. Para cargas de trabalho pequenas e médias, uma API hospedada cobrada por token é quase sempre mais barata, porque você não paga nada enquanto ocioso. Para cargas de trabalho muito grandes e constantes, um modelo auto-hospedado em hardware que você controla pode vencer em preço por token, desde que você considere seu próprio tempo.
O número decisivo é o volume mensal de tokens no qual o custo fixo do servidor iguala a cobrança por token. Cobramos $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída, a partir de crédito pré-pago sem assinatura. Requisições falhas ou recusadas não são cobradas e o crédito nunca expira. Tudo abaixo transforma esses dois números em comparações que você pode reutilizar.
O que custa o uso hospedado
Comece com uma visão por solicitação. Um turno de chat com 1.500 tokens de entrada e 500 de saída custa 1.500 / 1.000.000 x $0,15 = $0,000225 para entrada e 500 / 1.000.000 x $0,50 = $0,00025 para saída. O total é $0,000475. Mil deles custam $0,475.
| Carga de trabalho por mês | Entrada | Saída | Custo |
|---|---|---|---|
| Bot de hobby, 3.000 turnos de chat | 4,5M | 1,5M | $0,675 + $0,75 = $1,425 |
| App pequeno, 30.000 rodadas de chat | 45M | 15M | $6,75 + $7,50 = $14,25 |
| Serviço ocupado, 300.000 rodadas de chat | 450M | 150M | $67,50 + $75,00 = $142,50 |
O custo escala linearmente e começa em zero. Nada nessa tabela precisa de um depósito maior que o mínimo de $20 para as duas primeiras linhas.
Recarregamentos são qualquer valor inteiro de $20 a $500, pagos em cripto (USDT na TRC20 ou USDC na Base). Bônus adicionam +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200, então um recarga de $200 se torna $230 de crédito. Destes $230, $30 é bônus, cerca de 13% do crédito.
A saída é onde a conta se concentra. Na linha do app pequeno, a saída é um quarto dos tokens, mas mais da metade do custo ($7,50 de $14,25). Se você quer cortar gastos, peça respostas mais curtas primeiro. Reduzir pela metade o comprimento da saída nessa linha economiza $3,75 por mês, enquanto reduzir pela metade a entrada economiza apenas $3,375. Ambas valem a pena, e a economia na saída é maior com menos esforço.
O que a auto-hospedagem realmente custa
Executar um modelo de pesos abertos sem censura você mesmo parece gratuito porque os pesos são públicos. Os custos estão em outro lugar:
- Hardware. Um modelo grande o suficiente para escrever bem precisa de uma GPU com muita memória, comprada ou alugada por hora ou mês. Verifique os preços de aluguel atuais do provedor que você usaria; não os cotamos aqui.
- Tempo ocioso. Um servidor alugado cobra se atender uma solicitação ou mil.
- Configuração e manutenção. Software de serviço, escolhas de quantização, atualizações, monitoramento, reinícios e um wrapper compatível com OpenAI são sua responsabilidade.
- Planejamento de throughput. Concorrência e comprimento do contexto competem pela mesma memória da GPU, então você ajusta ou enfileira requisições.
- Escalabilidade. Um pico de tráfego precisa de mais máquinas. Uma API absorve isso para você, dentro de seus limites.
Nada disso é motivo para evitar a auto-hospedagem. É motivo para colocar um número no seu próprio tempo antes de comparar.
O ponto de equilíbrio
Mescle as duas taxas usando uma proporção entrada-saída de 4:1, comum em chats com histórico. Parte de entrada: 0,8 x $0,15 = $0,12. Parte de saída: 0,2 x $0,50 = $0,10. Preço misto: $0,22 por 1M de tokens.
Agora divida o custo mensal do servidor por essa mistura. Estes custos de servidor são exemplos para mostrar o método, não cotações:
| Custo mensal do servidor (exemplo) | Volume de equilíbrio | Mesmo volume que rodadas de chat de 1.600 entrada / 400 saída |
|---|---|---|
| $50 | $50 / $0,22 = cerca de 227M de tokens | cerca de 113.600 |
| $100 | $100 / $0,22 = cerca de 455M de tokens | cerca de 227.300 |
| $300 | $300 / $0,22 = cerca de 1,36B de tokens | cerca de 681.800 |
Abaixo desses volumes, a API hospedada é mais barata antes de contar qualquer um dos seus próprios tempos. Acima deles, o servidor pode vencer, mas apenas se estiver realmente ocupado e apenas se conseguir acompanhar sua concorrência máxima. Uma chave completa aqui lida com 8 requisições simultâneas e 300 requisições por minuto, então verifique que o seu pico se encaixa ou pergunte-se quanto custaria uma segunda máquina.
Trabalhos com alta saída deslocam a média ponderada para cima. Com uma proporção de 1:1, a média é de $0,325 por 1M, o que reduz o ponto de equilíbrio para cerca de 308M de tokens para um servidor de $100.
Formas de manter a conta baixa
Qualquer que seja a rota escolhida, você pode reduzir a própria contagem de tokens.
- Ajuste o histórico. As voltas antigas são cobradas como entrada em toda chamada. Mantenha as últimas 10 a 20 mensagens ou resuma o resto.
- Encurte o prompt do sistema. Um prompt do sistema de 1.500 tokens em 30.000 chamadas são 45M de tokens, ou $6,75.
- Limite a saída onde faz sentido. A saída é o lado mais caro. Use
max_tokenspara tarefas com comprimento conhecido e peça respostas concisas. - Não tente novamente cegamente. No HTTP 429, leia
Retry-Aftere aguarde. Os códigos sãorate_limitedeconcurrency. - Armazene em cache o que se repete. Se você fizer a mesma pergunta duas vezes por dia, armazene a resposta.
A análise de custo e compensação neste site aprofunda o que você abre mão e ganha com modelos sem censura em geral.
Custos ocultos no lado hospedado
A cobrança por uso não está isenta de compensações, e é justo listá-las.
- Limites. Uma chave completa permite 8 requisições simultâneas e 300 por minuto. Uma carga de trabalho que precise de muito mais precisa ser distribuída entre chaves ou movida para infraestrutura local.
- Um único modelo. Você recebe o que o serviço executa. Não é possível substituir por seus próprios pesos ou ajustar o modelo.
- Teto de contexto. A janela de contexto é de 100.000 tokens para prompt mais conclusão.
- Via de pagamento. Os recarregamentos são em cripto, o que algumas equipes não podem usar.
- Dependência. Você depende de um provedor externo estar disponível. Não faça promessas aos seus próprios usuários que dependam de um valor específico de tempo de atividade, porque nenhum é declarado aqui.
Os prompts não são usados para treinamento, o que responde parte da questão de privacidade, embora uma configuração auto-hospedada que nunca saia da sua rede ainda seja a posição mais segura se seus dados forem altamente sensíveis.
Uma lista de verificação de decisão rápida
Responda a estas na ordem e pare na primeira que decidir.
- Seu volume mensal está abaixo do ponto de equilíbrio para o servidor mais barato que você poderia alugar? Use a API hospedada.
- Seus dados precisam ficar em hardware que você controla? Auto-hospede, independente do preço.
- Você precisa modificar o modelo ou executar uma versão específica? Auto-hospede.
- Seu tráfego é irregular ou imprevisível? Use a API hospedada e pague apenas pelo que for executado.
- Ninguém na sua equipe consegue manter um servidor GPU? Use a API hospedada.
A maioria das pequenas equipes acaba no lado hospedado nos primeiros meses e reconsidera apenas quando a conta mensal se aproxima do preço de um servidor que elas executariam com alta utilização.
Teste por $0,50
Você não precisa adivinhar. Novos usuários podem reivindicar $0,50 de crédito de teste com um clique na página da chave de API, válido por 7 dias, um por pessoa, sem detalhes de pagamento. Na mistura de $0,22 por 1M de tokens, isso são cerca de 2,27M de tokens, ou aproximadamente 1.050 voltas de chat do tamanho 1.500/500.
Esta verificação rápida mede seu custo real por chamada, que você pode multiplicar pelo volume esperado:
curl https://api.webtheon.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Write a 150-word scene opening for a space-western."}]
}'
A resposta inclui um bloco usage, e o cabeçalho X-Balance-USD mostra seu crédito restante. Chaves de teste executam 2 requisições simultâneas e 60 requisições por minuto, o que é suficiente para testes. A documentação e a página de preços cobrem o resto. Observe o escopo: um modelo de texto, janela de contexto de 100.000 tokens, sem imagens, áudio, embeddings ou ajuste fino.
