FR ▾

API LLM sans censure à petit prix : coût hébergé vs auto-hébergé

Une API LLM sans censure à petit prix dépend surtout du volume : payez au token quand l'utilisation est faible ou irrégulière, louez ou achetez du matériel uniquement quand elle est élevée et stable. Voici les calculs, avec les vrais tarifs de cette API : $0,15 et $0,50 par 1M de tokens.

Un court pipeline de pièces à côté d'une longue route menant à un rack de serveurs, illustrant le coût hébergé vs auto-hébergé

Dernière mise à jour

Résumé

  • La facturation de l'utilisation hébergée coûte $0,22 par 1M de tokens, calculé sur un ratio 4:1 entrée-sortie.
  • Un serveur hypothétique à $100 par mois atteint le seuil de rentabilité avec environ 455M de tokens par mois.
  • L'auto-hébergement ajoute du travail : installation, mises à jour, surveillance et le temps d'inactivité que vous payez toujours.
  • L'essai de $0,50 couvre environ 2,3M de tokens avec le même ratio, suffisant pour un test réel.

L'option la moins chère dépend de votre volume

Si vous voulez une API LLM sans censure à bas prix, la réponse a deux parties. Pour les charges de travail petites et moyennes, une API hébergée facturée au token est presque toujours moins chère, car vous ne payez rien en idle. Pour les charges de travail très importantes et constantes, un modèle auto-hébergé sur du matériel que vous contrôlez peut gagner en prix par token, tant que vous comptez votre propre temps.

Le chiffre décisif est celui que cet article calcule : le volume mensuel de tokens auquel le coût fixe du serveur égale la facturation au token. Nous facturons $0,15 par 1M de tokens d'entrée et $0,50 par 1M de tokens de sortie, depuis un crédit prépayé sans abonnement. Les requêtes échouées ou refusées ne sont pas facturées et le crédit n'expire jamais. Tout ce qui suit transforme ces deux chiffres en comparaisons réutilisables.

Ce que coûte la facturation de l'utilisation hébergée

Commencez par une vue par requête. Un tour de chat avec 1 500 tokens d'entrée et 500 tokens de sortie coûte 1 500 / 1 000 000 x $0,15 = $0,000225 pour l'entrée et 500 / 1 000 000 x $0,50 = $0,00025 pour la sortie. Le total est de $0,000475. Un millier de ces tours coûtent $0,475.

Charge de travail par moisEntréeSortieCoût
Bot hobby, 3 000 tours de chat4,5M1,5M$0,675 + $0,75 = $1,425
Petite application, 30 000 tours de conversation45M15M$6,75 + $7,50 = $14,25
Service chargé, 300 000 tours de conversation450M150M$67,50 + $75,00 = $142,50

Le coût évolue linéairement et commence à zéro. Rien dans ce tableau ne nécessite un dépôt supérieur au minimum de 20 $ pour les deux premières lignes.

Les recharges sont un montant entier de $20 à $500, payés en crypto (USDT sur TRC20 ou USDC sur Base). Les bonus ajoutent +5% à partir de $50, +10% à partir de $100 et +15% à partir de $200, donc une recharge de $200 devient $230 de crédit. Sur ces $230, $30 sont un bonus, soit environ 13% du crédit.

La sortie est là où la facture se concentre. Dans la ligne de la petite application, la sortie représente un quart des tokens mais plus de la moitié du coût ($7,50 sur $14,25). Si vous voulez réduire les dépenses, demandez des réponses plus courtes en premier. Diviser par deux la longueur de la sortie dans cette ligne économise $3,75 par mois, tandis que diviser par deux l'entrée n'économise que $3,375. Les deux sont intéressants, et l'économie sur la sortie est plus importante pour moins d'effort.

Ce que coûte vraiment l'auto-hébergement

Exécuter vous-même un modèle à poids ouverts sans censure semble gratuit car les poids sont publics. Les coûts sont ailleurs :

  • Matériel. Un modèle assez grand pour bien écrire a besoin d'un GPU avec beaucoup de mémoire, acheté ou loué à l'heure ou au mois. Consultez les prix de location actuels du fournisseur que vous utiliseriez ; nous ne les citons pas ici.
  • Temps d'inactivité. Un serveur loué facture qu'il serve une requête ou mille.
  • Installation et maintenance. Le logiciel de service, les choix de quantification, les mises à jour, la surveillance, les redémarrages et un wrapper compatible OpenAI sont à votre charge.
  • Planification du débit. La concurrence et la longueur de la fenêtre de contexte se disputent la même mémoire GPU, donc vous les ajustez ou mettez les requêtes en file d'attente.
  • Mise à l'échelle. Un pic de trafic nécessite plus de machines. Une API l'absorbe pour vous, dans ses limites.

Rien de tout cela n'est une raison pour éviter l'auto-hébergement. C'est une raison pour chiffrer votre propre temps avant de comparer.

Le point d'équilibre

Mixez les deux taux en utilisant un ratio entrée-sortie de 4:1, courant pour le chat avec historique. Part entrée : 0,8 x $0,15 = $0,12. Part sortie : 0,2 x $0,50 = $0,10. Prix mixte : $0,22 par 1M de tokens.

Divisez maintenant un coût mensuel de serveur par ce mix. Ces coûts de serveur sont des exemples pour montrer la méthode, pas des devis :

Coût mensuel du serveur (exemple)Volume d'équilibreMême volume que les tours de chat de 1 600 en / 400 tokens de sortie
$50$50 / $0,22 = environ 227M de tokensenviron 113 600
$100$100 / $0,22 = environ 455M de tokensenviron 227 300
$300$300 / $0,22 = environ 1,36B de tokensenviron 681 800

En dessous de ces volumes, l'API hébergée est moins chère avant de compter votre propre temps. Au-dessus, le serveur peut gagner, mais seulement s'il est réellement occupé et seulement s'il suit votre pic de concurrence. Une clé complète ici gère 8 requêtes simultanées et 300 requêtes par minute, donc vérifiez que votre pic rentre ou demandez-vous ce qu'une deuxième machine coûterait.

Les charges de travail à forte proportion de sortie déplacent le mix vers le haut. Avec un ratio 1:1, le mix est de $0,325 par 1M, ce qui abaisse le point d'équilibre à environ 308M de tokens pour un serveur à $100.

Moyens de réduire la facture

Quelle que soit la méthode choisie, vous pouvez réduire le nombre de tokens lui-même.

  1. Réduire l'historique. Les anciens tours sont facturés en entrée à chaque appel. Gardez les 10 à 20 derniers messages ou résumez le reste.
  2. Raccourcir le prompt système. Un prompt système de 1 500 tokens sur 30 000 appels représente 45M de tokens, soit $6,75.
  3. Plafonner la sortie là où c'est pertinent. La sortie est le côté plus cher. Utilisez max_tokens pour les tâches de longueur connue, et demandez des réponses concises.
  4. Ne relancez pas aveuglément. Sur HTTP 429, lisez Retry-After et attendez. Les codes sont rate_limited et concurrency.
  5. Mettez en cache ce qui se répète. Si vous posez la même question deux fois par jour, stockez la réponse.

L’analyse des coûts et des compromis sur ce site va plus loin dans l’explication de ce que vous abandonnez et obtenez avec les modèles sans censure en général.

Coûts cachés du côté de l’hébergement

La facturation de l’utilisation n’est pas exempte de compromis, et il est juste de les lister.

  • Limites. Une clé complète permet 8 requêtes simultanées et 300 par minute. Une charge de travail qui en nécessite beaucoup plus doit être répartie sur plusieurs clés ou déplacée en local.
  • Un seul modèle. Vous obtenez ce que le service exécute. Vous ne pouvez pas remplacer les poids par les vôtres ni ajuster le modèle.
  • Plafond de contexte. La fenêtre est de 100 000 tokens pour le prompt et la réponse combinés.
  • Voie de paiement. Les recharges se font en crypto, ce que certaines équipes ne peuvent pas utiliser.
  • Dépendance. Vous dépendez de la disponibilité d'un fournisseur externe. Ne publiez aucune promesse à vos propres utilisateurs qui dépendent d'un chiffre de disponibilité spécifique, car aucun n'est indiqué ici.

Les prompts ne sont pas utilisés pour l’entraînement, ce qui répond en partie à la question de la confidentialité, bien qu’une installation auto-hébergée qui ne quitte jamais votre réseau reste la position la plus sûre si vos données sont très sensibles.

Une courte liste de vérification de décision

Répondez à ces questions dans l’ordre et arrêtez-vous à la première qui décide.

  1. Votre volume mensuel est-il inférieur au point d’équilibre du serveur le moins cher que vous pourriez louer ? Utilisez l’API hébergée.
  2. Vos données doivent-elles rester sur du matériel que vous contrôlez ? Auto-hébergez, quel que soit le prix.
  3. Avez-vous besoin de modifier le modèle ou d’exécuter une version spécifique ? Auto-hébergez.
  4. Votre trafic est-il irrégulier ou imprévisible ? Utilisez l'API hébergée et ne payez que pour ce qui s'exécute.
  5. Personne dans votre équipe n'est-il capable de maintenir un serveur GPU ? Utilisez l'API hébergée.

La plupart des petites équipes finissent par choisir le côté hébergé pour les premiers mois et ne reconsidèrent leur choix que lorsque la facture mensuelle approche du prix d’un serveur qu’elles feraient tourner à fort taux d’utilisation.

Essayez-le pour 0,50 $

Vous n'avez pas à deviner. Les nouveaux utilisateurs peuvent réclamer $0,50 de crédit d'essai gratuit en un clic sur la page clé API, valable 7 jours, un par personne, sans détails de paiement. Au prix mixé de $0,22 par 1M de tokens, cela représente environ 2,27M de tokens, ou environ 1 050 tours de chat de la taille 1 500/500.

Ce test rapide mesure votre coût réel par appel, que vous pouvez multiplier par votre volume attendu :

curl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a 150-word scene opening for a space-western."}]
  }'

La réponse inclut un bloc usage, et l'en-tête X-Balance-USD affiche votre crédit restant. Les clés d'essai fonctionnent à raison de 2 requêtes simultanées et de 60 requêtes par minute, ce qui est largement suffisant pour les tests. La documentation et la page des tarifs couvrent le reste. Notez la portée : un seul modèle textuel, contexte de 100 000 tokens, pas d'images, d'audio, d'embeddings ni de fine-tuning.

Questions fréquemment posées

Quelle est la façon la moins chère d’utiliser un LLM sans censure ?

Pour une utilisation faible ou irrégulière, une API hébergée au token, car vous ne payez rien à l’inactivité. Avec un ratio entrée-sortie de 4:1, cette API coûte environ 0,22 $ par 1M de tokens.

Quand l’auto-hébergement devient-il moins cher ?

Lorsque votre volume mensuel de tokens dépasse le coût de votre serveur divisé par le prix mixé. Avec un exemple de serveur à $100 et $0,22 par 1M, cela représente environ 455M de tokens par mois, avant de compter votre temps.

Existe-t-il un moyen gratuit de tester cette API ?

Les nouveaux utilisateurs peuvent réclamer $0,50 de crédit d’essai en un clic sur la page de la clé API. Il est valable 7 jours, ne nécessite aucune information de paiement et est limité à un par personne.

Comment payer ?

Avec crypto : USDT sur TRC20 ou USDC sur Base. Les recharges vont de $20 à $500 avec des bonus de 5 %, 10 % et 15 % pour les montants plus élevés.

Le crédit non utilisé expire-t-il ?

Non. Le crédit est prépayé, n’expire jamais et il n’y a pas d’abonnement.

Obtenez votre clé API instantanément

Inscrivez-vous, copiez le token, mettez à jour votre URL de base. C’est fait.