Documentation de l'API : LLM uncensored

Authentification et URL de base

L'URL de base est HTTPS://api.webtheon.com/v1. Transmettez votre clé API dans le Authorization header. La clé est affichée immédiatement après sa création. Utilisez-la avec n'importe quel SDK OpenAI standard.

Point de terminaison des complétions de chat

Envoyez des messages à POST /v1/chat/completions. L'ID du modèle est uncensored. Ce point de terminaison gère uniquement la génération de texte. Pas d’images, pas d’audio, pas d’embeddings.

Les requêtes doivent rester inférieures à 8 Mo. La fenêtre de contexte couvre 100 000 jetons au total. Cela inclut à la fois les jetons d'invite et de complétion. La sortie est limitée à 16 000 jetons par requête. Vous pouvez ajuster cette limite en utilisant le max_tokens paramètre.

Point de terminaison de liste des modèles

Interrogez GET /v1/models pour vérifier la disponibilité. Ce point de terminaison renvoie des métadonnées sur le modèle uncensored. Il confirme l'ID du modèle et les paramètres pris en charge. Utilisez ceci pour déboguer rapidement les configurations client.

La réponse inclut l'ID du modèle, le type d'objet et le champ owned by. Cela vous aide à vous assurer que votre bibliothèque cliente pointe vers le bon service. C'est une simple vérification de santé pour votre intégration.

Utilisation des tokens en streaming

Activez le streaming en définissant stream: true. Les réponses arrivent sous forme d'événements envoyés par le serveur (SSE). Les détails d'utilisation des tokens apparaissent dans le dernier chunk du flux.

Cette approche réduit la latence perçue pour les longues sorties. Vous pouvez commencer à traiter le texte dès son arrivée. C'est idéal pour les interfaces en temps réel. Le flux se termine proprement avec les données d'utilisation.

Paramètres et options

Le support inclut la température, le top_p, les séquences d'arrêt, la graine et les pénalités. Vous pouvez imposer le mode JSON via response_format. L'appel de fonction (outils) est entièrement pris en charge.

Définir temperature pour la créativité. Ajustez top_p pour l'échantillonnage par noyau. Utilisez seed pour des sorties reproductibles. Ces paramètres vous offrent un contrôle précis sur la qualité de la génération. Le modèle répond aux noms de paramètres standard d'OpenAI.

Gestion des erreurs et limites

Les limites de débit sont de 300 requêtes par minute. La concurrence est limitée à 8 requêtes simultanées par clé. Les corps de requête ne peuvent pas dépasser 8 Mo.

Gérez les erreurs avec élégance. Un statut 401 signifie que votre clé est invalide. Un statut 402 indique un crédit insuffisant. Un statut 429 signale une limitation de taux. Les erreurs sont gratuites, elles ne consomment donc pas vos tokens prépayés. Cela protège votre solde pendant le débogage.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)