Documentazione API: LLM Uncensored

Autenticazione e URL di base

L'URL base è HTTPS://api.webtheon.com/v1. Passa la tua chiave API in Authorization header. La chiave viene mostrata immediatamente dopo la creazione. Usala con qualsiasi SDK OpenAI standard.

Endpoint Chat completions

Invia messaggi a POST /v1/chat/completions. L'ID del modello è uncensored. Questo endpoint gestisce solo la generazione di testo. Nessuna immagine, nessun audio, nessun embedding.

Le richieste devono rimanere sotto gli 8 MB. La finestra di contesto copre 100,000 token in totale. Questo include sia i token del prompt che quelli del completamento. L'output è limitato a 16,000 token per richiesta. Puoi regolare questo limite utilizzando la max_tokens parametro.

Endpoint di elenco dei modelli

Esegui una query GET su /v1/models per verificare la disponibilità. Questo endpoint restituisce i metadati del modello uncensored. Conferma l'ID del modello e i parametri supportati. Usalo per risolvere rapidamente i problemi di configurazione del client.

La risposta include l'ID del modello, il tipo di oggetto e il campo owned by. Questo ti aiuta a garantire che la tua libreria client punti al servizio corretto. È un semplice controllo di integrità per la tua integrazione.

Streaming e utilizzo dei token

Abilita lo streaming impostando stream: true. Le risposte arrivano tramite Server-Sent Events (SSE). I dettagli sull'utilizzo dei token appaiono nell'ultimo chunk dello stream.

Questo approccio riduce la latenza percepita per le risposte lunghe. Puoi iniziare a elaborare il testo man mano che arriva. È ideale per le interfacce in tempo reale. Lo stream termina in modo pulito con i dati di utilizzo.

Parametri e opzioni

Il supporto include temperatura, top_p, sequenze di stop, seed e penalità. Puoi imporre la modalità JSON tramite response_format. Il function calling (strumenti) è completamente supportato.

Imposta temperature per la creatività. Regola top_p per il campionamento nucleare. Usa seed per output riproducibili. Questi parametri ti offrono un controllo preciso sulla qualità della generazione. Il modello risponde ai nomi standard dei parametri di OpenAI.

Gestione degli errori e limiti

I limiti di frequenza sono di 300 richieste al minuto. La concorrenza è limitata a 8 richieste simultanee per chiave. I corpi delle richieste non possono superare gli 8 MB.

Gestisci gli errori in modo elegante. Uno stato 401 significa che la tua chiave non è valida. Uno stato 402 indica crediti insufficienti. Uno stato 429 segnala il limitatore di velocità. Gli errori sono gratuiti, quindi non consumano i tuoi token prepagati. Questo protegge il tuo saldo durante il debug.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)