Documentație API: LLM uncensored

Autentificare și URL de bază

URL-ul de bază este HTTPS://api.webtheon.com/v1. Transmiteți cheia API în Authorization header., Cheia este afișată imediat după creare. Utilizeaz-o cu orice SDK standard OpenAI.

Endpoint Completări Chat

Trimite mesaje la POST /v1/chat/completions. ID-ul modelului este uncensored. Acest endpoint gestionează doar generarea de text. Fără imagini, fără audio, fără embeddings.

Cererile trebuie să rămână sub 8 MB. Fereastra de context acoperă 100,000 de tokeni în total. Acest lucru include atât tokenii de prompt, cât și pe cei de completare. Ieșirea este limitată la 16,000 de tokeni per cerere. Puteți ajusta această limită folosind max_tokens parametru.

Endpoint listare modele

Interogare GET /v1/models pentru a verifica disponibilitatea. Acest endpoint returnează metadate despre modelul uncensored. Acest lucru confirmă ID-ul modelului și parametrii acceptați. Folosește acest lucru pentru a depana rapid configurațiile clientului.

Răspunsul include ID-ul modelului, tipul de obiect și câmpul owned by. Acest lucru te ajută să te asiguri că biblioteca clientului tău pointează către serviciul corect. Este o verificare simplă a stării pentru integrarea ta.

Streaming și utilizarea tokenilor

Activați streaming-ul setând stream: true. Răspunsurile vin sub forma Server-Sent Events (SSE). Detaliile privind utilizarea tokenilor apar în ultimul fragment al fluxului.

Această abordare reduce latența percepută pentru output-uri lungi. Puteți începe procesarea textului pe măsură ce acesta ajunge. Este ideal pentru interfețe în timp real. Fluxul se încheie curat cu datele de utilizare.

Parametri și opțiuni

Suport include temperatura, top_p, secvențele de oprire, seed și penalizările. Puteți impune modul JSON prin response_formatChemarea de funcții (instrumente) este complet suportată.

Setează temperature pentru creativitate. Ajustează top_p pentru eșantionarea nucleu. Utilizați seed pentru rezultate reproducibile. Acești parametri vă oferă un control precis asupra calității generării. Modelul răspunde la numele standard de parametri OpenAI.

Gestionarea erorilor și limitele

Limitările de rată sunt de 300 de cereri pe minut. Concurența este limitată la 8 cereri simultane per cheie. Corpurile cererilor nu pot depăși 8 MB.

Gestionați erorile cu grijă. Un status 401 înseamnă că cheia ta este nevalidă. Un status 402 indică credit insuficient. Un status 429 semnalează limitarea ratei. Erorile sunt gratuite, așa că nu consumă tokenii preplătiți. Acest lucru îți protejează balanța în timpul depanării.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)