API-dokumentaatio: Uncensored LLM

Todennus ja base URL

Perus-URL on HTTPS://api.webtheon.com/v1. Syötä API-avaimesi Authorization header. Avain näytetään välittömästi luomisen jälkeen. Käytä sitä minkä tahansa standardin OpenAI SDK:n kanssa.

Chat completions endpoint

Lähetä viestit osoitteeseen POST /v1/chat/completions. Mallin tunnus on uncensored. Tämä päätepiste käsittelee vain tekstin. Ei kuvia, ei ääntä, ei upotuksia.

Pyyntöjen koon on oltava alle 8 Mt. Kontekstiikkuna kattaa yhteensä 100 000 tokenia. Tämä sisältää sekä syöte- että tulostokenit. Tulostus on rajoitettu 16 000 tokeniin pyyntöä kohden. Voit säätää tätä rajaa käyttämällä max_tokens parametri.

Malliluettelon päätepiste

Kysy GET /v1/models -päätepisteestä varmistaksesi saatavuuden. Tämä päätepiste palauttaa metadataa uncensored-mallista. Se vahvistaa mallin tunnuksen ja tuetut parametrit. Käytä tätä asiakasasetusten vianmääritykseen nopeasti.

Vastaus sisältää mallin tunnuksen, objektityypin ja owned by -kentän. Tämä auttaa varmistamaan, että asiakas kirjaimisto osoittaa oikeaan palveluun. Se on yksinkertainen terveydentilatarkistus integraatiollesi.

Virran ja tokenit

Ota streamaus käyttöön asettamalla stream: true. Vastaukset tulevat Server-Sent Events (SSE) -tekniikalla. Token-käytön tiedot näkyvät streamin viimeisessä osassa.

Tämä lähestymistapa vähentää havaittua viivettä pitkissä tulosteissa. Voit aloittaa tekstin käsittelyn sen saapuessa. Se on ihanteellinen reaaliaikaisiin käyttöliittymiin. Virta päättyy siististi käyttötilastojen kanssa.

Parameters and options

Tuki sisältää lämpötilan, top_p:n, stop-jaksot, seedin ja rankaisut. Voit pakottaa JSON-tilan response_format. Funktiokutsut (työkalut) tuetaan täysin.

Aseta temperature luovuuteen. Säädä top_p ytimenäytteistykseen. Käytä seed toistuvien tulosten saamiseksi. Nämä parametrit antavat sinulle tarkan hallinnan generoinnin laadusta. Malli vastaa OpenAI:n vakioparametrien nimiin.

Virheenkäsittely ja rajat

Pyyntörajoitukset ovat 300 pyyntöä minuutissa. Samanaikaisuus on rajoitettu 8 samanaikaiseen pyyntöön avainta kohti. Pyyntöruumiit eivät voi ylittää 8 Mt:iä.

Käsittele virheet joustavasti. 401-tila tarkoittaa, että avaimesi on virheellinen. 402-tila tarkoittaa riittämätöntä krediittiä. 429-tila merkitsee nopeusrajoitusta. Virheet ovat ilmaisia, joten ne eivät kuluta esimaksutokenejä. Tämä suojaa saldoasi vianetsinnän aikana.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)