Dokumentasi API: LLM Uncensored

Pengesahan dan url asas

URL asas ialah HTTPS://api.webtheon.com/v1. Hantar kunci API anda dalam Authorization header. The key is shown immediately after creation. Use it with any standard OpenAI SDK.

Hujung sambungan penyelesaian sembang

Hantar mesej ke POST /v1/chat/completions. ID model ialah uncensored. Hujung sambungan ini mengendalikan penjanaan teks sahaja. Tiada imej, tiada audio, tiada pengekodan semula.

Permintaan mesti kekal di bawah 8 MB. Jendela konteks merangkumi 100,000 token secara keseluruhan. Ini termasuk token prompt dan penyelesaian digabungkan. Output dibatasi kepada 16,000 token setiap permintaan. Anda boleh menyesuaikan had ini menggunakan max_tokens parameter.

Hujung senarai model

Query GET /v1/models untuk mengesahkan ketersediaan. Endpoint ini mengembalikan metadata mengenai model uncensored. Ia mengesahkan ID model dan parameter yang disokong. Gunakan ini untuk nyahpepihahan konfigurasi klien dengan cepat.

Respons termasuk ID model, jenis objek, dan medan dimiliki oleh. Ini membantu anda memastikan pustaka klien anda menunjuk ke perkhidmatan yang betul. Ia adalah pemeriksaan kesihatan mudah untuk integrasi anda.

Penggunaan token streaming

Aktifkan aliran dengan menetapkan stream: true. Respons datang sebagai Server-Sent Events (SSE). Butiran penggunaan token muncul dalam segmen akhir aliran.

Pendekatan ini mengurangkan latensi yang dirasakan untuk output panjang. Anda boleh mula memproses teks sejurus ia tiba. Ia sesuai untuk antara muka masa nyata. Aliran berakhir dengan bersih bersama data penggunaan.

Parameter dan pilihan

Sokongan termasuk suhu, top_p, jujukan henti, benih, dan penalti. Anda boleh memaksakan mod JSON melalui response_format. Panggilan fungsi (alat) disokong sepenuhnya.

Tetapkan temperature untuk kreativiti. Laraskan top_p untuk pensampelan nukleus. Gunakan seed untuk output yang boleh diulang. Parameter ini memberi anda kawalan tepat terhadap kualiti penjanaan. Model menanggapi nama parameter piawai OpenAI.

Penanganan ralat dan had

Had laju adalah 300 permintaan setiap minit. Kebolehcantuman dihadkan kepada 8 permintaan serentak setiap kunci. Badan permintaan tidak boleh melebihi 8 MB.

Tangani ralat dengan anggun. Status 401 bermaksud kunci anda tidak sah. Status 402 menunjukkan kredit tidak mencukupi. Status 429 menandakan had kadar. Ralat adalah percuma, jadi ia tidak menggunakan token prabayar anda. Ini melindungi baki anda semasa nyahpepijat.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)