Dokumentasi API: LLM Uncensored

Autentikasi dan URL dasar

URL dasar adalah HTTPS://api.webtheon.com/v1. Kirimkan kunci API Anda dalam Authorization header. Kunci ditampilkan segera setelah dibuat. Gunakan dengan SDK OpenAI standar mana pun.

Endpoint Chat completions

Kirim pesan ke POST /v1/chat/completions. ID modelnya adalah uncensored. Endpoint ini hanya menangani generasi teks. Tidak ada gambar, tidak ada audio, tidak ada embedding.

Permintaan harus tetap di bawah 8 MB. Jendela konteks mencakup total 100,000 token. Ini termasuk token prompt dan kelengkapan gabungan. Output dibatasi hingga 16,000 token per permintaan. Anda dapat menyesuaikan batas ini menggunakan max_tokens parameter.

Endpoint daftar model

Kirim permintaan GET /v1/models untuk memverifikasi ketersediaan. Endpoint ini mengembalikan metadata tentang model uncensored. Ini mengonfirmasi ID model dan parameter yang didukung. Gunakan untuk mendiagnosis konfigurasi klien dengan cepat.

Respons mencakup ID model, tipe objek, dan bidang owned_by. Ini membantu Anda memastikan pustaka klien Anda mengarah ke layanan yang benar. Ini adalah pemeriksaan kesehatan sederhana untuk integrasi Anda.

Streaming dan penggunaan token

Aktifkan streaming dengan mengatur stream: true. Respons dikirim sebagai Server-Sent Events (SSE). Detail penggunaan token muncul di bagian akhir dari aliran data.

Pendekatan ini mengurangi latensi yang dirasakan untuk output panjang. Anda dapat mulai memproses teks saat teks tersebut tiba. Pendekatan ini sangat ideal untuk antarmuka real-time. Aliran berakhir dengan bersih disertai data penggunaan.

Parameter dan opsi

Dukungan mencakup suhu, top_p, urutan henti, seed, dan penalti. Anda dapat memaksakan mode JSON melalui response_format. Pemanggilan fungsi (alat) didukung sepenuhnya.

Atur temperature untuk kreativitas. Sesuaikan top_p untuk sampling nuklir. Gunakan seed untuk output yang dapat direproduksi. Parameter ini memberikan kontrol presisi atas kualitas generasi. Model merespons nama parameter standar OpenAI.

Penanganan kesalahan dan batasan

Batas laju adalah 300 permintaan per menit. Koncurrency dibatasi hingga 8 permintaan simultan per kunci. Badan permintaan tidak boleh melebihi 8 MB.

Tangani kesalahan dengan baik. Status 401 berarti kunci Anda tidak valid. Status 402 menunjukkan kredit tidak cukup. Status 429 menandakan pembatasan laju. Kesalahan gratis, jadi mereka tidak mengonsumsi token prabayar Anda. Ini melindungi saldo Anda selama debugging.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)