API Dokümantasyonu: Uncensored LLM

Kimlik doğrulama ve base URL

Temel URL HTTPS://api.webtheon.com/v1 şeklindedir. API anahtarınızı başlıkta iletin Authorization header. Anahtar, oluşturulduktan hemen sonra gösterilir. Standart herhangi bir OpenAI SDK'sı ile kullanın.

Sohbet tamamlamaları uç noktası

POST /v1/chat/completions adresine mesaj gönderin. Model kimliği uncensored. Bu uç nokta yalnızca metin oluşturma yapar. Resim yok, ses yok, gömme (embedding) yok.

İstekler 8 MB altında kalmalıdır. Bağlam penceresi toplam 100,000 token kapsar. Bu, hem istem hem de tamamlama tokenlarını içerir. Çıktı isteğe başına 16,000 token ile sınırlıdır. Bu limiti aşağıdaki aracı kullanarak ayarlayabilirsiniz. max_tokens parametre.

Model listeleme uç noktası

Kullanılabilirliği doğrulamak için GET /v1/models sorgusunu yapın. Bu uç nokta uncensored model hakkında meta veriler döndürür. Model kimliğini ve desteklenen parametreleri doğrular. İstemci yapılandırmalarını hızlıca halletmek için bunu kullanın.

Yanıt, model kimliğini, nesne türünü ve owned_by alanını içerir. Bu, istemci kütüphanenizin doğru servise işaret ettiğinden emin olmanıza yardımcı olur. Entegrasyonunuz için basit bir sağlık kontrolüdür.

Akış ve token kullanımı

Ayarlayarak akışı etkinleştirin stream: true. Yanıtlar Sunucu Tarafından Olaylar (SSE) olarak gelir. Token kullanım detayları akışın son parçasında görünür.

Bu yaklaşım, uzun çıktılar için algılanan gecikmeyi azaltır. Metni gelmeye başladığında işlemeye başlayabilirsiniz. Gerçek zamanlı arayüzler için idealdir. Akış, kullanım verileriyle temiz bir şekilde sona erer.

Parameters and options

Sıcaklık, top_p, durdurma dizeleri, seed ve ceza parametreleri desteklenir. JSON modunu response_format. İşlev çağırma (araçlar) tam olarak desteklenir.

Ayarla temperature yaratıcılık için. Ayarlayın top_p nükleus ökleme için. Kullanın seed tekrarlanabilir çıktılar için. Bu parametreler, üretim kalitesini hassas bir şekilde kontrol etmenizi sağlar. Model, standart OpenAI parametre adlarına yanıt verir.

Hata yönetimi ve sınırlamalar

İstek limitleri dakikada 300 istektir. Eşzamanlılık, anahtar başına eşzamanlı 8 istekle sınırlıdır. İstek gövdeleri 8 MB'ı aşamaz.

401 durumu anahtarınızın geçersiz olduğunu gösterir. 402 durumu yetersiz krediyi belirtir. 429 durumu hız sınırlamasını işaret eder. Hatalar ücretsizdir, bu nedenle ön ödemeli tokenlarınızı tüketmez. Bu, hata ayıklama sırasında bakiyenizi korur.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)