مستندات API: LLM Uncensored

URL پایه احراز هویت

URL پایه HTTPS://api.webtheon.com/v1 است. کلید API خود را در Authorization header. کلید بلافاصله پس از ایجاد نمایش داده می‌شود. آن را با هر SDK استاندارد OpenAI استفاده کنید.

نقطه پایانی تکمیل چت

پیام‌ها را به POST /v1/chat/completions ارسال کنید. شناسه مدل uncensored. این انتهای‌بند فقط تولید متن را مدیریت می‌کند. بدون تصویر، بدون صوت، بدون امبدینگ.

درخواست‌ها باید کمتر از 8 مگابایت باشند. پنجره زمینه در مجموع 100,000 توکن را پوشش می‌دهد. این شامل توکن‌های پرامپت و تکمیل به صورت ترکیبی است. خروجی در هر درخواست به 16,000 توکن محدود است. می‌توانید این محدودیت را با استفاده از تنظیم کنید max_tokens پارامتر.

نقطه پایانی فهرست مدل

با ارسال درخواست GET به /v1/models، از موجود بودن مدل اطمینان حاصل کنید. این endpoint متاداده‌ای درباره مدل uncensored برمی‌گرداند. این موضوع شناسه مدل و پارامترهای پشتیبانی‌شده را تأیید می‌کند. از این روش برای اشکال‌زدایی سریع پیکربندی‌های کلاینت استفاده کنید.

پاسخ شامل شناسه مدل، نوع شیء و فیلد owned by است. این به شما کمک می‌کند اطمینان حاصل کنید که کتابخانه کلاینت شما به سرویس صحیح اشاره می‌کند. این یک بررسی سلامت ساده برای یکپارچه‌سازی شماست.

مصرف و پخش زنده

استریمینگ را با تنظیم stream: true. پاسخ‌ها به صورت رویدادهای ارسالی سرور (SSE) دریافت می‌شوند. جزئیات مصرف توکن در قطعه نهایی جریان داده ظاهر می‌شود.

این رویکرد تأخیر ادراک‌شده را برای خروجی‌های طولانی کاهش می‌دهد. می‌توانید پردازش متن را هنگام دریافت آن آغاز کنید. این رویکرد برای رابط‌های بلادرنگ ایده‌آل است. جریان با داده‌های مصرف به‌طور تمیز پایان می‌یابد.

پارامترها و گزینه‌ها

پشتیبانی شامل دما، top_p، دنباله‌های توقف، seed و جریمه‌ها است. شما می‌توانید حالت JSON را از طریق response_format. فراخوانی تابع (ابزارها) به طور کامل پشتیبانی می‌شود.

تنظیم temperature برای خلاقیت. مقدار top_p برای نمونه‌گیری هسته. Use seed برای خروجی‌های تکرارپذیر. این پارامترها کنترل دقیقی بر کیفیت تولید به شما می‌دهند. مدل به نام‌های پارامتر استاندارد OpenAI پاسخ می‌دهد.

مدیریت خطا و محدودیت‌ها

محدودیت نرخ ۳۰۰ درخواست در دقیقه است. همزمانی به ۸ درخواست همزمان به ازای هر کلید محدود شده است. بدنه‌های درخواست نمی‌توانند از ۸ مگابایت تجاوز کنند.

خطاها را به شیوه‌ای مناسب مدیریت کنید. وضعیت ۴۰۱ یعنی کلید شما نامعتبر است. وضعیت ۴۰۲ نشان‌دهنده اعتبار ناکافی است. وضعیت ۴۲۹ نشان‌دهنده محدودیت نرخ است. خطاها رایگان هستند، بنابراین توکن‌های پیش‌پرداخت شما را مصرف نمی‌کنند. این از موجودی شما در طول اشکال‌زدایی محافظت می‌کند.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

پایتون

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

جریان‌سازی

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)