תיעוד API: LLM ללא צנזורה

כתובת הבסיס ואימות

כתובת ה-URL הבסיסית היא HTTPS://api.webtheon.com/v1. העבר את מפתח ה-API שלך ב- Authorization header. המפתח מוצג מיד לאחר היצירה. השתמש בו עם כל SDK סטנדרטי של OpenAI.

נקודת קצה להשלמות צ'אט

שלם הודעות ל-POST /v1/chat/completions. מזהה המודל הוא uncensored. נקודת הקבלה הזו מטפלת רק ביצירת טקסט. ללא תמונות, ללא אודיו, ללא אמברודינג.

בקשות חייבות להיות מתחת ל-8 MB. חלון ההקשר כולל 100,000 טוקנים בסך הכל. זה כולל את הטוקנים של הפרומפט וההשלמה יחד. הפלט מוגבל ל-16,000 טוקנים לכל בקשה. ניתן להתאים מגבלה זו באמצעות max_tokens פרמטר.

נקודת קצה לרשימת מודלים

בצע שאילתה GET /v1/models כדי לאמת זמינות. נקודת קצה זו מחזרת מטא-נתונים על המודל לא מצונזר. היא מאשרת את מזהה המודל והפרמטרים הנתמכים. השתמש בזה כדי לנטרל תצורות לקוח במהירות.

התגובה כוללת את מזהה המודל, סוג האובייקט ושדה owned by. זה עוזר לך לוודא שהספרייה שלך מצביעה על השירות הנכון. זוהי בדיקת בריאות פשוטה לאינטגרציה שלך.

סטרימינג ושימוש באסימונים

אפשרו זרימה על ידי הגדרת stream: true. התגובות מגיעות כ-Aירועים ממוצעי שרתים (SSE). פרטי שימוש באסימונים מופיעים בקטע הסופי של הזרם.

גישה זו מפחיתה את תחושת העיכוב עבור פלט ארוך. ניתן להתחיל לעבד טקסט כפי שהוא מגיע. זה אידיאלי לממשקים בזמן אמת. הזרימה מסתיימת בצורה נקייה עם נתוני שימוש.

פרמטרים ואפשרויות

תמיכה כוללת טמפרטורה, top_p, רצפי עצירה, זרע וקנסות. אתה יכול להטיל מצב JSON דרך response_format. קריאת פונקציות (כלים) נתמנת במלואה.

הגדר temperature ליצירתיות. התאם top_p לדגימת ליבה. השתמש seed לשם פלט שחזורי. פרמטרים אלה מעניקים לך שליטה מדויקת על איכות היצירה. המודל מגיב לשמות הפרמטרים הסטנדרטיים של OpenAI.

טיפול בשגיאות ומגבלות

מגבלות הקצב הן 300 בקשות לדקה. מקסימום בקשות מקבילות הוא 8 לכל מפתח. גופי בקשות לא יכולים לעלות על 8 MB.

טפלו בשגיאות בצורה חכמה. סטטוס 401 אומר שהמפתח שלך לא חוקי. סטטוס 402 מציינת חוסר בזכות. סטטוס 429 מציין מגבלת קצב. שגיאות הן בחינם, כך שהן לא צורכות את הטוקנים המשולמים מראש שלך. זה מגן על יתרתך במהלך ניפוי באגים.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)