Документация API: Uncensored LLM

Аутентификация и базовый URL

Базовый URL: HTTPS://api.webtheon.com/v1. Передайте ваш API-ключ в Authorization header. Ключ показывается сразу после создания. Используйте его с любым стандартным SDK OpenAI.

Эндпоинт Chat Completions

Отправляйте сообщения в POST /v1/chat/completions. model ID — uncensored. Этот эндпоинт выполняет только генерацию текста. Никаких изображений, никакого аудио, никаких эмбеддингов.

Запросы должны быть менее 8 МБ. Окно контекста составляет 100,000 токенов в сумме. Это включает токены промпта и дополнения вместе взятые. Вывод ограничен 16,000 токенов на запрос. Вы можете изменить этот лимит с помощью max_tokens параметр.

Конечная точка для получения списка моделей

Запрос GET /v1/models для проверки доступности. Этот эндпоинт возвращает метаданные о uncensored модели. Он подтверждает идентификатор модели и поддерживаемые параметры. Используйте это для быстрой отладки конфигураций клиента.

Ответ включает идентификатор модели, тип объекта и поле owned by. Это помогает убедиться, что ваша клиентская библиотека указывает на правильную службу. Это простая проверка работоспособности для вашей интеграции.

Потоковая передача и использование токенов

Включите потоковую передачу, установив stream: true. Ответы поступают через Server-Sent Events (SSE). Детали использования токенов отображаются в последнем чанке потока.

Этот подход снижает воспринимаемую задержку для длинных выводов. Вы можете начинать обработку текста по мере его поступления. Это идеально подходит для интерфейсов реального времени. Поток завершается корректно, включая данные об использовании.

Параметры и опции

Поддержка включает temperature, top_p, последовательности остановки, seed и штрафы. Вы можете включить режим JSON через response_format. Вызов функций (инструменты) полностью поддерживается.

Установить temperature для творчества. Настройте top_p для выборки по ядру. Используйте seed для воспроизводимых результатов. Эти параметры дают вам точный контроль над качеством генерации. Модель реагирует на стандартные имена параметров OpenAI.

Обработка ошибок и лимиты

Лимиты составляют 300 запросов в минуту. Одновременные запросы ограничены 8 одновременными запросами на ключ. Тела запросов не могут превышать 8 МБ.

Корректная обработка ошибок. Статус 401 означает, что ваш ключ недействителен. Статус 402 указывает на недостаток средств. Статус 429 сигнализирует о превышении лимита запросов. Ошибки бесплатны, поэтому они не расходуют ваши предоплаченные токены. Это защищает ваш баланс при отладке.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)