API 문서: Uncensored LLM

인증 및 Base URL

기본 URL은 HTTPS://api.webtheon.com/v1입니다. API 키를 헤더에 전달하십시오. Authorization 헤더. 키는 생성 직후 표시됩니다. 표준 OpenAI SDK와 함께 사용하세요.

채팅 완료 엔드포인트

POST /v1/chat/completions으로 메시지를 전송하세요. 모델 ID는 uncensored. 이 엔드포인트는 텍스트 생성만 처리합니다. 이미지가 없고, 오디오가 없으며, 임베딩이 없습니다.

요청 크기는 8 MB 미만이어야 합니다. 컨텍스트 윈도우는 프롬프트와 완성본을 합쳐 총 100,000 토큰입니다. 출력은 요청당 16,000 토큰으로 제한됩니다. 이 제한은 다음을 통해 조정할 수 있습니다. max_tokens 파라미터.

모델 리스팅 엔드포인트

GET /v1/models를 쿼리하여 가용성을 확인합니다. 이 엔드포인트는 uncensored 모델에 대한 메타데이터를 반환합니다. 모델 ID와 지원되는 매개변수를 확인합니다. 클라이언트 구성을 빠르게 디버깅하는 데 사용하세요.

응답에는 모델 ID, 객체 유형 및 owned_by 필드가 포함됩니다. 이를 통해 클라이언트 라이브러리가 올바른 서비스를 가리키고 있는지 확인할 수 있습니다. 이는 통합을 위한 간단한 헬스 체크입니다.

스트리밍 및 토큰 사용

stream을 true로 설정하여 스트리밍 활성화 stream: true. 응답은 서버 전송 이벤트(SSE)로 제공됩니다. 토큰 사용량 세부 정보는 스트림의 마지막 청크에 나타납니다.

이 방식은 긴 출력에 대한 지각된 지연 시간을 줄입니다. 텍스트가 도착하는 대로 처리를 시작할 수 있습니다. 실시간 인터페이스에 이상적입니다. 스트림은 사용량 데이터와 함께 깔끔하게 종료됩니다.

매개변수 및 옵션

온도, top_p, 정지 시퀀스, 시드 및 패널티를 지원합니다. JSON 모드를 통해 강제할 수 있습니다. response_format. 함수 호출(도구)은 완전히 지원됩니다.

設定 temperature 창의성. 조정 top_p nucleus sampling을 위해. Use seed 재현 가능한 출력을 위해 이러한 매개변수는 생성 품질을 정밀하게 제어할 수 있게 해줍니다. 이 모델은 표준 OpenAI 매개변수 이름을 지원합니다.

오류 처리 및 제한

속도 제한은 분당 300회입니다. 키당 동시 요청 수는 최대 8개로 제한됩니다. 요청 본문 크기는 8 MB를 초과할 수 없습니다.

오류를 우아하게 처리하세요. 401 상태는 키가 유효하지 않음을 의미합니다. 402 상태는 크레딧이 부족함을 나타냅니다. 429 상태는 속도 제한을 신호합니다. 오류는 무료이므로 선불 토큰을 소모하지 않습니다. 이는 디버깅 중 잔액을 보호합니다.

cURL

Copycurl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the capital of france"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.webtheon.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.webtheon.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)