요약
- 호스팅 사용량 과금은 입력 대비 출력 비율 4:1로 가중 평균된 토큰 기준 100만 토큰당 $0.22입니다.
- 월 $100 서버는 월 약 455M 토큰 사용 시 손익분기점에 도달합니다.
- 자체 호스팅은 추가 작업을 필요로 합니다: 설정, 업데이트, 모니터링 및 여전히 요금이 부과되는 유휴 시간.
- $0.50 체험금은 동일한 비율 기준 약 2.3M 토큰을 커버하므로 실제 테스트에 충분합니다.
가장 저렴한 옵션은 사용량에 따라 달라집니다
저렴한 무검열 LLM API를 원한다면 두 가지 접근이 필요합니다. 소규모 및 중규모 워크로드의 경우 토큰 단위로 과금되는 호스팅 API가 거의 항상 저렴합니다. 대규모이고 지속적인 워크로드의 경우 자체 호스팅 모델이 토큰당 가격에서 우위를 점할 수 있지만, 본인의 시간을 고려해야 합니다.
이 기사가 계산하는 결정적 수치는 고정 서버 비용이 토큰 단위 과금과 같아지는 월 토큰 사용량입니다. 선불 크레디에서 구독료 없이 입력 토큰 100만 개당 $0.15, 출력 토큰 100만 개당 $0.50을 청구합니다. 실패하거나 거부된 요청에는 요금이 부과되지 않으며 크레딧은 만료되지 않습니다. 아래 내용은 이 두 숫자를 재사용 가능한 비교로 변환합니다.
호스팅 사용량 과금 비용
요청별 관점에서 시작하세요. 입력 토큰 1,500개와 출력 토큰 500개로 구성된 채팅 턴의 입력 비용은 1,500 / 1,000,000 x $0.15 = $0.000225이며, 출력 비용은 500 / 1,000,000 x $0.50 = $0.00025입니다. 총합은 $0.000475입니다. 1,000개의 비용은 $0.475입니다.
| 월간 워크로드 | 입력 | 출력 | 비용 |
|---|---|---|---|
| 취미용 봇, 3,000 채팅 턴 | 4.5M | 1.5M | $0.675 + $0.75 = $1.425 |
| 소형 앱, 30,000 채팅 턴 | 45M | 15M | $6.75 + $7.50 = $14.25 |
| 고부하 서비스, 300,000개 채팅 턴 | 450M | 150M | $67.50 + $75.00 = $142.50 |
비용은 선형적으로 증가하며, 0에서 시작합니다. 그 표의 첫 두 행에는 $20 최소 금액보다 큰 선불 금액이 필요하지 않습니다.
충전은 $20~$500 사이의 정수 금액으로 암호화폐(TRC20 네트워크의 USDT 또는 Base 네트워크의 USDC)로 결제합니다. 보너스는 $50부터 +5%, $100부터 +10%, $200부터 +15%가 적용됩니다. $200 충전 시 $230의 크레딧이 제공되며, 이 중 $30은 보너스(크레딧의 약 13%)입니다.
과금의 중심은 출력입니다. 소규모 앱 행에서 출력은 토큰의 4분의 1이지만 비용의 절반 이상($14.25 중 $7.50)을 차지합니다. 지출을 줄이려면 먼저 응답 길이를 줄이십시오. 그 행에서 출력 길이를 절반으로 줄이면 월 $3.75가 절약되는 반면, 입력을 절반으로 줄이면 $3.375만 절약됩니다. 둘 다 할 가치가 있으며, 출력 절감이 더 적은 노력으로 더 큰 효과를 냅니다.
자체 호스팅의 실제 비용
무검열 오픈 웨이트 모델을 직접 실행하면 가중치가 공개되어 무료처럼 보일 수 있습니다. 비용은 다음과 같습니다:
- 하드웨어. 잘 작성할 수 있을 만큼 충분히 큰 모델은 메모리가 충분한 GPU가 필요하며, 시간 단위 또는 월 단위로 구매하거나 임대해야 합니다. 사용할 공급업체의 현재 임대 가격을 확인하십시오. 당사는 이를 제시하지 않습니다.
- 유휴 시간. 임대 서버는 하나의 요청을 처리하든 천 개의 요청을 처리하든 과금됩니다.
- 설정 및 유지보수. 모델 서빙 소프트웨어, 양자화 선택, 업데이트, 모니터링, 재시작 및 OpenAI 호환 래퍼는 모두 귀하의 책임입니다.
- 처리량 계획. 동시 요청과 컨텍스트 길이는 동일한 GPU 메모리를 경쟁하므로 이를 조정하거나 요청을 큐에 넣을 수 있습니다.
- 확장성. 트래픽 급증은 더 많은 서버를 필요로 합니다. API는 제한 내에서 이를 처리해 줍니다.
이것은 자체 호스팅을 피해야 할 이유가 아닙니다. 비교하기 전에 본인의 시간을 수치화해야 하는 이유입니다.
손익분기점
채팅 역사와 함께 일반적으로 사용되는 4:1 입력-출력 혼합 비율을 사용하여 두 요금을 혼합합니다. 입력 비중: 0.8 x $0.15 = $0.12. 출력 비중: 0.2 x $0.50 = $0.10. 혼합 가격: 100만 토큰당 $0.22.
이제 월 서버 비용을 이 블렌드 가격으로 나눕니다. 이 서버 비용은 견적이 아닌 방법을 보여주는 예시입니다:
| 월간 서버 비용 (예시) | 손익분기점 사용량 | 입력 1,600 / 출력 400 채팅 턴과 동일한 사용량 |
|---|---|---|
| $50 | $50 / $0.22 = 약 227M 토큰 | 약 113,600 |
| $100 | $100 / $0.22 = 약 455M 토큰 | 약 227,300 |
| $300 | $300 / $0.22 = 약 1.36B 토큰 | 약 681,800 |
이 사용량 미만에서는 자체 시간을 고려하기 전에도 호스팅 API가 저렴합니다. 이 이상에서는 서버가 우위를 점할 수 있지만, 실제로 가동 중이어야 하며 최대 동시 요청을 처리할 수 있어야 합니다. 여기서의 전체 키는 동시 요청 8개와 분당 300개 요청을 처리하므로 피크가 맞는지 확인하거나 두 번째 서버의 비용을 고려하세요.
출력 중심 워크로드는 블렌드를 상향 조정합니다. 입력:출력 비율 1:1일 때 블렌드는 토큰 1M당 $0.325이며, 이는 $100 서버의 손익분기점을 약 308M 토큰으로 낮춥니다.
요금을 낮게 유지하는 방법
어떤 경로를 선택하든 토큰 수 자체를 줄일 수 있습니다.
- 이력 정리. 오래된 턴은 모든 호출에서 입력 토큰으로 과금됩니다. 마지막 10~20개 메시지를 유지하거나 나머지를 요약하세요.
- 시스템 프롬프트 단축. 30,000회 호출에 걸친 1,500토큰 시스템 프롬프트는 45M 토큰 또는 $6.75입니다.
- 적절한 곳에서 출력 제한. 출력은 더 비싼 쪽입니다. 알려진 길이의 작업에는
max_tokens을 사용하고 간결한 응답을 요청하세요. - 무작위로 재시도하지 마십시오. HTTP 429 응답 시
Retry-After헤더를 확인하고 기다리십시오. 관련 코드는rate_limited및concurrency입니다. - 반복되는 데이터는 캐싱하세요. 하루에 같은 질문을 두 번 한다면, 답변을 저장하세요.
이 사이트의 비용 및 절충 분석은 일반적으로 무검열 모델을 사용할 때 포기하는 것과 얻는 것에 대해 더 깊이 다룹니다.
호스팅 서비스의 숨겨진 비용
사용량 기반 과금에도 트레이드오프가 있으며, 이를 공정하게 나열하는 것이 중요합니다.
- 제한 사항. 전체 키는 동시 요청 8개와 분당 300개의 요청을 허용합니다. 훨씬 더 많은 요청이 필요한 워크로드는 여러 키에 분산하거나 온프레미스로 이전해야 합니다.
- 단일 모델. 서비스에서 실행하는 모델을 그대로 사용해야 합니다. 자체 가중치를 교체하거나 모델을 미세 조정할 수 없습니다.
- 컨텍스트 한도. 프롬프트와 완료 텍스트를 합쳐 컨텍스트 창은 100,000 토큰입니다.
- 결제 경로. 충전은 암호화폐로 이루어지며, 일부 팀은 이를 사용할 수 없습니다.
- 의존성. 귀하는 외부 공급업체의 가용성에 의존합니다. 특정 가동 시간 수치가 여기에 명시되어 있지 않으므로, 특정 가동 시간 수치를 근거로 한 약속을 자체 사용자에게 게시하지 마십시오.
프롬프트는 학습에 사용되지 않으므로 프라이버시 문제의 일부는 해결됩니다. 하지만 데이터가 매우 민감한 경우 네트워크 외부로 나가지 않는 자체 호스팅 환경이 여전히 가장 안전한 선택입니다.
짧은 결정 체크리스트
순서대로 답변하고, 결정이 내려진 첫 번째 항목에서 멈추세요.
- 월 사용량이 임대할 수 있는 가장 저렴한 서버의 손익분기점보다 낮은가요? 호스팅 API를 사용하세요.
- 데이터를 직접 제어하는 하드웨어에 남아야 하나요? 비용에 상관없이 자체 호스팅하세요.
- 모델을 수정하거나 특정 버전을 실행해야 하나요? 자체 호스팅하세요.
- 트래픽이 급격히 증가하거나 예측 불가능한가요? 호스팅 API를 사용하고 실행된 사용량만큼만 지불하세요.
- 팀에 GPU 서버를 유지 관리할 인력이 없나요? 호스팅 API를 사용하세요.
대부분의 소규모 팀은 초기 몇 달 동안 호스팅 서비스를 이용하다가, 월 요금이 고가동률로 가동할 서버의 가격에 근접할 때만 재고려합니다.
$0.50로 체험하기
추측할 필요가 없습니다. 신규 사용자는 API 키 페이지에서 한 번의 클릭으로 7일 유효한 $0.50의 무료 체험 크레딧을 청구할 수 있으며, 개인당 1회, 결제 정보 불필요합니다. 토큰 100만 개당 혼합 가격 $0.22로 이는 약 2.27M개의 토큰 또는 1,500/500 크기의 채팅 턴 약 1,050개에 해당합니다.
이 빠른 확인은 예상 사용량에 곱해서 계산할 수 있는 실제 호출당 비용을 측정합니다:
curl https://api.webtheon.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Write a 150-word scene opening for a space-western."}]
}'
응답에는 usage 블록이 포함되며, X-Balance-USD 헤더에 남은 크레딧이 표시됩니다. 체험용 키는 동시 요청 2개, 분당 요청 60개로 제한되며 테스트에 충분합니다. 나머지 정보는 문서 및 가격 책정 페이지에서 확인하세요. 범위는 텍스트 모델 하나, 100,000 토큰 컨텍스트, 이미지/오디오/임베딩/파인튜닝 미지원입니다.
