JA ▾

安価な無検閲LLM API:ホスト型とセルフホスト型のコスト比較

安価な無検閲LLM APIの利用は主に利用量の問題です。利用が少ないまたは変動する場合はトークン課金、利用が多くて安定している場合はハードウェアのレンタルまたは購入です。このAPIの1Mトークンあたり$0.15および$0.50のレートに基づく計算を示します。

サーバーラックへの長い道のりのそばにある短いコインの供給経路。ホスト型とセルフホスト型のコストを視覚化したものです。

最終更新日:

まとめ

  • ホスト型の利用料金は、入出力比率4:1の混合で1Mトークンあたり$0.22です。
  • 月額$100のサーバーは、月間約455Mトークンで損益分岐します。
  • セルフホスティングには作業が増えます:セットアップ、アップデート、モニタリング、そしてアイドル時間でも依然として課金対象となる時間です。
  • $0.50のトライアルは同じ比率で約2.3Mトークンをカバーし、実用的なテストに十分です。

最も安いオプションは利用量によって異なります

手頃な価格の無検閲LLM APIをお探しの場合、答えは2つの部分に分かれます。小規模および中規模のワークロードでは、トークン単位で課金されるホスト型APIが、アイドル時に料金がかからないため、ほぼ常に安価です。非常に大規模で継続的なワークロードの場合、あなたが管理するハードウェア上のセルフホストモデルは、トークンあたりのコストで有利になる可能性があります。ただし、自分の時間を数えに入れる必要があります。

この記事で計算するのは、固定サーバーコストがトークン課金と等しくなる月間トークン量です。当APIは前払いクレジットから入力1Mトークンあたり$0.15、出力1Mトークンあたり$0.50で課金します。失敗または拒否されたリクエストは課金されず、クレジットは期限切れしません。以下の比較はこれらの数字に基づいています。

ホスト利用料金はどのくらいかかるか

リクエストごとの表示から始めましょう。1,500トークンの入力と500トークンの出力を含むチャットターンは、入力で1,500 / 1,000,000 x $0.15 = $0.000225、出力で500 / 1,000,000 x $0.50 = $0.00025かかります。合計は$0.000475です。1,000個の場合、$0.475かかります。

月間ワークロード入力出力コスト
ホビーボット、3,000チャットターン4.5M1.5M$0.675 + $0.75 = $1.425
小規模アプリ、30,000チャットターン45M15M$6.75 + $7.50 = $14.25
繁忙サービス、300,000チャットターン450M150M$67.50 + $75.00 = $142.50

コストは線形に増加し、ゼロから始まります。最初の2行の項目については、$20の最低額を超える預金は必要ありません。

チャージは$20〜$500の任意の整数額で、暗号資産(TRC20上のUSDTまたはBase上のUSDC)で支払います。ボーナスは$50から+5%、$100から+10%、$200から+15%です。$200のチャージは$230のクレジットになります。このうち$30はボーナスで、クレジットの約13%です。

コストの大部分は出力に集中します。小規模アプリの行では、出力はトークンの4分の1ですがコストの半分超($14.25中$7.50)です。支出を抑えるにはまず応答を短くしてください。出力長を半分にすると月$3.75節約、入力を半分にすると$3.375節約です。両方とも価値がありますが、出力節約の方が効率的です。

セルフホストの真のコスト

無検閲オープンウェイトモデルを自分で実行するのは、ウェイトが公開されているため無料に見えますが、コストは他にあります:

  • ハードウェア。 良好な文章生成には十分なメモリを持つGPUが必要です。レンタル価格は提供元で確認してください。ここでは価格を提示していません。
  • アイドル時間。 レンタルサーバーは1リクエストでも1,000リクエストでも課金されます。
  • セットアップと維持管理。 サーバーソフトウェア、量子化の選択、更新、監視、再起動、OpenAI互換ラッパーはあなたの仕事です。
  • スループット計画。 同時実行数とコンテキスト長は同じGPUメモリを競うため、調整またはキューイングが必要です。
  • スケーリング。 トラフィックの急増には追加サーバーが必要です。APIは制限内でこれを吸収します。

これらはセルフホストを避ける理由ではありません。比較する前に自分の時間を数値化すべき理由です。

損益分岐点

チャット履歴で一般的な入出力比4:1で2つのレートを混合します。入力比率:0.8 x $0.15 = $0.12。出力比率:0.2 x $0.50 = $0.10。混合価格:1Mトークンあたり$0.22。

次に月間サーバーコストをこのブレンド価格で割ります。以下のサーバーコストは引用ではなく方法を示す例です:

月間サーバーコスト(例)損益分岐ボリューム入力1,600 / 出力400のチャットターンと同じボリューム
$50$50 / $0.22 = 約227Mトークン約113,600
$100$100 / $0.22 = 約455Mトークン約227,300
$300$300 / $0.22 = 約1.36Bトークン約681,800

それらのボリュームを下回る場合、ご自身の時間を計算に入れる前の段階でも、ホスト型APIの方が安価です。それらを上回る場合、サーバーが有利になるのは、実際に稼働している場合、かつピーク時の同時接続数に追いつける場合に限られます。ここでのフルキーは8つの同時リクエストと1分あたり300リクエストを処理できます。そのため、ピークが収まるか、または2台目のサーバー(ボックス)のコストがどれくらいか自問してください。

出力中心のワークロードはブレンド価格を上昇させます。入出力比1:1の場合、ブレンド価格は1Mトークンあたり$0.325となり、$100サーバーの損益分岐点は約308Mトークンに下がります。

請求額を抑える方法

どちらのルートを選んでも、トークン数を削減できます。

  1. 履歴の削減。 古い会話は、すべての呼び出しで入力として課金されます。最後の10〜20メッセージを保持するか、それらを要約してください。
  2. システムプロンプトの短縮。 30,000回の呼び出しで1,500トークンのシステムプロンプトは45Mトークン、または$6.75になります。
  3. 出力を制限する。 出力は高コストな側です。既知の長さを持つタスクにはmax_tokensを使用し、簡潔な回答を求めてください。
  4. 安易にリトライしないでください。 HTTP 429 の場合は、Retry-After を確認して待機してください。エラーコードはrate_limited とconcurrency です。
  5. 繰り返されるものはキャッシュしてください。 同じ質問を1日に2回尋ねる場合は、回答を保存してください。

このサイトにあるコストとトレードオフの分析は、一般的な無検閲モデルであなたが得るものや失うものについてさらに深く掘り下げています。

ホスティング側での隠れたコスト

使用量課金にもトレードオフは伴い、それらを公平に列挙することは妥当です。

  • 制限。 完全なキーでは、同時実行リクエストが8件、1分あたり300件まで許可されます。はるかに多くのリクエストが必要なワークロードでは、キー間で分散するか、オンプレミスに移行する必要があります。
  • 1つのモデルのみ。 サービスが実行するモデルがそのまま提供されます。独自のウェイトを差し替えたり、モデルをファインチューニングしたりすることはできません。
  • コンテキストの上限。 プロンプトと出力を合わせたウィンドウは100,000トークンです。
  • 支払い方法。 チャージは暗号資産のみで、一部のチームでは利用できない場合があります。
  • 依存関係。 あなたは外部プロバイダが利用可能であることを前提とします。特定の稼働率の数値に依存する約束を、あなたのユーザーに対して公開しないでください。ここにはそのような約束が記載されていないためです。

プロンプトはトレーニングには使用されません。これはプライバシーに関する懸念の一部を解消しますが、データが非常に機密性の高い場合、ネットワーク外に出ないセルフホスティング環境が最も強力な選択肢となります。

簡単な意思決定チェックリスト

これらに順に答え、判断を下す最初のものまで進みます。

  1. 月間使用量が、レンタル可能な最も安価なサーバーの損益分岐点未満ですか? ホステッド API を使用してください。
  2. データをあなたが管理するハードウェアに留める必要がありますか? 価格に関係なく、セルフホスティングしてください。
  3. モデルを変更したり、特定のバージョンを実行したりする必要がありますか?セルフホストしてください。
  4. トラフィックがスパイク状、または予測不可能ですか? ホステッド API を使用し、実行された分のみに対して課金してください。
  5. チームの誰もGPUサーバーを保守できない場合は、ホストされたAPIをご利用ください。

多くの小規模チームは、最初の数ヶ月間はホスティング側を選択し、月間請求額が高稼働時のサーバー価格に近づいた時点で再検討します。

$0.50 で試す

推測する必要はありません。新規ユーザーはAPIキーページでワンクリックで$0.50の無料トライアルクレジットを獲得できます。有効期限は7日間、1人1回、支払い情報の登録は不要です。混合レートで1Mトークンあたり$0.22の場合、これは約2.27Mトークン、または1,500/500サイズのチャットターン約1,050ターン分に相当します。

このクイックチェックでは、呼び出しあたりの実際のコストを測定し、予想される使用量(ボリューム)を掛け合わせて総コストを算出できます。

curl https://api.webtheon.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a 150-word scene opening for a space-western."}]
  }'

レスポンスにはusageブロックが含まれ、X-Balance-USDヘッダーには残高が表示されます。試用キーは同時リクエストが2件、1分あたりのリクエスト数が60件で、テストには十分です。残りの情報はドキュメントおよび料金ページをご覧ください。スコープは以下の通りです:テキストモデル1つ、100,000トークンのコンテキストウィンドウ、画像・音声・埋め込み・ファインチューニングなし。

よくある質問

無検閲 LLM を利用する最も安価な方法は何ですか?

使用量が少なく、または偏っている場合、アイドル時に課金されないホスト型トークン課金APIが適しています。入力と出力の比率が4:1の場合、このAPIの1Mトークンあたりのコストは約$0.22です。

セルフホスティングはいつ安価になりますか?

月間のトークン使用量が、サーバーコストを混合単価で割った値を超えた場合。例えば、サーバーが$100で、1Mトークンあたり$0.22の場合、月間約455Mトークンとなり、自分の時間を加算する前です。

この API を無料でテストする方法はありますか?

新規ユーザーはAPIキーページでワンクリックで$0.50のトライアルクレジットを取得できます。有効期限は7日で、支払い情報の登録は不要、1人1回限りです。

お支払い方法は?

暗号資産の場合:TRC20 上の USDT または Base 上の USDC。チャージ(残高追加)は $20 から $500 の範囲で、高額なチャージには 5%、10%、15% のボーナスが付与されます。

未使用のクレジットは期限切れになりますか?

いいえ。クレジットは前払いで、期限切れにならず、サブスクリプションもありません。

API キーを即座に入手

サインアップし、トークンをコピーし、ベース URL を更新します。完了です。