主な特徴
使える場面
- アプリのチャットや補完リクエストを一つのゲートウェイに集約
- 呼び出し量が多い LLM 処理のトークン費用を削る
- クライアントコードを変えずに 200 以上のモデルを切り替える
使い方
- 1 Edgee のサイトで登録し、API キーを取得します。
- 2 既存の OpenAI 互換クライアントの接続先を Edgee に変更します。
- 3 対応カタログから使いたいモデルを選びます。
- 4 圧縮とルーティングが効いた後のコストとトークン使用量を確認します。
こんな方におすすめ
メリット
- 一つの OpenAI 互換エンドポイントで 200 以上のモデルを扱える
- 圧縮とルーティングで実際のコスト削減を狙える
- 無料で始められるため、試験導入の負担が小さい
制限事項
- 現在の無料提供は製品成長とともに変わる可能性がある
- 最大 50 パーセント削減は事業者の主張で、結果を保証するものではない
- アプリとモデル提供者との間にゲートウェイ層が増える
Edgee とは
Edgee は、アプリケーションと大規模言語モデルの提供者の間に置くエッジネイティブな AI ゲートウェイです。目的は同じ処理をより低コストで動かすことで、トークン圧縮、賢いルーティング、エッジでの処理を組み合わせます。OpenAI 互換 API を公開しているため、OpenAI クライアント形式で書いたコードの接続先を Edgee に切り替えられます。製品ページによれば 200 を超えるモデルに接続でき、現在は無料で利用できると案内されています。単一の提供者から複数モデルへ広がったチームにとって、接続を一つにまとめられる点が魅力です。
できること
- 200 を超えるモデルに対応する一つのエンドポイントにチャットや補完のリクエストを送る
- モデルへ届く前にトークンを圧縮し、使用量を抑える
- 内容に応じてルーティングし、適したモデルへ振り分ける
- エッジ処理を活用して、ユーザーに近い場所で推論を行う
- 複数の提供者にまたがるトークン使用量を一つの接続から追跡する
こんな人に向いています
- LLM API 上で製品を作り、接続点を一つにしたい開発者
- 言語モデルの呼び出しが多く、費用が増えている企業
- クライアントコードを書き換えずにモデルを切り替えたいチーム
- 移行前にゲートウェイの選択肢を比べたいチーム
注意点
ゲートウェイは現在無料と説明されていますが、基盤系のサービスでは無料条件が変わることがあります。依存する前に最新の料金ページを確認してください。最大 50 パーセント削減という数字は事業者の提示によるもので、実際の削減幅は処理内容とモデルの組み合わせによって変わります。導入前後に自分たちのコストと出力品質を比較し、待ち時間にも問題がないか確かめてください。プロキシ層が増えるため、監視対象と信頼する第三者が一つ増える点も考慮が必要です。
よくある質問
Edgee は無料ですか。
サイトでは現在、無料で利用できると案内しています。ただし料金条件は変更される可能性があります。
どのモデルに対応していますか。
OpenAI 互換 API で 200 を超えるモデルに接続できると案内しています。
どのようにコストを下げますか。
トークン圧縮、賢いルーティング、エッジ処理を組み合わせます。
誰向けですか。
LLM サービスを頻繁に使う開発者や企業向けです。
無料で使える理由
公式ページの記載内容: 免费zh-バックフィル
無料の上限、トライアル期間、機能は公式サイトが決定し、いつでも変更される場合があります。
製品プレビュー
一覧ページから保存したスクリーンショットです。プレビュー専用です。