LiteLLM
100以上のプロバイダーに対応したオープンソースのLLMゲートウェイとSDK
LiteLLMは、OpenAI形式のAPIで多数のLLMプロバイダーを呼び出せるPython SDKおよびプロキシサーバーで、予算管理、キー管理、ログ記録を備える。
LiteLLM と類似ツールの比較
| プロダクト | 価格 | オープンソース | セルフホスト | 対応環境 |
|---|---|---|---|---|
| LiteLLM | 無料プランあり | ○ | ○ | セルフホスト、API |
| vLLM | 無料 | ○ | ○ | Linux、セルフホスト |
| LocalAI | 無料 | ○ | ○ | セルフホスト、Linux、Mac |
| Helicone | 無料プランあり | ○ | ○ | Web、セルフホスト、API |
| Dify | 無料プランあり | ○ | ○ | Web、セルフホスト |
| OpenRouter | 無料プランあり | – | – | API、Web |
| Ollama | 無料プランあり | – | ○ | Mac、Windows、Linux |
LiteLLM に似たツール
よくある質問
LiteLLM は無料ですか？
LiteLLM は無料で使い始められ、有料プランもあります。
LiteLLM はオープンソースですか？
はい、LiteLLM はオープンソースです。
LiteLLM はセルフホストできますか？
はい、LiteLLM は自分のサーバーで動かせます。
LiteLLM はどの環境で使えますか？
LiteLLM は セルフホスト、API で使えます。
LiteLLM の代わりになるツールは？
似たインディープロダクト：vLLM、LocalAI、Helicone、Dify ほか4件。
あなたのプロダクトですか？ 情報を更新する。