Indie Alternatives

Alle Alternativen › KI › LiteLLM

LiteLLM

Open-Source-LLM-Gateway und SDK für über 100 Anbieter

LiteLLM ist ein Python-SDK und Proxy-Server, der viele LLM-Anbieter über eine API im OpenAI-Stil anspricht, mit Budgets, Schlüsseln und Logging.

LiteLLM besuchen ↗

Preis: Gratis-Plan

Plattformen: Self-Hosting, API

Kategorien: KI, Entwicklertools

LiteLLM im Vergleich mit ähnlichen Tools

ProduktPreisOpen SourceSelf-HostingPlattformen
LiteLLMGratis-PlanJaJaSelf-Hosting, API
vLLMKostenlosJaJaLinux, Self-Hosting
LocalAIKostenlosJaJaSelf-Hosting, Linux, Mac
HeliconeGratis-PlanJaJaWeb, Self-Hosting, API
DifyGratis-PlanJaJaWeb, Self-Hosting
OpenRouterGratis-Plan––API, Web
OllamaGratis-Plan–JaMac, Windows, Linux

Ähnlich wie LiteLLM

vLLM

LLM-Inferenz- und Serving-Engine mit hohem Durchsatz

Kostenlos · Linux, Self-Hosting · Website ↗

LocalAI

Self-Hosted, OpenAI-kompatible API für lokale Modelle

Kostenlos · Self-Hosting, Linux, Mac · Website ↗

Helicone

Open-Source-LLM-Observability und Gateway

Gratis-Plan · Web, Self-Hosting, API · Website ↗

Dify

Open-Source-Plattform zum Entwickeln von LLM-Apps und Agents

Gratis-Plan · Web, Self-Hosting · Website ↗

OpenRouter

Eine API für Hunderte LLMs vieler Anbieter

Gratis-Plan · API, Web · Website ↗

Ollama

Offene große Sprachmodelle lokal ausführen

Gratis-Plan · Mac, Windows, Linux · Website ↗

GlitchTip

Open-Source-Error-Tracking, kompatibel mit Sentry-SDKs

Gratis-Plan · Web, Self-Hosting · Website ↗

Portkey

KI-Gateway mit Observability und Guardrails

Gratis-Plan · Web, API, Self-Hosting · Website ↗

Fragen

Ist LiteLLM kostenlos?

LiteLLM lässt sich kostenlos nutzen, es gibt auch bezahlte Pläne.

Ist LiteLLM Open Source?

Ja, LiteLLM ist Open Source.

Kann man LiteLLM selbst hosten?

Ja, LiteLLM lässt sich auf dem eigenen Server betreiben.

Auf welchen Plattformen läuft LiteLLM?

LiteLLM gibt es für Self-Hosting, API.

Welche Alternativen gibt es zu LiteLLM?

Ähnliche Indie-Produkte: vLLM, LocalAI, Helicone, Dify und 4 weitere.

Dein Produkt? Update einreichen.