Alle Alternativen › KI › llama.cpp
llama.cpp
LLM-Inferenz in C/C++ auf alltäglicher Hardware
llama.cpp ist eine Open-Source-Engine in C/C++ zum Ausführen von LLMs im GGUF-Format auf CPUs und GPUs, mit integriertem Server.
llama.cpp im Vergleich mit ähnlichen Tools
| Produkt | Preis | Open Source | Self-Hosting | Plattformen |
|---|---|---|---|---|
| llama.cpp | Kostenlos | Ja | Ja | Mac, Windows, Linux |
| vLLM | Kostenlos | Ja | Ja | Linux, Self-Hosting |
| LocalAI | Kostenlos | Ja | Ja | Self-Hosting, Linux, Mac |
| Ollama | Gratis-Plan | – | Ja | Mac, Windows, Linux |
| Open WebUI | Gratis-Plan | Ja | Ja | Self-Hosting, Web |
| LiteLLM | Gratis-Plan | Ja | Ja | Self-Hosting, API |
| Dify | Gratis-Plan | Ja | Ja | Web, Self-Hosting |
Ähnlich wie llama.cpp
Open WebUI
Self-Hosted-Chatoberfläche für lokale und Cloud-LLMs
Gratis-Plan · Self-Hosting, Web · Website ↗
AnythingLLM
All-in-one-KI-App zum Chatten mit deinen Dokumenten
Gratis-Plan · Mac, Windows, Linux, Self-Hosting · Website ↗
Fragen
Ist llama.cpp kostenlos?
Ja, llama.cpp ist kostenlos.
Ist llama.cpp Open Source?
Ja, llama.cpp ist Open Source.
Kann man llama.cpp selbst hosten?
Ja, llama.cpp lässt sich auf dem eigenen Server betreiben.
Auf welchen Plattformen läuft llama.cpp?
llama.cpp gibt es für Mac, Windows, Linux.
Welche Alternativen gibt es zu llama.cpp?
Ähnliche Indie-Produkte: vLLM, LocalAI, Ollama, Open WebUI und 4 weitere.
Dein Produkt? Update einreichen.