Toutes les alternatives › IA › llama.cpp

llama.cpp est un moteur C/C++ open source pour exécuter des LLM au format GGUF sur CPU et GPU, avec un serveur intégré.

Visiter llama.cpp ↗

llama.cpp comparé à des outils similaires

Similaires à llama.cpp

vLLM

Moteur d'inférence et de service LLM à haut débit

Gratuit · Linux, Auto-hébergé · Site web ↗

LocalAI

API auto-hébergée compatible OpenAI pour modèles locaux

Gratuit · Auto-hébergé, Linux, Mac · Site web ↗

Ollama

Exécutez des grands modèles de langage ouverts en local

Offre gratuite · Mac, Windows, Linux · Site web ↗

Open WebUI

Interface de chat auto-hébergée pour LLM locaux et cloud

Offre gratuite · Auto-hébergé, Web · Site web ↗

LiteLLM

Passerelle LLM et SDK open source pour plus de 100 fournisseurs

Offre gratuite · Auto-hébergé, API · Site web ↗

Dify

Plateforme open source pour créer des applis et agents LLM

Offre gratuite · Web, Auto-hébergé · Site web ↗

Flowise

Créateur en glisser-déposer d'agents IA et de flux LLM

Offre gratuite · Web, Auto-hébergé · Site web ↗

AnythingLLM

Appli IA tout-en-un pour discuter avec vos documents

Offre gratuite · Mac, Windows, Linux, Auto-hébergé · Site web ↗

Questions

llama.cpp est-il gratuit ?

Oui, llama.cpp est gratuit.

llama.cpp est-il open source ?

Oui, llama.cpp est open source.

Peut-on auto-héberger llama.cpp ?

Oui, llama.cpp peut tourner sur votre propre serveur.

Sur quelles plateformes fonctionne llama.cpp ?

llama.cpp est disponible sur Mac, Windows, Linux.

Quelles sont les alternatives à llama.cpp ?

Produits indie similaires : vLLM, LocalAI, Ollama, Open WebUI et 4 autres.

C’est votre produit ? Envoyez une mise à jour.