Toutes les alternatives › IA › vLLM
vLLM
Moteur d'inférence et de service LLM à haut débit
vLLM est une bibliothèque open source de service rapide de LLM avec PagedAttention, batching continu et serveur compatible OpenAI.
vLLM comparé à des outils similaires
| Produit | Prix | Open source | Auto-hébergeable | Plateformes |
|---|---|---|---|---|
| vLLM | Gratuit | Oui | Oui | Linux, Auto-hébergé |
| LiteLLM | Offre gratuite | Oui | Oui | Auto-hébergé, API |
| llama.cpp | Gratuit | Oui | Oui | Mac, Windows, Linux |
| LocalAI | Gratuit | Oui | Oui | Auto-hébergé, Linux, Mac |
| Ollama | Offre gratuite | – | Oui | Mac, Windows, Linux |
| Open WebUI | Offre gratuite | Oui | Oui | Auto-hébergé, Web |
| Dify | Offre gratuite | Oui | Oui | Web, Auto-hébergé |
Similaires à vLLM
LiteLLM
Passerelle LLM et SDK open source pour plus de 100 fournisseurs
Offre gratuite · Auto-hébergé, API · Site web ↗
llama.cpp
Inférence LLM en C/C++ sur du matériel ordinaire
Gratuit · Mac, Windows, Linux · Site web ↗
LocalAI
API auto-hébergée compatible OpenAI pour modèles locaux
Gratuit · Auto-hébergé, Linux, Mac · Site web ↗
Ollama
Exécutez des grands modèles de langage ouverts en local
Offre gratuite · Mac, Windows, Linux · Site web ↗
Open WebUI
Interface de chat auto-hébergée pour LLM locaux et cloud
Offre gratuite · Auto-hébergé, Web · Site web ↗
Dify
Plateforme open source pour créer des applis et agents LLM
Offre gratuite · Web, Auto-hébergé · Site web ↗
Flowise
Créateur en glisser-déposer d'agents IA et de flux LLM
Offre gratuite · Web, Auto-hébergé · Site web ↗
Gotify
Serveur auto-hébergé pour envoyer et recevoir des messages
Gratuit · Auto-hébergé, Android, Web · Site web ↗
Questions
vLLM est-il gratuit ?
Oui, vLLM est gratuit.
vLLM est-il open source ?
Oui, vLLM est open source.
Peut-on auto-héberger vLLM ?
Oui, vLLM peut tourner sur votre propre serveur.
Sur quelles plateformes fonctionne vLLM ?
vLLM est disponible sur Linux, Auto-hébergé.
Quelles sont les alternatives à vLLM ?
Produits indie similaires : LiteLLM, llama.cpp, LocalAI, Ollama et 4 autres.
C’est votre produit ? Envoyez une mise à jour.