Todas las alternativas › IA › vLLM
vLLM
Motor de inferencia y servicio de LLMs de alto rendimiento
vLLM es una biblioteca open source para servir LLMs de forma rápida con PagedAttention, batching continuo y un servidor compatible con OpenAI.
vLLM frente a herramientas similares
| Producto | Precio | Código abierto | Autoalojable | Plataformas |
|---|---|---|---|---|
| vLLM | Gratis | Sí | Sí | Linux, Autoalojado |
| LiteLLM | Plan gratuito | Sí | Sí | Autoalojado, API |
| llama.cpp | Gratis | Sí | Sí | Mac, Windows, Linux |
| LocalAI | Gratis | Sí | Sí | Autoalojado, Linux, Mac |
| Ollama | Plan gratuito | – | Sí | Mac, Windows, Linux |
| Open WebUI | Plan gratuito | Sí | Sí | Autoalojado, Web |
| Dify | Plan gratuito | Sí | Sí | Web, Autoalojado |
Similares a vLLM
LiteLLM
Gateway de LLMs y SDK de código abierto para más de 100 proveedores
Plan gratuito · Autoalojado, API · Sitio web ↗
llama.cpp
Inferencia de LLMs en C/C++ en hardware cotidiano
Gratis · Mac, Windows, Linux · Sitio web ↗
LocalAI
API autoalojada y compatible con OpenAI para modelos locales
Gratis · Autoalojado, Linux, Mac · Sitio web ↗
Ollama
Ejecuta modelos de lenguaje abiertos localmente
Plan gratuito · Mac, Windows, Linux · Sitio web ↗
Open WebUI
Interfaz de chat autoalojada para LLMs locales y en la nube
Plan gratuito · Autoalojado, Web · Sitio web ↗
Dify
Plataforma de código abierto para crear apps y agentes con LLMs
Plan gratuito · Web, Autoalojado · Sitio web ↗
Flowise
Creador con arrastrar y soltar para agentes de IA y flujos de LLM
Plan gratuito · Web, Autoalojado · Sitio web ↗
Gotify
Servidor autoalojado para enviar y recibir mensajes
Gratis · Autoalojado, Android, Web · Sitio web ↗
Preguntas
¿vLLM es gratis?
Sí, vLLM es gratis.
¿vLLM es de código abierto?
Sí, vLLM es de código abierto.
¿Se puede autoalojar vLLM?
Sí, puedes instalar vLLM en tu propio servidor.
¿En qué plataformas funciona vLLM?
vLLM está disponible para Linux, Autoalojado.
¿Qué alternativas hay a vLLM?
Productos indie similares: LiteLLM, llama.cpp, LocalAI, Ollama y 4 más.
¿Es tu producto? Envía una actualización.