Todas las alternativas › IA › llama.cpp
llama.cpp
Inferencia de LLMs en C/C++ en hardware cotidiano
llama.cpp es un motor open source en C/C++ para ejecutar LLMs en formato GGUF en CPUs y GPUs, con un servidor integrado.
llama.cpp frente a herramientas similares
| Producto | Precio | Código abierto | Autoalojable | Plataformas |
|---|---|---|---|---|
| llama.cpp | Gratis | Sí | Sí | Mac, Windows, Linux |
| vLLM | Gratis | Sí | Sí | Linux, Autoalojado |
| LocalAI | Gratis | Sí | Sí | Autoalojado, Linux, Mac |
| Ollama | Plan gratuito | – | Sí | Mac, Windows, Linux |
| Open WebUI | Plan gratuito | Sí | Sí | Autoalojado, Web |
| LiteLLM | Plan gratuito | Sí | Sí | Autoalojado, API |
| Dify | Plan gratuito | Sí | Sí | Web, Autoalojado |
Similares a llama.cpp
vLLM
Motor de inferencia y servicio de LLMs de alto rendimiento
Gratis · Linux, Autoalojado · Sitio web ↗
LocalAI
API autoalojada y compatible con OpenAI para modelos locales
Gratis · Autoalojado, Linux, Mac · Sitio web ↗
Ollama
Ejecuta modelos de lenguaje abiertos localmente
Plan gratuito · Mac, Windows, Linux · Sitio web ↗
Open WebUI
Interfaz de chat autoalojada para LLMs locales y en la nube
Plan gratuito · Autoalojado, Web · Sitio web ↗
LiteLLM
Gateway de LLMs y SDK de código abierto para más de 100 proveedores
Plan gratuito · Autoalojado, API · Sitio web ↗
Dify
Plataforma de código abierto para crear apps y agentes con LLMs
Plan gratuito · Web, Autoalojado · Sitio web ↗
Flowise
Creador con arrastrar y soltar para agentes de IA y flujos de LLM
Plan gratuito · Web, Autoalojado · Sitio web ↗
AnythingLLM
App de IA todo en uno para chatear con tus documentos
Plan gratuito · Mac, Windows, Linux, Autoalojado · Sitio web ↗
Preguntas
¿llama.cpp es gratis?
Sí, llama.cpp es gratis.
¿llama.cpp es de código abierto?
Sí, llama.cpp es de código abierto.
¿Se puede autoalojar llama.cpp?
Sí, puedes instalar llama.cpp en tu propio servidor.
¿En qué plataformas funciona llama.cpp?
llama.cpp está disponible para Mac, Windows, Linux.
¿Qué alternativas hay a llama.cpp?
Productos indie similares: vLLM, LocalAI, Ollama, Open WebUI y 4 más.
¿Es tu producto? Envía una actualización.