Alternativas a vLLM
Ordenadas por cuánto se parecen a vLLM y luego por puntuación.
Alternativas, clasificadas
-
Ollama
Entorno para descargar y ejecutar modelos de lenguaje de forma local, con CLI y API REST.
Actualizado hace 49 días4 94,9 = Comparar -
llama.cpp
Motor de inferencia en C/C++ para LLM en CPU y GPU, con formato GGUF y cuantización.
Actualizado hace 48 días6 94,4 = Comparar -
LocalAI
API autoalojada compatible con OpenAI que ejecuta modelos de texto, imagen y audio en hardware local.
Actualizado hace 49 días61 86,6 = Comparar -
LM Studio
Descubra, descargue y ejecute LLM locales sin conexión en Mac, Windows y Linux con interfaz amigable y servidor local compatible con OpenAI.
Detenido: 633 días sin versión367 40,0 = Comparar