Alternativas a Ollama
Ordenadas por cuánto se parecen a Ollama y luego por puntuación.
Alternativas, clasificadas
-
llama.cpp
Motor de inferencia en C/C++ para LLM en CPU y GPU, con formato GGUF y cuantización.
Actualizado hace 48 días6 94,4 = Comparar -
LocalAI
API autoalojada compatible con OpenAI que ejecuta modelos de texto, imagen y audio en hardware local.
Actualizado hace 49 días61 86,6 = Comparar -
vLLM
Motor de servicio de LLM de alto rendimiento, con paged attention y servidor compatible con la API de OpenAI.
Actualizado hace 49 días92 81,7 = Comparar