MySoftRank
Iniciar sesión

Alternativas a Ollama

Ordenadas por cuánto se parecen a Ollama y luego por puntuación.

3 alternativas

Alternativas, clasificadas

  1. llama.cpp

    Motor de inferencia en C/C++ para LLM en CPU y GPU, con formato GGUF y cuantización.

    • Versión más reciente
    • Ninguna función en común
    Actualizado hace 3 días
    11 92,6 = Comparar

  2. vLLM

    Motor de servicio de LLM de alto rendimiento, con paged attention y servidor compatible con la API de OpenAI.

    • Ninguna función en común
    Actualizado hace 4 días
    28 91,3 = Comparar

  3. LocalAI

    API autoalojada compatible con OpenAI que ejecuta modelos de texto, imagen y audio en hardware local.

    • Ninguna función en común
    Actualizado hace 4 días
    63 89,1 = Comparar