MySoftRank
Publicar software Iniciar sesión

Alternativas a llama.cpp

Ordenadas por cuánto se parecen a llama.cpp y luego por puntuación.

4 alternativas

Alternativas, clasificadas

  1. Ollama

    Entorno para descargar y ejecutar modelos de lenguaje de forma local, con CLI y API REST.

    • Puntuación más alta
    • Ninguna función en común
    Actualizado hace 49 días
    4 94,9 = Comparar

  2. LocalAI

    API autoalojada compatible con OpenAI que ejecuta modelos de texto, imagen y audio en hardware local.

    • Ninguna función en común
    Actualizado hace 49 días
    61 86,6 = Comparar

  3. vLLM

    Motor de servicio de LLM de alto rendimiento, con paged attention y servidor compatible con la API de OpenAI.

    • Ninguna función en común
    Actualizado hace 49 días
    92 81,7 = Comparar

  4. LM Studio

    Descubra, descargue y ejecute LLM locales sin conexión en Mac, Windows y Linux con interfaz amigable y servidor local compatible con OpenAI.

    • Funciona en más plataformas
    • Ninguna función en común
    Detenido: 633 días sin versión
    367 40,0 = Comparar