Alternativas ao LocalAI

Ordenadas pelo quanto se parecem com LocalAI e depois pela nota.

Alternativas, ranqueadas

  1. Ollama

    Runtime para baixar e executar modelos de linguagem localmente, com CLI e API REST.

    • Nota maior
    • Roda em mais plataformas
    • Nenhum recurso em comum
    Atualizado há 49 dias
    4 94,9 = Comparar
  2. llama.cpp

    Motor de inferência em C/C++ para LLMs em CPU e GPU, com formato GGUF e quantização.

    • Versão mais recente
    • Nota maior
    • Roda em mais plataformas
    • Nenhum recurso em comum
    Atualizado há 48 dias
    6 94,4 = Comparar
  3. vLLM

    Motor de serviço de LLMs com alta vazão, paged attention e servidor compatível com a API da OpenAI.

    • Nenhum recurso em comum
    Atualizado há 49 dias
    92 81,7 = Comparar
  4. LM Studio

    Descubra, baixe e execute LLMs locais offline no Mac, Windows e Linux com interface amigável e servidor local compatível com OpenAI.

    • Roda em mais plataformas
    • Nenhum recurso em comum
    Parado: 633 dias sem versão
    367 40,0 = Comparar