vLLM Project

Ainda não verificado vllm.ai

1 listagem

  1. vLLM

    Motor de serviço de LLMs com alta vazão, paged attention e servidor compatível com a API da OpenAI.

    vLLM Project Nenhuma avaliação ainda Código aberto Linux Somente API
    Atualizado há 49 dias
    92 81,7 =
    Ver como esta posição é calculada
    Recibo do ranking: vLLM
    #92 no geral · #4 na categoria
    81,7/100
    1. Prontidão de uso +28,0 70,0 × 40%
    2. Atualização de versões +33,0 94,3 × 35%
    3. Sinais de adoção +20,7 82,7 × 25%
    Dados de GitHub Última sincronização Calculado em Peso de patrocínio 0%, nunca conta Ler a fórmula completa