GitHub / France-Travail / vllm-ft
A high-throughput and memory-efficient inference and serving engine for LLMs
JSON API: https://repos.ecosystem.code.gouv.fr/api/v1/hosts/GitHub/repositories/France-Travail%2Fvllm-ft
étoiles: 7
forks: 1
issues ouvertes: 1
licence: apache-2.0
langage: Python
taille: 67,3 Mo
dépendances analysées: En attente
date de création: il y a 8 mois
date de mise à jour: il y a 17 jours
enregistré: il y a 2 mois
dernière synchronisation: il y a 6 jours
Funding Links https://github.com/sponsors/vllm-project, https://opencollective.com/vllm
Loading...