FlexGen, un motor para ejecutar bots de IA en una sola GPU
Sección: Tecnología e Informática Machadines
Creado: 27-02-23 (Actualizado: 23-05-23)
FlexGen es un motor de generación de alto rendimiento para ejecutar modelos de lenguaje grande con memoria de GPU limitada...
https://blog.desdelinux.net/flexgen-un-motor-para-ejecutar-bots-de-ia-en-una-sola-gpu/