QLoRA

Variante de LoRA qui quantifie d'abord le modèle de base (ex. en 4 bits) avant d'y appliquer l'adaptation, permettant de finetuner de gros modèles sur du matériel grand public.