LoRA

Low-Rank Adaptation : technique de finetuning qui n'entraîne que de petites matrices additionnelles insérées dans le modèle, au lieu de tous ses poids — beaucoup moins coûteuse en mémoire et en calcul.