PagedAttention

Technique de gestion mémoire du cache KV qui le découpe en pages de taille fixe allouées à la demande, par analogie avec la pagination mémoire d'un système d'exploitation.