Modèles ouverts sur un portable : ce qui tourne aujourd’hui
Quels modèles tiennent, combien de mémoire ils demandent et d’où vient la vitesse.
Les modèles de quelques milliards de paramètres tournent désormais sur un portable ordinaire.1 La quantification sur quatre bits réduit la mémoire nécessaire à environ un quart.2 La vitesse dépend davantage de la bande passante mémoire que du processeur.2 3




