Le chiffre d’environ 2 Go ne décrit pas la taille totale de Core Advanced. Il correspond à une mesure de mémoire relevée après une requête précise, sur un seul Mac. Pendant le traitement, l’empreinte observée était plus élevée. Pour comprendre l’écart, il faut distinguer les paramètres que le modèle possède de ceux qu’il active, et regarder ce que le protocole a réellement mesuré.
Que mesurent les « 2 Go » ?
Apple présente AFM 3 Core Advanced comme un modèle de 20 milliards de paramètres, dont 1 à 4 milliards sont actifs à la fois selon la requête. Ce total ne signifie donc pas que les 20 milliards de paramètres occupent simultanément la mémoire vive. Les mesures détaillées par Julien Simon donnent un autre repère : sur son MacBook Pro M3 Max doté de 48 Go de mémoire, il a suivi la mémoire à trois moments d’une requête de 5 000 tokens.
Deux secondes après cette requête, les deux processus associés au modèle totalisaient 2 036 Mio, soit environ 2,0 Gio. Le processus principal représentait 1 361 Mio, en incluant la mémoire du Neural Engine, que l’outil de mesure ne comptabilise pas dans son chiffre initial. Le processus séparé des modèles de sécurité ajoutait 675 Mio. Autrement dit, le chiffre de « 2 Go » ne correspond pas au seul modèle principal : dans ce relevé, les modèles de sécurité représentent environ un tiers du total.
Ce n’est pas non plus une mesure constante. Simon relève 2 848 Mio au moment dit « au repos » et 3 437 Mio pendant le traitement, soit environ 2,8 et 3,4 Gio. Mais ces termes décrivent des instants précis de son protocole : le relevé au repos survient une seconde après une requête d’un mot ; celui pendant le traitement est une capture prise trois secondes après le début du préremplissage ; celui « après » intervient deux secondes après la fin de la requête. Le chiffre d’environ 2 Gio désigne donc un état mesuré, pas un plafond ni une exigence universelle.
La mesure dépend aussi de ce qui est compté. Simon additionne, pour chaque processus, son empreinte mémoire et la mémoire du Neural Engine laissée de côté par l’outil système. Il précise également que son relevé ne comprend pas le cache de fichiers du système d’exploitation associé au fichier d’experts. L’empreinte annoncée est ainsi une mesure définie par un outil et un périmètre, et non une photographie exhaustive de toutes les ressources mobilisées par l’ordinateur.
Pourquoi 20 milliards de paramètres ne restent-ils pas tous en RAM ?
La description technique publiée par Apple apporte le mécanisme. Le modèle complet est conservé dans la mémoire flash — le stockage de l’appareil — plutôt que chargé en bloc dans la DRAM, c’est-à-dire la mémoire vive. Apple explique que les transferts entre mémoire flash et DRAM sont trop lents pour déplacer les poids du modèle à chaque token, comme le font des modèles à experts classiques.
Core Advanced utilise une architecture dite « à experts » : des réseaux spécialisés contribuent au calcul, mais tous ne sont pas sollicités en même temps. D’après Apple, un bloc dense examine la requête et choisit un ensemble d’experts ; il peut ensuite le sélectionner de nouveau périodiquement pendant la génération. Des experts partagés restent actifs, tandis que les experts dits « routés » sont transférés en mémoire vive lorsqu’ils sont nécessaires.
Cette organisation explique comment le nombre total de paramètres peut être supérieur au nombre actif à un instant donné. Les 20 milliards décrivent l’ensemble du modèle ; les 1 à 4 milliards correspondent à la quantité de paramètres activée à la fois, selon Apple. Cela ne signifie pas que le reste a disparu : une partie demeure dans le stockage et n’est pas présente en mémoire vive au même moment. Le chiffre de 2 Gio et celui de 20 milliards répondent donc à deux questions différentes.
Le transfert sélectif n’élimine toutefois pas toutes les contraintes. Apple indique que les poids sont chargés progressivement pour adapter la taille active au cas d’usage, tandis que Simon a observé, sur sa machine, la lecture d’un fichier d’experts de 4,95 Go au fil du traitement. Son analyse décrit un fonctionnement sur un Mac particulier ; elle ne permet pas de déduire le comportement de chaque appareil compatible ni celui d’autres versions du système.
Une empreinte réduite prouve-t-elle une meilleure capacité ?
Non. La mémoire utilisée et la réussite à une tâche sont deux mesures différentes. Pour illustrer ce point, Simon a comparé les modèles sur 100 problèmes de mathématiques de niveau scolaire : Core Advanced en a résolu 78, contre 89 à 94 pour les trois modèles ouverts testés. Apple déconseille d’ailleurs l’usage de son modèle embarqué pour les calculs de base, le code et le raisonnement logique.
La comparaison de mémoire avec Gemma 4 26B A4B éclaire elle aussi les précautions nécessaires. Dans le relevé de Simon, ce modèle ouvert, exécuté à 4 bits, occupait environ 15 Gio deux secondes après une requête comparable de 5 000 tokens, contre environ 2 Gio pour Core Advanced. Mais la comparaison n’isole pas l’effet de l’architecture : selon Simon, environ la moitié de l’écart tient à la différence de compression, autour de 4 bits par poids pour le modèle ouvert contre environ 2 bits pour les poids d’Apple. En outre, l’outil arrondit les mesures du modèle ouvert au gigaoctet près à cette échelle.
Ces résultats donnent un aperçu concret d’un compromis : une architecture qui limite la quantité de paramètres actifs en mémoire peut réduire l’empreinte relevée, tandis que le résultat dépend aussi de la compression, de la tâche et du protocole. Ils ne démontrent ni une supériorité générale de Core Advanced, ni sa fiabilité dans tous les usages. Pour interpréter les « 2 Go », la conclusion la plus solide est plus étroite : c’est un relevé après une requête donnée, sur une configuration précise, d’un système qui conserve le modèle complet dans le stockage et n’en charge qu’une partie en mémoire vive.
Sources : Exploring Apple's On-Device Model: Twenty Billion Parameters in Flash.
Photo d’illustration — Vue aérienne d’Apple Park, siège social d’Apple à Cupertino, photographié le 15 avril 2018. Le site est montré comme contexte de l’entreprise ; il ne représente ni l’ordinateur ni le lieu du relevé de mémoire évoqués dans l’article.
Photo : Daniel L. Lu (user:dllu) — CC BY-SA 4.0 — source.
