AMX, Advanced Matrix Extensions

Ce que vous devez savoir

Comment ça marche

AMX utilise des registres de tuiles bidimensionnels configurés plutôt que des vecteurs YMM/ZMM ordinaires. La configuration des tuiles décrit les formes actives, tandis que les extensions arithmétiques telles qu'AMX-INT8 ou AMX-BF16 définissent des opérations matricielles et des formats numériques particuliers. Le logiciel compacte les données et choisit des formes valides sous les limites de palette énumérées.

Domaines d'utilité

Une bibliothèque matricielle peut décomposer un noyau pris en charge en chargements de tuiles, opérations de produit scalaire et stockages de tuiles. Le coût du compactage, les dimensions de la matrice et la localité du cache peuvent dominer les charges de travail réduites ou irrégulières. Le matériel de tuiles ne rend pas chaque opérateur de réseau neuronal éligible à l'accélération.

Comment vérifier la prise en charge et l'activation

Vérifiez AMX-TILE et chaque extension arithmétique requise dans la feuille CPUID 7, énumérez les limites des tuiles et confirmez l'état activé par le système d'exploitation. Sous Linux, les applications utilisant des données de tuiles dynamiques doivent suivre le flux ARCH_REQ_XCOMP_PERM documenté ; la prise en charge et les bits XCR0 seuls ne suffisent pas.

La disponibilité matérielle n'est que la première étape. Le pilote, le runtime, le fournisseur d'exécution, les opérateurs pris en charge et le format numérique doivent correspondre à l'application. Examinez la sélection réelle du backend et la solution de repli plutôt que de supposer qu'une étiquette IA signifie que chaque modèle est accéléré.

Ce que la fonctionnalité n'établit pas

AMX ne signifie pas AVX-512, un NPU général ou chaque format arithmétique AMX. Un bit de processeur à lui seul n'établit pas l'autorisation du processus ni un état de pile de signaux suffisant. Des formes de tuiles non prises en charge ou une autorisation manquante du système d'exploitation peuvent provoquer une panne même sur une machine compatible AMX.

Compatibilité et performances en pratique

Comparez des charges de travail complètes dans des conditions établies, incluant la compilation, les transferts et les opérateurs non pris en charge. Les opérations par seconde de pointe dépendent de la précision et des hypothèses de comptage. Elles ne remplacent pas la latence mesurée, le débit, l'énergie ou la précision du modèle.

Une liste de contrôle pratique pour la vérification

1. Enregistrez le modèle exact de processeur ou de plateforme ainsi que les versions de l'application, du système d'exploitation et du runtime concernés. Conservez la formulation de l'erreur ou de l'exigence réelle.
2. Consultez la référence du fabricant pour ce modèle exact, puis inspectez la capacité effective et l'état activé dans l'environnement où le programme s'exécute.
3. Comparez chaque exigence du binaire ou du backend sélectionné. Une fonctionnalité au nom similaire, un alias ou une étiquette technologique générale ne suffisent pas.
4. Confirmez que l'application a sélectionné l'implémentation prévue. Utilisez ses diagnostics documentés et une solution de repli prise en charge lorsque les exigences ne sont pas satisfaites.
5. Effectuez une seule modification prise en charge à la fois et répétez la même charge de travail. Gardez la configuration d'origine et une procédure de récupération disponibles.

Si la fonctionnalité est répertoriée mais que le logiciel ne peut pas l'utiliser

Commencez par le composant exact en échec. Une base de données matérielle décrit une capacité enregistrée ; le système d'exploitation ou l'hyperviseur peut exposer un environnement effectif différent. Une erreur d'instruction non autorisée nécessite également d'examiner l'instruction fautive réelle et le binaire compilé, car une corruption ou une instruction non prise en charge sans rapport peut produire un symptôme similaire.

Installez la version de l'application, du pilote ou du runtime prise en charge pour la plateforme exacte, et utilisez la version de référence ou de secours documentée par le fournisseur si nécessaire. Une mise à jour logicielle ne peut pas créer une instruction dont le processeur est dépourvu. Les modifications de micrologiciel et de politique de sécurité doivent suivre la procédure du fabricant du système et un plan de récupération plutôt qu'une recette d'optimisation générique.

Fonctionnalités associées et distinctions utiles

AVX-VNNI · Deep Learning Boost · Unité de traitement neuronal (NPU) · XSAVE

Sources et portée de cette explication

Intel 64 and IA-32 Architectures Software Developer's Manual · Noyau Linux : utilisation des fonctionnalités XSTATE dans l'espace utilisateur

Ces références établissent le comportement architectural et les exigences logicielles. Elles ne vérifient pas de manière indépendante chaque valeur de fonctionnalité sur la page d'un modèle matériel associé. Pour la prise en charge d'un modèle, utilisez les preuves du fabricant fournies sur cette page et vérifiez la configuration effective du système. Cet article ne fournit pas de benchmark, de certification ou de date d'évaluation indépendante.

Associé

Ces entités sont liées à cet article. Le type est affiché sur chaque lien.

Sources et vérification

Responsabilité éditoriale : Feex. Aucune date de révision indépendante n'est enregistrée. Notre méthodologie de recherche.

• Intel 64 and IA-32 Architectures Software Developer's Manual · Les volumes 1 et 2 décrivent les familles d'instructions nommées et CPUID ; le volume 3 décrit l'état, la pagination, VMX et les contrôles de protection. La documentation d'architecture n'établit pas la prise en charge pour un modèle particulier.
• Noyau Linux : utilisation des fonctionnalités XSTATE dans l'espace utilisateur · État vectoriel activé par le système d'exploitation, état de tuile activé dynamiquement, exigences de pile de signaux et flux d'autorisation AMX. Le comportement propre à Linux ne constitue pas une promesse concernant un autre système d'exploitation.