Přejít k obsahu

AMX, Advanced Matrix Extensions

Referenční příručka k architektuřeFeex

Označováno také jako AMX, AMX (Advanced Matrix Extensions)

Intel AMX přidává do architektury x86 prostředky pro maticové výpočty založené na dlaždicích (tiles). AMX-TILE a aritmetická rozšíření mají samostatné bity schopností a operační systém musí spravovat rozsáhlý stav těchto dlaždic.

Co potřebujete vědět

Intel AMX přidává do architektury x86 prostředky pro maticové výpočty založené na dlaždicích (tiles). AMX-TILE a aritmetická rozšíření mají samostatné bity schopností a operační systém musí spravovat rozsáhlý stav těchto dlaždic.

Jak to funguje

AMX využívá konfigurované dvojrozměrné dlaždicové registry namísto běžných vektorů YMM/ZMM. Konfigurace dlaždic určuje aktivní rozměry, zatímco aritmetická rozšíření jako AMX-INT8 nebo AMX-BF16 definují konkrétní maticové operace a číselné formáty. Software balí data a volí platné tvary v rámci mezí zjištěné palety.

Kde je funkce užitečná

Maticová knihovna dokáže převést podporované jádro na načítání dlaždic, operace skalárního součinu a ukládání dlaždic. Režie spojená s balením dat, rozměry matic a lokalita v mezipaměti mohou převážit u malých nebo nepravidelných úloh. Dlaždicový hardware neznamená, že je každý operátor neuronové sítě způsobilý k akceleraci.

Jak ověřit podporu a aktivaci

Zkontrolujte AMX-TILE a každé požadované aritmetické rozšíření v CPUID leaf 7, zjistěte limity dlaždic a ověřte stav aktivace v operačním systému. V systému Linux musí aplikace využívající dynamická data dlaždic dodržet zdokumentovaný postup ARCH_REQ_XCOMP_PERM; samotná podpora a bity XCR0 nestačí.

Dostupnost hardwaru je pouze prvním krokem. Ovladač, běhové prostředí, poskytovatel provádění, podporované operátory a číselný formát musí odpovídat dané aplikaci. Prověřte skutečný výběr backendu a náhradní řešení, místo abyste z označení AI vyvozovali, že je akcelerován každý model.

Co tato funkce nezajišťuje

AMX neznamená AVX-512, univerzální NPU ani každý aritmetický formát AMX. Samotný bit CPU nezajišťuje oprávnění procesu ani dostatečný stav signálového zásobníku. Nepodporované tvary dlaždic nebo chybějící oprávnění operačního systému mohou způsobit chybu i na stroji s podporou AMX.

Kompatibilita a výkon v praxi

Porovnávejte ucelené pracovní zátěže za definovaných podmínek, včetně kompilace, přenosů dat a nepodporovaných operátorů. Špičkový počet operací za sekundu závisí na přesnosti a předpokladech při jejich započítávání. Tyto hodnoty nenahrazují naměřenou latenci, propustnost, spotřebu energie ani přesnost modelu.

Praktický kontrolní seznam pro ověření

  1. Zaznamenejte přesný model procesoru nebo platformy a použité verze aplikace, operačního systému a běhového prostředí. Uchovejte přesné znění chybové zprávy nebo požadavku.
  2. Zkontrolujte dokumentaci výrobce pro daný konkrétní model a poté prověřte skutečně dostupnou kapacitu a stav aktivace v prostředí, kde program běží.
  3. Porovnejte veškeré požadavky vybraného binárního souboru nebo backendu. Podobně pojmenovaná funkce, alias nebo obecné technologické označení nestačí.
  4. Ověřte, že aplikace vybrala zamýšlenou implementaci. Pokud nejsou požadavky splněny, použijte její zdokumentovanou diagnostiku a podporované náhradní řešení.
  5. Provádějte vždy jen jednu podporovanou změnu a zopakujte identickou zátěž. Původní konfiguraci a postup obnovy mějte neustále k dispozici.

Pokud je funkce uvedena, ale software ji nemůže použít

Začněte u přesné komponenty, u níž dochází k selhání. Databáze hardwaru popisuje zaznamenané schopnosti; operační systém nebo hypervizor však může vystavit odlišné efektivní prostředí. Chyba neplatné instrukce vyžaduje také prozkoumání skutečné chybující instrukce a sestavení binárního souboru, protože poškození dat nebo nesouvisející nepodporovaná instrukce mohou vyvolat podobný projev.

Nainstalujte verzi aplikace, ovladače nebo běhového prostředí podporovanou pro danou platformu a v případě potřeby použijte výrobcem zdokumentované základní nebo náhradní sestavení. Aktualizace softwaru nemůže vytvořit instrukci, kterou procesor fyzicky postrádá. Změny firmwaru a zásad zabezpečení by se měly řídit postupem výrobce systému a plánem obnovy, nikoli obecným návodem na optimalizaci.

Zdroje a rozsah tohoto vysvětlení

Intel 64 and IA-32 Architectures Software Developer's Manual · Jádro Linuxu: použití funkcí XSTATE v uživatelském prostoru

Tyto referenční dokumenty stanovují architektonické chování a softwarové požadavky. Neověřují nezávisle každou hodnotu funkce na odkazované stránce hardwarového modelu. Informace o podpoře konkrétního modelu čerpejte z podkladů výrobce na příslušné stránce a zkontrolujte platnou konfiguraci systému. Tento článek neposkytuje benchmark, certifikaci ani datum nezávislého přezkumu.

Zdroje a ověření

Redakční vlastnictví: Feex. Není zaznamenáno žádné datum nezávislého přezkoumání. Jak provádíme výzkum.

Byl tento článek užitečný?

Stačí ano nebo ne. Pokud chcete, vyberte důvod nebo přidejte krátkou poznámku.

Byl tento článek užitečný?