Przejdź do treści

AMX, Advanced Matrix Extensions

Dokumentacja architekturyFeex

Określane również jako AMX, AMX (Advanced Matrix Extensions)

Intel AMX dodaje do x86 mechanizmy obliczeń macierzowych opartych na kafelkach (tiles). AMX-TILE i rozszerzenia arytmetyczne posiadają osobne bity właściwości, a system operacyjny musi zarządzać znacznym stanem kafelków.

Co musisz wiedzieć

Intel AMX dodaje do x86 mechanizmy obliczeń macierzowych opartych na kafelkach (tiles). AMX-TILE i rozszerzenia arytmetyczne posiadają osobne bity właściwości, a system operacyjny musi zarządzać znacznym stanem kafelków.

Jak to działa

AMX wykorzystuje skonfigurowane dwuwymiarowe rejestry kafelkowe zamiast standardowych wektorów YMM/ZMM. Konfiguracja kafelków opisuje aktywne kształty, podczas gdy rozszerzenia arytmetyczne, takie jak AMX-INT8 lub AMX-BF16, definiują konkretne operacje macierzowe i formaty liczbowe. Oprogramowanie upakowuje dane i dobiera prawidłowe kształty w granicach wyznaczonej palety.

Gdzie funkcja jest przydatna

Biblioteka macierzowa może przetłumaczyć obsługiwany kernel na operacje ładowania kafelków, iloczynu skalarnego i zapisu kafelków. Koszt upakowywania danych, wymiary macierzy oraz lokalność pamięci podręcznej mogą dominować w małych lub nieregularnych obciążeniach. Sprzęt kafelkowy nie sprawia, że każdy operator sieci neuronowej kwalifikuje się do akceleracji.

Jak sprawdzać obsługę i włączenie

Należy sprawdzić AMX-TILE i każde wymagane rozszerzenie arytmetyczne w liściu 7 CPUID, odczytać limity kafelków oraz potwierdzić stan włączenia w systemie operacyjnym. W systemie Linux aplikacje używające dynamicznych danych kafelkowych muszą postępować zgodnie z udokumentowaną procedurą ARCH_REQ_XCOMP_PERM; sama obsługa sprzętowa i bity XCR0 nie wystarczą.

Dostępność sprzętowa to dopiero pierwszy krok. Sterownik, środowisko wykonawcze, dostawca wykonania (execution provider), obsługiwane operatory i format liczbowy muszą być dopasowane do aplikacji. Zweryfikuj faktyczny wybór backendu i ścieżkę awaryjną, zamiast zakładać, że etykieta AI oznacza przyspieszenie każdego modelu.

Czego ta funkcja nie określa

AMX nie oznacza obecności AVX-512, ogólnego NPU ani każdego formatu arytmetycznego AMX. Sam bit CPU nie gwarantuje uprawnień procesu ani wystarczającego stanu stosu sygnałów. Nieobsługiwane kształty kafelków lub brak uprawnień ze strony systemu operacyjnego mogą wywołać błąd nawet na maszynie obsługującej AMX.

Zgodność i wydajność w praktyce

Porównuj kompletne zadania w określonych warunkach, uwzględniając kompilację, transfery i nieobsługiwane operatory. Szczytowa liczba operacji na sekundę zależy od założeń dotyczących precyzji i sposobu zliczania. Wskaźniki te nie zastępują zmierzonego opóźnienia, przepustowości, zużycia energii ani dokładności modelu.

Praktyczna lista kontrolna weryfikacji

  1. Zanotuj dokładny model procesora lub platformy oraz wersje używanej aplikacji, systemu operacyjnego i środowiska wykonawczego. Zachowaj dokładne sformułowanie błędu lub wymagania.
  2. Sprawdź dokumentację producenta dla danego modelu, a następnie zweryfikuj faktyczne możliwości i stan włączenia w środowisku, w którym działa program.
  3. Porównaj każde wymaganie wybranego pliku binarnego lub backendu. Podobnie nazwana funkcja, alias lub ogólne oznaczenie technologii nie są wystarczające.
  4. Upewnij się, że aplikacja wybrała zamierzoną implementację. Użyj jej udokumentowanej diagnostyki oraz obsługiwanego mechanizmu fallback, gdy wymagania nie są spełnione.
  5. Wprowadzaj jednorazowo tylko jedną obsługiwaną zmianę i powtarzaj to samo obciążenie testowe. Zachowaj oryginalną konfigurację oraz dostępną ścieżkę przywracania.

Gdy funkcja jest wymieniona, lecz oprogramowanie nie może z niej skorzystać

Zacznij od elementu, w którym bezpośrednio występuje błąd. Baza danych sprzętu opisuje zarejestrowane możliwości; system operacyjny lub hipernadzorca może udostępniać inne środowisko efektywne. Błąd nieprawidłowej instrukcji (illegal instruction) wymaga także zbadania faktycznej instrukcji powodującej błąd oraz kompilacji pliku binarnego, ponieważ uszkodzenie danych lub inna nieobsługiwana instrukcja może wywołać podobny objaw.

Zainstaluj wersję aplikacji, sterownika lub środowiska wykonawczego obsługiwaną na danej platformie i w razie potrzeby użyj udokumentowanej przez producenta kompilacji bazowej lub awaryjnej. Aktualizacja oprogramowania nie może utworzyć instrukcji, której procesor fizycznie nie posiada. Modyfikacje oprogramowania układowego i zasad bezpieczeństwa powinny przebiegać zgodnie z procedurą producenta systemu i planem przywracania, a nie ogólnikowym schematem optymalizacji.

Źródła i zakres niniejszego opisu

Intel 64 and IA-32 Architectures Software Developer's Manual · Jądro Linux: korzystanie z funkcji XSTATE w przestrzeni użytkownika

Te źródła definiują zachowanie architektoniczne i wymagania oprogramowania. Nie weryfikują one niezależnie każdej wartości funkcji na powiązanej stronie modelu sprzętu. W celu sprawdzenia obsługi przez model należy skorzystać z materiałów producenta na tej stronie i sprawdzić efektywną konfigurację systemu. Niniejszy artykuł nie zawiera wyników testów wydajnościowych, certyfikacji ani daty niezależnego przeglądu.

Źródła i weryfikacja

Własność redakcyjna: Feex. Nie odnotowano daty niezależnego przeglądu. Jak prowadzimy badania.

Czy ten artykuł był pomocny?

Wystarczy odpowiedź tak lub nie. Wybierz powód, jeśli chcesz, lub dodaj krótką notatkę.

Czy ten artykuł był pomocny?