AMX, Advanced Matrix Extensions

Çfarë duhet të dini

Si funksionon

AMX përdor regjistra pllakash dydimensionale të konfiguruara në vend të vektorëve të zakonshëm YMM/ZMM. Konfigurimi i pllakave përshkruan format aktive, ndërsa zgjerimet aritmetike si AMX-INT8 ose AMX-BF16 përcaktojnë veprime të veçanta matricore dhe formate numerike. Softueri paketon të dhënat dhe zgjedh forma të vlefshme brenda kufijve të numëruar të paletës.

Ku është e dobishme

Një bibliotekë matricash mund të shndërrojë një kernel të mbështetur në ngarkime pllakash, veprime të prodhimit skalar dhe ruajtje pllakash. Kostoja e paketimit, dimensionet e matricës dhe lokaliteti i memories së fshehtë (cache) mund të dominojnë ngarkesat e vogla ose të parregullta të punës. Hardueri i pllakave nuk e bën çdo operator të rrjetit nervor të përshtatshëm për përshpejtim.

Si të kontrollohet mbështetja dhe aktivizimi

Kontrolloni AMX-TILE dhe çdo zgjerim aritmetik të kërkuar në gjethen 7 të CPUID-së, numëroni kufijtë e pllakave dhe konfirmoni gjendjen e aktivizuar në OS. Në Linux, aplikacionet që përdorin të dhëna dinamike pllakash duhet të ndjekin rrjedhën e dokumentuar ARCH_REQ_XCOMP_PERM; mbështetja dhe bitet XCR0 vetëm nuk mjaftojnë.

Disponueshmëria e harduerit është vetëm hapi i parë. Drajveri, mjedisi i ekzekutimit, ofruesi i ekzekutimit, operatorët e mbështetur dhe formati numerik duhet të përputhen me aplikacionin. Inspektoni përzgjedhjen aktuale të prapavijës dhe zgjidhjen alternative në vend që të supozoni se një etiketë AI do të thotë se çdo model përshpejtohet.

Çfarë nuk përcakton kjo veçori

AMX nuk do të thotë AVX-512, një NPU e përgjithshme ose çdo format aritmetik AMX. Një bit i vetëm i CPU-së nuk përcakton lejen e procesit ose gjendjen e mjaftueshme të stivës së sinjaleve. Format e pambështetura të pllakave ose mungesa e lejes nga sistemi operativ mund të shkaktojnë defekt edhe në një makinë të aftë për AMX.

Përputhshmëria dhe performanca në praktikë

Krahasoni ngarkesa të plota pune në kushte të përcaktuara, duke përfshirë kompilimin, transferimet dhe operatorët e pambështetur. Operacionet maksimale për sekondë varen nga saktësia dhe supozimet e numërimit. Ato nuk janë një zëvendësues për vonesën e matur, xhiron, energjinë ose saktësinë e modelit.

Një listë praktike kontrolli për verifikim

1. Regjistroni modelin e saktë të procesorit ose platformës dhe versionet e përfshira të aplikacionit, sistemit operativ dhe mjedisit të ekzekutimit. Ruani formulimin e gabimit ose kërkesës aktuale.
2. Kontrolloni referencën e prodhuesit për atë model të saktë, më pas inspektoni aftësinë efektive dhe gjendjen e aktivizuar në mjedisin ku ekzekutohet programi.
3. Krahasoni çdo kërkesë të binarit ose prapavijës së zgjedhur. Një veçori me emër të ngjashëm, një pseudonim ose një etiketë e gjerë teknologjike nuk mjafton.
4. Konfirmoni që aplikacioni ka zgjedhur implementimin e synuar. Përdorni diagnostikimet e dokumentuara të tij dhe një alternativë të mbështetur kur kërkesat nuk plotësohen.
5. Bëni një ndryshim të mbështetur në një moment dhe përsëritni të njëjtën ngarkesë pune. Mbajeni të disponueshme konfigurimin origjinal dhe rrugën e rikuperimit.

Nëse veçoria listohet por softueri nuk mund ta përdorë atë

Filloni me komponentin e saktë që dështon. Një bazë të dhënash harduerike përshkruan aftësinë e regjistruar; sistemi operativ ose hipervizori mund të ekspozojë një mjedis efektiv të ndryshëm. Një gabim instruksioni të paligjshëm kërkon gjithashtu hetim të instruksionit aktual me defekt dhe të ndërtimit të binarit, sepse dëmtimi ose një instruksion i palidhur i pambështetur mund të prodhojë një simptomë të ngjashme.

Instaloni versionin e aplikacionit, drajverit ose mjedisit të ekzekutimit të mbështetur për platformën e saktë, dhe përdorni versionin bazë ose alternativ të dokumentuar nga prodhuesi nëse është e nevojshme. Një përditësim softueri nuk mund të krijojë një instruksion që procesorit i mungon. Ndryshimet në firmware dhe politikat e sigurisë duhet të ndjekin procedurën e prodhuesit të sistemit dhe një plan rikuperimi në vend të një recete të përgjithshme optimizimi.

Veçoritë e ndërlidhura dhe dallimet e dobishme

AVX-VNNI · Deep Learning Boost · Njësia e Përpunimit Neuronal (NPU) · XSAVE

Burimet dhe fusha e këtij shpjegimi

Intel 64 and IA-32 Architectures Software Developer's Manual · Bërthama Linux: përdorimi i veçorive XSTATE në hapësirën e përdoruesit

Këto referenca përcaktojnë sjelljen arkitekturore dhe kërkesat e softuerit. Ato nuk verifikojnë në mënyrë të pavarur çdo vlerë të veçorive në faqen e lidhur të modelit të harduerit. Për mbështetjen e modelit, përdorni dëshmitë e prodhuesit në atë faqe dhe kontrolloni konfigurimin efektiv të sistemit. Ky artikull nuk ofron një test standard vlerësimi, certifikim ose datë shqyrtimi të pavarur.

Të lidhura

Këto entitete lidhen me këtë artikull. Lloji shfaqet në çdo lidhje.

Burimet dhe verifikimi

Pronësia editoriale: Feex. Nuk është regjistruar asnjë datë shqyrtimi të pavarur. Si hulumtojmë.

• Intel 64 and IA-32 Architectures Software Developer's Manual · Vëllimet 1 dhe 2 përshkruajnë familjet e emërtuara të instruksioneve dhe CPUID; Vëllimi 3 përshkruan gjendjen, faqosjen, VMX dhe kontrollet e mbrojtjes. Dokumentacioni i arkitekturës nuk përcakton mbështetjen për një model të caktuar.
• Bërthama Linux: përdorimi i veçorive XSTATE në hapësirën e përdoruesit · Gjendja vektoriale e aktivizuar nga OS-i, gjendja e pllakave e aktivizuar dinamikisht, kërkesat e stivës së sinjaleve dhe rrjedha e lejeve AMX. Sjellja specifike e Linux-it nuk është një premtim për një sistem tjetër operativ.