AVX-VNNI
AVX-VNNI pruža VEX-kodirane instrukcije vektorskog skalarnog proizvoda koje koriste prikladna jezgra za cjelobrojno zaključivanje i obradu signala. Razlikuje se od AVX-512 VNNI i od NPU-a.
Šta treba da znate
AVX-VNNI pruža VEX-kodirane instrukcije vektorskog skalarnog proizvoda koje koriste prikladna jezgra za cjelobrojno zaključivanje i obradu signala. Razlikuje se od AVX-512 VNNI i od NPU-a.
Kako funkcioniše
Izvorno AVX-VNNI proširenje uključuje operacije množenja i akumulacije bajtova i riječi na 128-bitnim ili 256-bitnim vektorima. Na primjer, VPDPBUSD množi neoznačene bajtove označenim bajtovima, sabira grupe u dvostruke riječi i akumulira u odredište. Saturirajuće varijante imaju sopstveno ponašanje pri prekoračenju. Kvantizacija i označenost moraju odgovarati odabranoj operaciji.
Đe je korisno
Biblioteka neuronskih mreža može koristiti ove skalarne proizvode za kvantizovano matrično jezgro nakon pakovanja težina i odabira odgovarajuće implementacije u vremenu izvršavanja. Konverzija podataka, skale, nulte tačke i kretanje memorije i dalje su važni. Brži unutrašnji proizvod ne obezbjeđuje tačnost modela s kraja na kraj niti kašnjenje aplikacije.
Kako provjeriti podršku i omogućenost
Provjerite omogućeno AVX stanje, a zatim CPUID.07H.01H:EAX bit 4 za izvorno AVX-VNNI proširenje, nakon verifikacije podržanih raspona za leaf i subleaf. Provjerite zasebne bitove za kasnije varijante. Potvrdite da je biblioteka odabrala odgovarajuću VEX putanju umjesto AVX-512 putanje.
Program mora i sadržati odgovarajuću implementaciju i odabrati je tokom izvršavanja. Pobrojavanje hardvera, stanje registara omogućeno u OS-u i kompajlirana osnova binarnog koda su zasebne provjere. Virtuelna mašina može namjerno izložiti manje funkcija od svog domaćina, a kontejner ne dodaje instrukcije procesoru domaćina.
Šta ova funkcija ne utvrđuje
AVX-VNNI ne implicira AVX-512, AMX, svako kasnije VNNI proširenje niti podršku za svaki cjelobrojni tip. AVX-VNNI-INT8 i AVX-VNNI-INT16 imaju zasebnu numeraciju mogućnosti i ne smiju se izvoditi iz izvornog AVX-VNNI bita.
Kompatibilnost i performanse u praksi
Izmjerite kompletno radno opterećenje sa reprezentativnim podacima. Širi vektori mogu smanjiti broj instrukcija dok memorijski saobraćaj, sinhronizacija ili troškovi konverzije ostaju nepromijenjeni. Kašnjenje instrukcija, protok i ponašanje potrošnje energije zavise od tačne mikroarhitekture i uslova rada.
Praktična lista za provjeru verifikacije
- Zabilježite tačan model procesora ili platforme, kao i verzije aplikacije, OS-a i runtime-a koji se koriste. Sačuvajte formulaciju stvarne greške ili zahtjeva.
- Provjerite referencu proizvođača za taj tačan model, a zatim pregledajte efektivnu sposobnost i omogućeno stanje u okruženju đe se program izvršava.
- Uporedite svaki zahtjev odabranog binarnog koda ili backend-a. Funkcija sličnog naziva, alias ili široka tehnološka oznaka nijesu dovoljni.
- Potvrdite da je aplikacija odabrala predviđenu implementaciju. Koristite njenu dokumentovanu dijagnostiku i podržanu rezervnu varijantu kada zahtjevi nijesu ispunjeni.
- Napravite po jednu podržanu promjenu u isto vrijeme i ponovite isto radno opterećenje. Držite originalnu konfiguraciju i putanju oporavka dostupnima.
Ako je funkcija navedena, ali je softver ne može koristiti
Počnite sa tačnom komponentom koja otkazuje. Baza podataka hardvera opisuje zabilježenu sposobnost; operativni sistem ili hipervizor mogu izložiti drugačije efektivno okruženje. Greška nelegalne instrukcije takođe zahtijeva istragu stvarne instrukcije koja je izazvala kvar i binarne verzije, jer oštećenje ili nepovezana nepodržana instrukcija mogu proizvesti sličan simptom.
Instalirajte verziju aplikacije, drajvera ili runtime-a podržanu za tačnu platformu i koristite dokumentovanu osnovnu ili rezervnu verziju proizvođača ako je potrebno. Ažuriranje softvera ne može stvoriti instrukciju koja procesoru nedostaje. Promjene firmvera i bezbjednosnih politika treba da prate proceduru proizvođača sistema i plan oporavka, a ne generički recept za optimizaciju.
Izvori i obim ovog objašnjenja
Intel 64 and IA-32 Architectures Software Developer's Manual · Linux kernel: using XSTATE features in user space
Ove reference utvrđuju arhitekturno ponašanje i softverske zahtjeve. One ne verifikuju nezavisno svaku vrijednost funkcije na povezanoj stranici hardverskog modela. Za podršku modela, koristite dokaze proizvođača sa te stranice i provjerite efektivnu konfiguraciju sistema. Ovaj članak ne pruža benčmark, sertifikaciju niti datum nezavisnog pregleda.
Izvori i verifikacija
Uredničko vlasništvo: Feex. Nije zabilježen datum nezavisne recenzije. Kako istražujemo.
- Intel 64 and IA-32 Architectures Software Developer's Manual · Tomovi 1 i 2 opisuju imenovane familije instrukcija i CPUID; Tom 3 opisuje stanje, straničenje, VMX i kontrole zaštite. Dokumentacija o arhitekturi ne utvrđuje podršku za određeni model.
- Linux kernel: using XSTATE features in user space · Vektorsko stanje omogućeno u OS-u, dinamički omogućeno stanje pločica, zahtjevi za stekom signala i tok dozvola za AMX. Ponašanje specifično za Linux nije obećanje o drugom OS-u.
Da li je ovaj članak bio koristan?
Dovoljno je da označite sa da ili ne. Izaberite razlog ako želite, ili dodajte kratku napomenu.
Hvala. To nam pomaže da poboljšamo ovu stranicu.