Pređi na sadržaj

AVX-VNNI

Referenca arhitektureFeex

AVX-VNNI pruža VEX-kodirane instrukcije vektorskog skalarnog proizvoda koje koriste prikladna jezgra za cjelobrojno zaključivanje i obradu signala. Razlikuje se od AVX-512 VNNI i od NPU-a.

Šta treba da znate

AVX-VNNI pruža VEX-kodirane instrukcije vektorskog skalarnog proizvoda koje koriste prikladna jezgra za cjelobrojno zaključivanje i obradu signala. Razlikuje se od AVX-512 VNNI i od NPU-a.

Kako funkcioniše

Izvorno AVX-VNNI proširenje uključuje operacije množenja i akumulacije bajtova i riječi na 128-bitnim ili 256-bitnim vektorima. Na primjer, VPDPBUSD množi neoznačene bajtove označenim bajtovima, sabira grupe u dvostruke riječi i akumulira u odredište. Saturirajuće varijante imaju sopstveno ponašanje pri prekoračenju. Kvantizacija i označenost moraju odgovarati odabranoj operaciji.

Đe je korisno

Biblioteka neuronskih mreža može koristiti ove skalarne proizvode za kvantizovano matrično jezgro nakon pakovanja težina i odabira odgovarajuće implementacije u vremenu izvršavanja. Konverzija podataka, skale, nulte tačke i kretanje memorije i dalje su važni. Brži unutrašnji proizvod ne obezbjeđuje tačnost modela s kraja na kraj niti kašnjenje aplikacije.

Kako provjeriti podršku i omogućenost

Provjerite omogućeno AVX stanje, a zatim CPUID.07H.01H:EAX bit 4 za izvorno AVX-VNNI proširenje, nakon verifikacije podržanih raspona za leaf i subleaf. Provjerite zasebne bitove za kasnije varijante. Potvrdite da je biblioteka odabrala odgovarajuću VEX putanju umjesto AVX-512 putanje.

Program mora i sadržati odgovarajuću implementaciju i odabrati je tokom izvršavanja. Pobrojavanje hardvera, stanje registara omogućeno u OS-u i kompajlirana osnova binarnog koda su zasebne provjere. Virtuelna mašina može namjerno izložiti manje funkcija od svog domaćina, a kontejner ne dodaje instrukcije procesoru domaćina.

Šta ova funkcija ne utvrđuje

AVX-VNNI ne implicira AVX-512, AMX, svako kasnije VNNI proširenje niti podršku za svaki cjelobrojni tip. AVX-VNNI-INT8 i AVX-VNNI-INT16 imaju zasebnu numeraciju mogućnosti i ne smiju se izvoditi iz izvornog AVX-VNNI bita.

Kompatibilnost i performanse u praksi

Izmjerite kompletno radno opterećenje sa reprezentativnim podacima. Širi vektori mogu smanjiti broj instrukcija dok memorijski saobraćaj, sinhronizacija ili troškovi konverzije ostaju nepromijenjeni. Kašnjenje instrukcija, protok i ponašanje potrošnje energije zavise od tačne mikroarhitekture i uslova rada.

Praktična lista za provjeru verifikacije

  1. Zabilježite tačan model procesora ili platforme, kao i verzije aplikacije, OS-a i runtime-a koji se koriste. Sačuvajte formulaciju stvarne greške ili zahtjeva.
  2. Provjerite referencu proizvođača za taj tačan model, a zatim pregledajte efektivnu sposobnost i omogućeno stanje u okruženju đe se program izvršava.
  3. Uporedite svaki zahtjev odabranog binarnog koda ili backend-a. Funkcija sličnog naziva, alias ili široka tehnološka oznaka nijesu dovoljni.
  4. Potvrdite da je aplikacija odabrala predviđenu implementaciju. Koristite njenu dokumentovanu dijagnostiku i podržanu rezervnu varijantu kada zahtjevi nijesu ispunjeni.
  5. Napravite po jednu podržanu promjenu u isto vrijeme i ponovite isto radno opterećenje. Držite originalnu konfiguraciju i putanju oporavka dostupnima.

Ako je funkcija navedena, ali je softver ne može koristiti

Počnite sa tačnom komponentom koja otkazuje. Baza podataka hardvera opisuje zabilježenu sposobnost; operativni sistem ili hipervizor mogu izložiti drugačije efektivno okruženje. Greška nelegalne instrukcije takođe zahtijeva istragu stvarne instrukcije koja je izazvala kvar i binarne verzije, jer oštećenje ili nepovezana nepodržana instrukcija mogu proizvesti sličan simptom.

Instalirajte verziju aplikacije, drajvera ili runtime-a podržanu za tačnu platformu i koristite dokumentovanu osnovnu ili rezervnu verziju proizvođača ako je potrebno. Ažuriranje softvera ne može stvoriti instrukciju koja procesoru nedostaje. Promjene firmvera i bezbjednosnih politika treba da prate proceduru proizvođača sistema i plan oporavka, a ne generički recept za optimizaciju.

Izvori i obim ovog objašnjenja

Intel 64 and IA-32 Architectures Software Developer's Manual · Linux kernel: using XSTATE features in user space

Ove reference utvrđuju arhitekturno ponašanje i softverske zahtjeve. One ne verifikuju nezavisno svaku vrijednost funkcije na povezanoj stranici hardverskog modela. Za podršku modela, koristite dokaze proizvođača sa te stranice i provjerite efektivnu konfiguraciju sistema. Ovaj članak ne pruža benčmark, sertifikaciju niti datum nezavisnog pregleda.

Izvori i verifikacija

Uredničko vlasništvo: Feex. Nije zabilježen datum nezavisne recenzije. Kako istražujemo.

Da li je ovaj članak bio koristan?

Dovoljno je da označite sa da ili ne. Izaberite razlog ako želite, ili dodajte kratku napomenu.

Da li je ovaj članak bio koristan?