1. [Wiki](https://feex.it/wiki/)
2. [Hardver](https://feex.it/wiki/hardware/)
3. [Sistemi i arhitektura](https://feex.it/wiki/hardware/system/)
4. AVX-VNNI

# AVX-VNNI

Referenca arhitekture: Feex

AVX-VNNI pruža VEX-kodirane instrukcije vektorskog skalarnog proizvoda koje koriste prikladna jezgra za cjelobrojno zaključivanje i obradu signala. Razlikuje se od AVX-512 VNNI i od NPU-a.

## Šta treba da znate

AVX-VNNI pruža VEX-kodirane instrukcije vektorskog skalarnog proizvoda koje koriste prikladna jezgra za cjelobrojno zaključivanje i obradu signala. Razlikuje se od AVX-512 VNNI i od NPU-a.

## Kako funkcioniše

Izvorno AVX-VNNI proširenje uključuje operacije množenja i akumulacije bajtova i riječi na 128-bitnim ili 256-bitnim vektorima. Na primjer, VPDPBUSD množi neoznačene bajtove označenim bajtovima, sabira grupe u dvostruke riječi i akumulira u odredište. Saturirajuće varijante imaju sopstveno ponašanje pri prekoračenju. Kvantizacija i označenost moraju odgovarati odabranoj operaciji.

## Đe je korisno

Biblioteka neuronskih mreža može koristiti ove skalarne proizvode za kvantizovano matrično jezgro nakon pakovanja težina i odabira odgovarajuće implementacije u vremenu izvršavanja. Konverzija podataka, skale, nulte tačke i kretanje memorije i dalje su važni. Brži unutrašnji proizvod ne obezbjeđuje tačnost modela s kraja na kraj niti kašnjenje aplikacije.

## Kako provjeriti podršku i omogućenost

Provjerite omogućeno AVX stanje, a zatim CPUID.07H.01H:EAX bit 4 za izvorno AVX-VNNI proširenje, nakon verifikacije podržanih raspona za leaf i subleaf. Provjerite zasebne bitove za kasnije varijante. Potvrdite da je biblioteka odabrala odgovarajuću VEX putanju umjesto AVX-512 putanje.

Program mora i sadržati odgovarajuću implementaciju i odabrati je tokom izvršavanja. Pobrojavanje hardvera, stanje registara omogućeno u OS-u i kompajlirana osnova binarnog koda su zasebne provjere. Virtuelna mašina može namjerno izložiti manje funkcija od svog domaćina, a kontejner ne dodaje instrukcije procesoru domaćina.

## Šta ova funkcija ne utvrđuje

AVX-VNNI ne implicira AVX-512, AMX, svako kasnije VNNI proširenje niti podršku za svaki cjelobrojni tip. AVX-VNNI-INT8 i AVX-VNNI-INT16 imaju zasebnu numeraciju mogućnosti i ne smiju se izvoditi iz izvornog AVX-VNNI bita.

## Kompatibilnost i performanse u praksi

Izmjerite kompletno radno opterećenje sa reprezentativnim podacima. Širi vektori mogu smanjiti broj instrukcija dok memorijski saobraćaj, sinhronizacija ili troškovi konverzije ostaju nepromijenjeni. Kašnjenje instrukcija, protok i ponašanje potrošnje energije zavise od tačne mikroarhitekture i uslova rada.

## Praktična lista za provjeru verifikacije

1. Zabilježite tačan model procesora ili platforme, kao i verzije aplikacije, OS-a i runtime-a koji se koriste. Sačuvajte formulaciju stvarne greške ili zahtjeva.
2. Provjerite referencu proizvođača za taj tačan model, a zatim pregledajte efektivnu sposobnost i omogućeno stanje u okruženju đe se program izvršava.
3. Uporedite svaki zahtjev odabranog binarnog koda ili backend-a. Funkcija sličnog naziva, alias ili široka tehnološka oznaka nijesu dovoljni.
4. Potvrdite da je aplikacija odabrala predviđenu implementaciju. Koristite njenu dokumentovanu dijagnostiku i podržanu rezervnu varijantu kada zahtjevi nijesu ispunjeni.
5. Napravite po jednu podržanu promjenu u isto vrijeme i ponovite isto radno opterećenje. Držite originalnu konfiguraciju i putanju oporavka dostupnima.

## Ako je funkcija navedena, ali je softver ne može koristiti

Počnite sa tačnom komponentom koja otkazuje. Baza podataka hardvera opisuje zabilježenu sposobnost; operativni sistem ili hipervizor mogu izložiti drugačije efektivno okruženje. Greška nelegalne instrukcije takođe zahtijeva istragu stvarne instrukcije koja je izazvala kvar i binarne verzije, jer oštećenje ili nepovezana nepodržana instrukcija mogu proizvesti sličan simptom.

Instalirajte verziju aplikacije, drajvera ili runtime-a podržanu za tačnu platformu i koristite dokumentovanu osnovnu ili rezervnu verziju proizvođača ako je potrebno. Ažuriranje softvera ne može stvoriti instrukciju koja procesoru nedostaje. Promjene firmvera i bezbjednosnih politika treba da prate proceduru proizvođača sistema i plan oporavka, a ne generički recept za optimizaciju.

## Povezane funkcije i korisne razlike

[AVX2](https://feex.it/wiki/l/cnr/hardware/system/avx2/) · [Deep Learning Boost](https://feex.it/wiki/l/cnr/hardware/system/deep-learning-boost/) · [AMX, Advanced Matrix Extensions](https://feex.it/wiki/l/cnr/hardware/system/amx/) · [Jedinica za neuronsku obradu (NPU)](https://feex.it/wiki/l/cnr/hardware/system/npu/)

## Izvori i obim ovog objašnjenja

[Intel 64 and IA-32 Architectures Software Developer's Manual](https://www.intel.com/content/www/us/en/developer/articles/technical/intel-sdm.html) · [Linux kernel: using XSTATE features in user space](https://docs.kernel.org/arch/x86/xstate.html)

Ove reference utvrđuju arhitekturno ponašanje i softverske zahtjeve. One ne verifikuju nezavisno svaku vrijednost funkcije na povezanoj stranici hardverskog modela. Za podršku modela, koristite dokaze proizvođača sa te stranice i provjerite efektivnu konfiguraciju sistema. Ovaj članak ne pruža benčmark, sertifikaciju niti datum nezavisnog pregleda.

## Povezano

Ovi entiteti su povezani sa ovim člankom. Tip je prikazan na svakom linku.

[AVX2: Referenca arhitekture](https://feex.it/wiki/l/cnr/hardware/system/avx2/)[Deep Learning Boost: Referenca arhitekture](https://feex.it/wiki/l/cnr/hardware/system/deep-learning-boost/)[AMX, Advanced Matrix Extensions: Referenca arhitekture](https://feex.it/wiki/l/cnr/hardware/system/amx/)[Jedinica za neuronsku obradu (NPU): Referenca arhitekture](https://feex.it/wiki/l/cnr/hardware/system/npu/)

## Izvori i verifikacija

Uredničko vlasništvo: Feex. Nije zabilježen datum nezavisne recenzije. [Kako istražujemo](https://feex.it/wiki/research/).

- [Intel 64 and IA-32 Architectures Software Developer's Manual ](https://www.intel.com/content/www/us/en/developer/articles/technical/intel-sdm.html)· Tomovi 1 i 2 opisuju imenovane familije instrukcija i CPUID; Tom 3 opisuje stanje, straničenje, VMX i kontrole zaštite. Dokumentacija o arhitekturi ne utvrđuje podršku za određeni model.
- [Linux kernel: using XSTATE features in user space ](https://docs.kernel.org/arch/x86/xstate.html)· Vektorsko stanje omogućeno u OS-u, dinamički omogućeno stanje pločica, zahtjevi za stekom signala i tok dozvola za AMX. Ponašanje specifično za Linux nije obećanje o drugom OS-u.

## Da li je ovaj članak bio koristan?

Dovoljno je da označite sa da ili ne. Izaberite razlog ako želite, ili dodajte kratku napomenu.

Brze činjenice

Kratak pregled identiteta ove stranice. Specifikacije, izvori i kompletna priča ostaju u članku.

---

Source: [Canonical Feex Wiki page](https://feex.it/wiki/l/cnr/hardware/system/avx-vnni/)

[Developer guide](https://feex.it/wiki/developers/) | [API policy](https://feex.it/developers/api-policy/) | [Agent guidance](https://feex.it/wiki/llms.txt)
