Gaussian Neural Accelerator (GNA)
Također se naziva Gaussian Neural Accelerator
Intel GNA, Gaussian and Neural Accelerator, neuronski je koprocesor niske potrošnje namijenjen prikladnim radnim opterećenjima kontinuiranog zaključivanja. Razlikuje se od CPU vektorskih instrukcija i od novijih općih NPU dizajna.
Što trebate znati
Intel GNA, Gaussian and Neural Accelerator, neuronski je koprocesor niske potrošnje namijenjen prikladnim radnim opterećenjima kontinuiranog zaključivanja. Razlikuje se od CPU vektorskih instrukcija i od novijih općih NPU dizajna.
Kako funkcionira
Podržani softverski stog šalje prihvatljive zadatke neuronske mreže akceleratoru putem svog upravljačkog programa i izvršnog okruženja. Struktura modela, podržane operacije i numerički prikaz određuju što se može rasteretiti. CPU i dalje sudjeluje u pripremi, nepodržanim operacijama i kontroli aplikacije.
Gdje je korisno
Suzbijanje buke ili zaključivanje usmjereno na govor mogu biti kandidati kada model i izvršno okruženje podržavaju dostupnu generaciju GNA. Samo instaliranje aplikacije koja koristi AI ne znači da cilja GNA ili izbjegava izvršavanje na CPU-u.
Kako provjeriti podršku i omogućavanje
Identificirajte GNA uređaj platforme i podržani upravljački program/izvršno okruženje, a zatim provjerite zahtjeve za operatore modela i generaciju u službenoj dokumentaciji projekta. Koristite dijagnostiku izvršnog okruženja za provjeru hardverskog izvršavanja umjesto pretpostavljanja rasterećenja samo na temelju prisutnosti uređaja.
Dostupnost hardvera samo je prvi korak. Upravljački program, izvršno okruženje, pružatelj izvođenja, podržani operatori i numerički format moraju odgovarati aplikaciji. Pregledajte stvarni odabir pozadinskog sustava i zamjenske opcije umjesto da pretpostavljate da AI oznaka znači da je svaki model ubrzan.
Što ova značajka ne utvrđuje
GNA polje nije dokaz podrške za proizvoljne velike jezične modele, određeni NPU TOPS zahtjev ili svaku verziju izvršnog okruženja. Mogućnosti i softverska podrška točne generacije moraju se provjeriti, a isključivo softverska zamjenska opcija može promijeniti ponašanje potrošnje energije.
Kompatibilnost i performanse u praksi
Usporedite potpuna radna opterećenja pod navedenim uvjetima, uključujući kompilaciju, prijenose i nepodržane operatore. Vršne operacije u sekundi ovise o preciznosti i pretpostavkama brojanja. One nisu zamjena za izmjerenu latenciju, propusnost, energiju ili točnost modela.
Praktičan kontrolni popis za provjeru
- Zabilježite točan model procesora ili platforme te verzije aplikacije, OS-a i izvršnog okruženja. Sačuvajte formulaciju stvarne pogreške ili zahtjeva.
- Provjerite proizvođačevu referencu za taj točan model, a zatim pregledajte stvarnu sposobnost i omogućeno stanje u okruženju u kojem se program izvodi.
- Usporedite svaki zahtjev odabrane binarne datoteke ili pozadinskog sustava. Slično nazvana značajka, pseudonim ili široka tehnološka oznaka nisu dovoljni.
- Potvrdite da je aplikacija odabrala predviđenu implementaciju. Koristite njezinu dokumentiranu dijagnostiku i podržanu zamjensku opciju kada zahtjevi nisu ispunjeni.
- Napravite jednu po jednu podržanu promjenu i ponovite isto radno opterećenje. Zadržite izvornu konfiguraciju i put oporavka dostupnima.
Ako je značajka navedena, ali je softver ne može koristiti
Počnite s točnom komponentom koja zakazuje. Hardverska baza podataka opisuje zabilježenu sposobnost; operacijski sustav ili hipervizor mogu izložiti drukčije stvarno okruženje. Pogreška nedopuštene instrukcije također zahtijeva istragu stvarne instrukcije koja uzrokuje pogrešku i binarne građe, jer oštećenje ili nepovezana nepodržana instrukcija mogu proizvesti sličan simptom.
Instalirajte verziju aplikacije, upravljačkog programa ili izvršnog okruženja podržanu za točnu platformu i upotrijebite proizvođačevu dokumentiranu osnovnu ili zamjensku građu ako je potrebno. Softversko ažuriranje ne može stvoriti instrukciju koja procesoru nedostaje. Promjene u firmwareu i sigurnosnim pravilima trebaju slijediti postupak proizvođača sustava i plan oporavka, a ne generički recept za optimizaciju.
Izvori i opseg ovog objašnjenja
Intel Gaussian and Neural Accelerator library
Ove reference utvrđuju arhitekturno ponašanje i softverske zahtjeve. One ne verificiraju neovisno svaku vrijednost značajke na povezanoj stranici hardverskog modela. Za podršku modela upotrijebite proizvođačeve dokaze s te stranice i provjerite stvarnu konfiguraciju sustava. Ovaj članak ne pruža mjerilo performansi, certifikaciju ili datum neovisnog pregleda.
Izvori i provjera
Uredničko vlasništvo: Feex. Nije zabilježen datum neovisnog pregleda. Kako istražujemo.
- Intel Gaussian and Neural Accelerator library · Službeno GNA izvršno okruženje / biblioteka, podrška za generacije hardvera i slučajevi upotrebe zaključivanja niske potrošnje. Provjerite trenutni status podrške prije odabira nove implementacije.
Je li ovaj članak bio koristan?
Dovoljno je odgovoriti s da ili ne. Odaberite razlog ako želite ili dodajte kratku bilješku.
Hvala. To nam pomaže poboljšati ovu stranicu.