Skoči na sadržaj

Deep Learning Boost

Arhitekturna referencaFeex

Intel Deep Learning Boost je marketinški naziv tehnologije za mogućnosti procesora koje koriste prikladna radna opterećenja umjetne inteligencije. Njezin točan skup instrukcija ovisi o procesoru i mora se zasebno provjeriti.

Što trebate znati

Intel Deep Learning Boost je marketinški naziv tehnologije za mogućnosti procesora koje koriste prikladna radna opterećenja umjetne inteligencije. Njezin točan skup instrukcija ovisi o procesoru i mora se zasebno provjeriti.

Kako funkcionira

Proizvodi opisani ovom oznakom mogu izlagati različite kombinacije vektorskog skalarnog produkta i drugih mehanizama za ubrzanje. Softverska biblioteka bira jezgre na temelju stvarnih proširenja, numeričkih formata i stanja omogućenog u OS-u. Oznaka je šira od pojedinačnog operacijskog koda ili prenosive binarne osnovne linije.

Gdje je korisno

Runtime za zaključivanje može odabrati jezgru kvantiziranog skalarnog produkta za podržanu operaciju modela. Odabrani pružatelj izvršavanja, preciznost podataka, pokrivenost operatora i pakiranje određuju koristi li aplikacija procesorsku značajku u praksi.

Kako provjeriti podršku i omogućavanje

Potražite specifikacije proizvođača za točan model, a zatim enumerirajte proširenja instrukcija koja zahtijeva runtime. Provjerite njegov dijagnostički izlaz za odabranu jezgru/backend i verificirajte da je relevantno vektorsko ili pločasto (tile) stanje u OS-u omogućeno.

Dostupnost hardvera samo je prvi korak. Upravljački program, izvršno okruženje, pružatelj izvođenja, podržani operatori i numerički format moraju odgovarati aplikaciji. Pregledajte stvarni odabir pozadinskog sustava i zamjenske opcije umjesto da pretpostavljate da AI oznaka znači da je svaki model ubrzan.

Što ova značajka ne utvrđuje

Nemojte izvoditi AVX-512 VNNI, AVX-VNNI, BF16, AMX ili NPU samo iz ovog marketinškog polja. Vršne operacije u sekundi pod jednom preciznošću nisu zamjenjive s cjelokupnom brzinom zaključivanja ili točnošću modela.

Kompatibilnost i performanse u praksi

Usporedite potpuna radna opterećenja pod navedenim uvjetima, uključujući kompilaciju, prijenose i nepodržane operatore. Vršne operacije u sekundi ovise o preciznosti i pretpostavkama brojanja. One nisu zamjena za izmjerenu latenciju, propusnost, energiju ili točnost modela.

Praktičan kontrolni popis za provjeru

  1. Zabilježite točan model procesora ili platforme te verzije aplikacije, OS-a i izvršnog okruženja. Sačuvajte formulaciju stvarne pogreške ili zahtjeva.
  2. Provjerite proizvođačevu referencu za taj točan model, a zatim pregledajte stvarnu sposobnost i omogućeno stanje u okruženju u kojem se program izvodi.
  3. Usporedite svaki zahtjev odabrane binarne datoteke ili pozadinskog sustava. Slično nazvana značajka, pseudonim ili široka tehnološka oznaka nisu dovoljni.
  4. Potvrdite da je aplikacija odabrala predviđenu implementaciju. Koristite njezinu dokumentiranu dijagnostiku i podržanu zamjensku opciju kada zahtjevi nisu ispunjeni.
  5. Napravite jednu po jednu podržanu promjenu i ponovite isto radno opterećenje. Zadržite izvornu konfiguraciju i put oporavka dostupnima.

Ako je značajka navedena, ali je softver ne može koristiti

Počnite s točnom komponentom koja zakazuje. Hardverska baza podataka opisuje zabilježenu sposobnost; operacijski sustav ili hipervizor mogu izložiti drukčije stvarno okruženje. Pogreška nedopuštene instrukcije također zahtijeva istragu stvarne instrukcije koja uzrokuje pogrešku i binarne građe, jer oštećenje ili nepovezana nepodržana instrukcija mogu proizvesti sličan simptom.

Instalirajte verziju aplikacije, upravljačkog programa ili izvršnog okruženja podržanu za točnu platformu i upotrijebite proizvođačevu dokumentiranu osnovnu ili zamjensku građu ako je potrebno. Softversko ažuriranje ne može stvoriti instrukciju koja procesoru nedostaje. Promjene u firmwareu i sigurnosnim pravilima trebaju slijediti postupak proizvođača sustava i plan oporavka, a ne generički recept za optimizaciju.

Izvori i opseg ovog objašnjenja

Intel: duboko učenje uz AVX-512 i DL Boost · Intel 64 and IA-32 Architectures Software Developer's Manual

Ove reference utvrđuju arhitekturno ponašanje i softverske zahtjeve. One ne verificiraju neovisno svaku vrijednost značajke na povezanoj stranici hardverskog modela. Za podršku modela upotrijebite proizvođačeve dokaze s te stranice i provjerite stvarnu konfiguraciju sustava. Ovaj članak ne pruža mjerilo performansi, certifikaciju ili datum neovisnog pregleda.

Izvori i provjera

Uredničko vlasništvo: Feex. Nije zabilježen datum neovisnog pregleda. Kako istražujemo.

Je li ovaj članak bio koristan?

Dovoljno je odgovoriti s da ili ne. Odaberite razlog ako želite ili dodajte kratku bilješku.

Je li ovaj članak bio koristan?