Gaussian Neural Accelerator (GNA)

Referenca e arkitekturësFeex

Quhet gjithashtu Gaussian Neural Accelerator

Intel GNA, Gaussian and Neural Accelerator, është një bashkëprocesor neuronal me konsum të ulët energjie i destinuar për ngarkesa pune të përshtatshme me nxjerrje të vazhdueshme përfundimesh (continuous inference). Ai është i ndryshëm nga instruksionet vektoriale të CPU-së dhe nga dizajnet më të reja të përgjithshme NPU.

Çfarë duhet të dini

Si funksionon

Një paketë softuerike e mbështetur dërgon punën e përshtatshme të rrjetit neuronal te përshpejtuesi përmes drajverit dhe mjedisit të tij ekzekutues. Struktura e modelit, operacionet e mbështetura dhe paraqitja numerike përcaktojnë se çfarë mund të shkarkohet (offload). CPU-ja merr pjesë ende në përgatitje, operacione të pambështetura dhe kontrollin e aplikacionit.

Ku është e dobishme

Fshirja e zhurmës ose nxjerrja e përfundimeve e orientuar drejt të folurit mund të jenë kandidate kur modeli dhe mjedisi ekzekutues mbështesin gjeneratën e disponueshme të GNA. Thjesht instalimi i një aplikacioni që përdor AI nuk do të thotë se ai synon GNA-në ose shmang ekzekutimin në CPU.

Si të kontrollohet mbështetja dhe aktivizimi

Identifikoni pajisjen GNA të platformës dhe drajverin/mjedisin ekzekutues të mbështetur, më pas konsultohuni me operatorët e modelit dhe kërkesat e gjeneratës në dokumentacionin zyrtar të projektit. Përdorni diagnostikimet e mjedisit ekzekutues për të verifikuar ekzekutimin harduerik në vend që të supozoni shkarkimin e punës vetëm nga prania e pajisjes.

Disponueshmëria e harduerit është vetëm hapi i parë. Drajveri, mjedisi i ekzekutimit, ofruesi i ekzekutimit, operatorët e mbështetur dhe formati numerik duhet të përputhen me aplikacionin. Inspektoni përzgjedhjen aktuale të prapavijës dhe zgjidhjen alternative në vend që të supozoni se një etiketë AI do të thotë se çdo model përshpejtohet.

Çfarë nuk përcakton kjo veçori

Një fushë GNA nuk është provë e mbështetjes për modele gjuhësore të mëdha arbitrare, një kërkesë të caktuar TOPS të NPU-së ose çdo version të një mjedisi ekzekutues. Aftësitë dhe mbështetja softuerike e gjeneratës së saktë duhet të kontrollohen, dhe kalimi vetëm në softuer (fallback) mund të ndryshojë sjelljen e energjisë.

Përputhshmëria dhe performanca në praktikë

Krahasoni ngarkesa të plota pune në kushte të përcaktuara, duke përfshirë kompilimin, transferimet dhe operatorët e pambështetur. Operacionet maksimale për sekondë varen nga saktësia dhe supozimet e numërimit. Ato nuk janë një zëvendësues për vonesën e matur, xhiron, energjinë ose saktësinë e modelit.

Një listë praktike kontrolli për verifikim

Regjistroni modelin e saktë të procesorit ose platformës dhe versionet e përfshira të aplikacionit, sistemit operativ dhe mjedisit të ekzekutimit. Ruani formulimin e gabimit ose kërkesës aktuale.
Kontrolloni referencën e prodhuesit për atë model të saktë, më pas inspektoni aftësinë efektive dhe gjendjen e aktivizuar në mjedisin ku ekzekutohet programi.
Krahasoni çdo kërkesë të binarit ose prapavijës së zgjedhur. Një veçori me emër të ngjashëm, një pseudonim ose një etiketë e gjerë teknologjike nuk mjafton.
Konfirmoni që aplikacioni ka zgjedhur implementimin e synuar. Përdorni diagnostikimet e dokumentuara të tij dhe një alternativë të mbështetur kur kërkesat nuk plotësohen.
Bëni një ndryshim të mbështetur në një moment dhe përsëritni të njëjtën ngarkesë pune. Mbajeni të disponueshme konfigurimin origjinal dhe rrugën e rikuperimit.

Nëse veçoria listohet por softueri nuk mund ta përdorë atë

Filloni me komponentin e saktë që dështon. Një bazë të dhënash harduerike përshkruan aftësinë e regjistruar; sistemi operativ ose hipervizori mund të ekspozojë një mjedis efektiv të ndryshëm. Një gabim instruksioni të paligjshëm kërkon gjithashtu hetim të instruksionit aktual me defekt dhe të ndërtimit të binarit, sepse dëmtimi ose një instruksion i palidhur i pambështetur mund të prodhojë një simptomë të ngjashme.

Instaloni versionin e aplikacionit, drajverit ose mjedisit të ekzekutimit të mbështetur për platformën e saktë, dhe përdorni versionin bazë ose alternativ të dokumentuar nga prodhuesi nëse është e nevojshme. Një përditësim softueri nuk mund të krijojë një instruksion që procesorit i mungon. Ndryshimet në firmware dhe politikat e sigurisë duhet të ndjekin procedurën e prodhuesit të sistemit dhe një plan rikuperimi në vend të një recete të përgjithshme optimizimi.

Burimet dhe fusha e këtij shpjegimi

Biblioteka Intel Gaussian and Neural Accelerator

Këto referenca përcaktojnë sjelljen arkitekturore dhe kërkesat e softuerit. Ato nuk verifikojnë në mënyrë të pavarur çdo vlerë të veçorive në faqen e lidhur të modelit të harduerit. Për mbështetjen e modelit, përdorni dëshmitë e prodhuesit në atë faqe dhe kontrolloni konfigurimin efektiv të sistemit. Ky artikull nuk ofron një test standard vlerësimi, certifikim ose datë shqyrtimi të pavarur.

Burimet dhe verifikimi

Pronësia editoriale: Feex. Nuk është regjistruar asnjë datë shqyrtimi të pavarur. Si hulumtojmë.

Biblioteka Intel Gaussian and Neural Accelerator · Mjedisi zyrtar ekzekutues/biblioteka GNA, mbështetja e gjeneratës harduerike dhe rastet e përdorimit të nxjerrjes së përfundimeve me konsum të ulët. Konsultohuni me statusin aktual të mbështetjes përpara se të zgjidhni një vendosje të re.

A ishte i dobishëm ky artikull?

Një po ose jo mjafton. Zgjidhni një arsye nëse dëshironi, ose shtoni një shënim të shkurtër.