Hopp til innhold

Deep Learning Boost

ArkitekturreferanseFeex

Intel Deep Learning Boost er en teknologietikett for prosessorfunksjoner som brukes av egnede AI-arbeidsbelastninger. Det nøyaktige instruksjonssettet avhenger av prosessoren og må kontrolleres separat.

Dette må du vite

Intel Deep Learning Boost er en teknologietikett for prosessorfunksjoner som brukes av egnede AI-arbeidsbelastninger. Det nøyaktige instruksjonssettet avhenger av prosessoren og må kontrolleres separat.

Slik fungerer det

Produkter som beskrives med denne etiketten, kan eksponere ulike kombinasjoner av vektorprikkprodukt og andre akselerasjonsfasiliteter. Et programvarebibliotek velger kjerner basert på de faktiske utvidelsene, numeriske formatene og OS-aktivert tilstand. Etiketten er bredere enn en enkelt operasjonskode eller en portabel binær grunnlinje.

Hvor det er nyttig

Et inferenskjøretidsmiljø kan velge en kvantisert prikkproduktkjerne for en støttet modelloperasjon. Den valgte kjøringsleverandøren, datapresisjonen, operatordekningen og pakkingen avgjør om applikasjonen bruker prosessorfunksjonen i praksis.

Slik kontrolleres støtte og aktivering

Slå opp den nøyaktige modellens produsentspesifikasjoner, og nummerer deretter instruksjonsutvidelsene som kreves av kjøretidsmiljøet. Sjekk dets diagnosedata for den valgte kjernen/bakenden, og bekreft at den relevante vektor- eller flistilstanden (tile state) i operativsystemet er aktivert.

Maskinvaretilgjengelighet er bare det første steget. Driveren, kjøretidsmiljøet, utførelsesleverandøren, støttede operatorer og det numeriske formatet må samsvare med applikasjonen. Undersøk faktisk valg av bakside og reservemetode i stedet for å anta at en AI-etikett betyr at enhver modell akselereres.

Hva funksjonen ikke etablerer

Ikke utled AVX-512 VNNI, AVX-VNNI, BF16, AMX eller en NPU fra dette markedsføringsfeltet alene. Maksimalt antall operasjoner per sekund under én presisjon er ikke ombyttbart med ende-til-ende-inferenshastighet eller modellnøyaktighet.

Kompatibilitet og ytelse i praksis

Sammenlign fullstendige arbeidsbelastninger under angitte forhold, inkludert kompilering, overføringer og ustøttede operatorer. Toppoperasjoner per sekund avhenger av presisjon og beregningsforutsetninger. De er ikke en erstatning for målt forsinkelse, gjennomstrømning, energi eller modellnøyaktighet.

En praktisk sjekkliste for verifisering

  1. Registrer den nøyaktige prosessor- eller plattformmodellen og de involverte applikasjons-, OS- og kjøretidsversjonene. Bevar ordlyden i den faktiske feilen eller kravet.
  2. Sjekk produsentreferansen for akkurat den modellen, og undersøk deretter den faktiske kapasiteten og aktiverte tilstanden i miljøet der programmet kjører.
  3. Sammenlign ethvert krav til den valgte binærfilen eller baksiden. En lignende navngitt funksjon, et alias eller en bred teknologietikett er ikke tilstrekkelig.
  4. Bekreft at applikasjonen valgte den tiltenkte implementeringen. Bruk dens dokumenterte diagnostikk og en støttet reservemetode når kravene ikke er oppfylt.
  5. Gjør én støttet endring om gangen og gjenta den samme arbeidsbelastningen. Hold den opprinnelige konfigurasjonen og gjenopprettingsstien tilgjengelig.

Hvis funksjonen er oppført, men programvare ikke kan bruke den

Start med den nøyaktige komponenten som feiler. En maskinwaredatabase beskriver registrert kapasitet; operativsystemet eller hypervisoren kan eksponere et annet reelt miljø. En feil om ulovlig instruksjon krever også undersøkelse av den faktiske feilende instruksjonen og binærbyggingen, fordi korrupsjon eller en urelatert, ustøttet instruksjon kan gi et lignende symptom.

Installer applikasjonen, driveren eller kjøretidsversjonen som støttes for den nøyaktige plattformen, og bruk om nødvendig leverandørens dokumenterte grunnlinje- eller reservebygg. En programvareoppdatering kan ikke opprette en instruksjon som prosessoren mangler fastvare. Endringer i fastvare og sikkerhetspolicy bør følge systemprodusentens prosedyre og en gjenopprettingsplan i stedet for en generisk optimaliseringsoppskrift.

Kilder og omfang for denne forklaringen

Intel: dyp læring med AVX-512 og DL Boost · Intel 64 and IA-32 Architectures Software Developer's Manual

Disse referansene etablerer arkitektonisk oppførsel og programvarekrav. De verifiserer ikke uavhengig hver funksjonsverdi på en koblet maskinvaremodells side. For modellstøtte, bruk den sidens produsentdokumentasjon og kontroller den reelle systemkonfigurasjonen. Denne artikkelen oppgir ikke en referansemåling, sertifisering eller dato for uavhengig gjennomgang.

Kilder og verifisering

Redaksjonelt eierskap: Feex. Ingen uavhengig vurderingsdato er registrert. Hvordan vi gjør undersøkelser.

Var denne artikkelen nyttig?

Et ja eller nei holder. Velg en grunn hvis du vil, eller legg til en kort kommentar.

Var denne artikkelen nyttig?