Gaussian Neural Accelerator (GNA)

Mitä sinun tulee tietää

Miten se toimii

Tuettu ohjelmistopino lähettää soveltuvat neuroverkkotyöt kiihdyttimelle sen ajurin ja ajonaikaisen ympäristön kautta. Mallin rakenne, tuetut toiminnot ja numeerinen esitysmuoto määrittävät, mitä voidaan siirtää suoritettavaksi. Suoritin osallistuu edelleen valmisteluun, tukemattomiin toimintoihin ja sovelluksen ohjaukseen.

Missä siitä on hyötyä

Kohinanvaimennus tai puhekeskeinen päättely voivat olla sopivia kohteita, kun malli ja ajonaikainen ympäristö tukevat saatavilla olevaa GNA-sukupolvea. Pelkkä tekoälyä käyttävän sovelluksen asentaminen ei tarkoita, että se hyödyntää GNA:ta tai välttää suorittimen käyttöä.

Tuen ja käyttöönoton tarkistaminen

Tunnista alustan GNA-laite sekä tuettu ajuri ja ajonaikainen ympäristö, ja tarkista sitten mallioperaattori- ja sukupolvivaatimukset virallisesta projektidokumentaatiosta. Varmista laitteistototeutus ajonaikaisen diagnostiikan avulla sen sijaan, että olettaisit ulkoistamisen pelkän laitteen läsnäolon perusteella.

Laitteiston saatavuus on vain ensimmäinen vaihe. Ajurin, ajoympäristön, suoritustoimittajan, tuettujen operaattoreiden ja numeerisen muodon on vastattava sovellusta. Tutki todellista taustajärjestelmän valintaa ja varajärjestelmää sen sijaan, että olettaisit tekoälymerkinnän tarkoittavan jokaisen mallin kiihdyttämistä.

Mitä ominaisuus ei takaa

GNA-tietokenttä ei ole todiste mielivaltaisten suurten kielimallien tuesta, tietystä NPU TOPS -vaatimuksesta tai ajonaikaisen ympäristön jokaisesta versiosta. Tarkan sukupolven ominaisuudet ja ohjelmistotuki on tarkistettava, ja pelkkään ohjelmistoon tukeutuminen voi muuttaa virrankulutuskäyttäytymistä.

Yhteensopivuus ja suorituskyky käytännössä

Vertaa kokonaisia työkuormia ilmoitetuissa olosuhteissa, mukaan lukien kääntäminen, siirrot ja tukemattomat operaattorit. Huippuoperaatiot sekunnissa riippuvat tarkkuudesta ja laskenta-oletuksista. Ne eivät korvaa mitattua viivettä, suorituskykyä, energiaa tai mallin tarkkuutta.

Käytännön tarkistuslista todentamiseen

1. Kirjaa tarkka suoritin- tai alustamalli sekä kyseessä olevat sovellus-, käyttöjärjestelmä- ja ajonaikaiset versiot. Säilytä todellisen virheen tai vaatimuksen sanamuoto.
2. Tarkista kyseisen tarkan mallin valmistajaviite ja tutki sitten todellinen suorituskyky ja käyttöönottotila ympäristössä, jossa ohjelma suoritetaan.
3. Vertaa valitun binaarin tai taustajärjestelmän jokaista vaatimusta. Samankaltaisesti nimetty ominaisuus, alias tai laaja teknologiamerkintä ei riitä.
4. Varmista, että sovellus valitsi aiotun toteutuksen. Käytä sen dokumentoitua diagnostiikkaa ja tuettua vararatkaisua, kun vaatimukset eivät täyty.
5. Tee yksi tuettu muutos kerrallaan ja toista sama työkuorma. Pidä alkuperäinen kokoonpano ja palautuspolku saatavilla.

Jos ominaisuus on luettelossa, mutta ohjelmisto ei voi käyttää sitä

Aloita tarkasta vikaantuvasta komponentista. Laitteistotietokanta kuvaa tallennettua kykyä; käyttöjärjestelmä tai hypervisori voi tuoda esiin erilaisen todellisen ympäristön. Virheellisen käskyn virhe vaatii myös todellisen virheellisen käskyn ja binaarikäännöksen tutkimista, koska korruptio tai liittymätön tukematon käsky voi aiheuttaa samanlaisen oireen.

Asenna kyseiselle alustalle tuettu sovellus-, ajuri- tai ajoympäristöversio ja käytä tarvittaessa toimittajan dokumentoitua perus- tai varakäännöstä. Ohjelmistopäivitys ei voi luoda käskyä, joka suorittimelta puuttuu. Laiteohjelmisto- ja tietoturvakäytäntömuutosten tulee noudattaa järjestelmävalmistajan menettelyä ja palautussuunnitelmaa yleisen optimointiohjeen sijaan.

Liittyvät ominaisuudet ja hyödylliset erot

Neuroverkkoprosessori (NPU) · Deep Learning Boost · AMX, Advanced Matrix Extensions

Tämän selityksen lähteet ja laajuus

Intel Gaussian and Neural Accelerator library

Nämä viitteet määrittävät arkkitehtuurisen käyttäytymisen ja ohjelmistovaatimukset. Ne eivät itsenäisesti vahvista kaikkia ominaisuusarvoja linkitetyllä laitteistomallisivulla. Mallikohtaista tukea varten käytä kyseisen sivun valmistajan todisteita ja tarkista todellinen järjestelmäkokoonpano. Tämä artikkeli ei tarjoa suorituskykytestiä, sertifiointia tai riippumatonta arviointipäivämäärää.

Liittyvät

Nämä kohteet liittyvät tähän artikkeliin. Tyyppi näytetään jokaisessa linkissä.

Lähteet ja vahvistus

Toimituksellinen omistajuus: Feex. Riippumatonta tarkistuspäivämäärää ei ole kirjattu. Miten tutkimme.

• Intel Gaussian and Neural Accelerator library · Virallinen GNA-ajonaikainen ympäristö ja kirjasto, laitteistosukupolvien tuki sekä matalan virrankulutuksen päättelyn käyttötapaukset. Tarkista sen nykyinen tukitila ennen uuden käyttöönoton valitsemista.