AVX-VNNI

Mitä sinun tulee tietää

Miten se toimii

Alkuperäinen AVX-VNNI-laajennus sisältää tavujen ja sanojen kertolasku- ja summaustoimintoja 128-bittisillä tai 256-bittisillä vektoreilla. Esimerkiksi VPDPBUSD kertoo etumerkittömiä tavuja etumerkillisillä tavuilla, laskee ryhmät yhteen kaksoissanoiksi ja kerryttää summan kohteeseen. Saturaatiovarianteilla on oma ylivuotokäyttäytymisensä. Kvantisoinnin ja etumerkillisyyden on vastattava valittua operaatiota.

Missä siitä on hyötyä

Neuroverkkokirjasto voi käyttää näitä pistetuloja kvantisoidussa matriisiytimessä pakattuaan painot ja valittuaan sopivan ajonaikaisen toteutuksen. Datamuunnos, asteikot, nollapisteet ja muistin siirto ovat edelleen tärkeitä. Nopeampi sisätulo ei takaa mallin kokonaistarkkuutta tai sovelluksen viivettä.

Tuen ja käyttöönoton tarkistaminen

Tarkista käytössä oleva AVX-tila ja sen jälkeen CPUID.07H.01H:EAX-bitti 4 alkuperäiselle AVX-VNNI-laajennukselle varmistettuasi tuetut lehti- ja alilehtialueet. Tarkista erilliset bitit myöhempiä variantteja varten. Varmista, että kirjasto valitsi sitä vastaavan VEX-polun AVX-512-polun sijaan.

Ohjelman on sekä sisällettävä asianmukainen toteutus että valittava se suorituksen aikana. Laitteiston luettelointi, käyttöjärjestelmän käyttöönottama rekisteritila ja binaarin käännetty perustaso ovat erillisiä tarkistuksia. Virtuaalikone voi tarkoituksellisesti paljastaa vähemmän ominaisuuksia kuin sen isäntä, eikä kontti lisää käskyjä isäntäsuorittimeen.

Mitä ominaisuus ei takaa

AVX-VNNI ei tarkoita tukea AVX-512:lle, AMX:lle, kaikille myöhemmille VNNI-laajennuksille tai jokaiselle kokonaislukutyypille. AVX-VNNI-INT8:lla ja AVX-VNNI-INT16:lla on erillinen ominaisuusluettelointi, eikä niitä saa päätellä alkuperäisestä AVX-VNNI-bitistä.

Yhteensopivuus ja suorituskyky käytännössä

Mittaa koko työkuorma edustavalla datalla. Leveämmät vektorit voivat vähentää käskyjen määrää jättäen samalla muistiliikenteen, synkronoinnin tai muunnoskustannukset ennalleen. Käskyn viive, suorituskyky ja virrankulutus riippuvat tarkasta mikroarkkitehtuurista ja käyttöolosuhteista.

Käytännön tarkistuslista todentamiseen

1. Kirjaa tarkka suoritin- tai alustamalli sekä kyseessä olevat sovellus-, käyttöjärjestelmä- ja ajonaikaiset versiot. Säilytä todellisen virheen tai vaatimuksen sanamuoto.
2. Tarkista kyseisen tarkan mallin valmistajaviite ja tutki sitten todellinen suorituskyky ja käyttöönottotila ympäristössä, jossa ohjelma suoritetaan.
3. Vertaa valitun binaarin tai taustajärjestelmän jokaista vaatimusta. Samankaltaisesti nimetty ominaisuus, alias tai laaja teknologiamerkintä ei riitä.
4. Varmista, että sovellus valitsi aiotun toteutuksen. Käytä sen dokumentoitua diagnostiikkaa ja tuettua vararatkaisua, kun vaatimukset eivät täyty.
5. Tee yksi tuettu muutos kerrallaan ja toista sama työkuorma. Pidä alkuperäinen kokoonpano ja palautuspolku saatavilla.

Jos ominaisuus on luettelossa, mutta ohjelmisto ei voi käyttää sitä

Aloita tarkasta vikaantuvasta komponentista. Laitteistotietokanta kuvaa tallennettua kykyä; käyttöjärjestelmä tai hypervisori voi tuoda esiin erilaisen todellisen ympäristön. Virheellisen käskyn virhe vaatii myös todellisen virheellisen käskyn ja binaarikäännöksen tutkimista, koska korruptio tai liittymätön tukematon käsky voi aiheuttaa samanlaisen oireen.

Asenna kyseiselle alustalle tuettu sovellus-, ajuri- tai ajoympäristöversio ja käytä tarvittaessa toimittajan dokumentoitua perus- tai varakäännöstä. Ohjelmistopäivitys ei voi luoda käskyä, joka suorittimelta puuttuu. Laiteohjelmisto- ja tietoturvakäytäntömuutosten tulee noudattaa järjestelmävalmistajan menettelyä ja palautussuunnitelmaa yleisen optimointiohjeen sijaan.

Liittyvät ominaisuudet ja hyödylliset erot

AVX2 · Deep Learning Boost · AMX, Advanced Matrix Extensions · Neuroverkkoprosessori (NPU)

Tämän selityksen lähteet ja laajuus

Intel 64 and IA-32 Architectures Software Developer's Manual · Linux-ydin: XSTATE-ominaisuuksien käyttäminen käyttäjätilassa

Nämä viitteet määrittävät arkkitehtuurisen käyttäytymisen ja ohjelmistovaatimukset. Ne eivät itsenäisesti vahvista kaikkia ominaisuusarvoja linkitetyllä laitteistomallisivulla. Mallikohtaista tukea varten käytä kyseisen sivun valmistajan todisteita ja tarkista todellinen järjestelmäkokoonpano. Tämä artikkeli ei tarjoa suorituskykytestiä, sertifiointia tai riippumatonta arviointipäivämäärää.

Liittyvät

Nämä kohteet liittyvät tähän artikkeliin. Tyyppi näytetään jokaisessa linkissä.

Lähteet ja vahvistus

Toimituksellinen omistajuus: Feex. Riippumatonta tarkistuspäivämäärää ei ole kirjattu. Miten tutkimme.

• Intel 64 and IA-32 Architectures Software Developer's Manual · Osat 1 ja 2 kuvaavat nimetyt käskyperheet ja CPUID:n; Osa 3 kuvaa tila-, sivutus-, VMX- ja suojausohjaukset. Arkkitehtuuridokumentaatio ei vahvista tukea tietylle mallille.
• Linux-ydin: XSTATE-ominaisuuksien käyttäminen käyttäjätilassa · Käyttöjärjestelmän käyttöönottama vektoritila, dynaamisesti käyttöön otettu ruututila, signaalipinovaatimukset ja AMX-käyttöoikeuskulku. Linux-kohtainen käyttäytyminen ei ole lupaus toisesta käyttöjärjestelmästä.