AVX-VNNI

Mimari referansıFeex

AVX-VNNI, uygun tam sayı çıkarım ve sinyal işleme çekirdekleri tarafından kullanılan VEX kodlamalı vektör iç çarpım komutları sağlar. AVX-512 VNNI'den ve bir NPU'dan farklıdır.

Bilmeniz gerekenler

AVX-VNNI, uygun tam sayı çıkarım ve sinyal işleme çekirdekleri tarafından kullanılan VEX kodlamalı vektör iç çarpım komutları sağlar. AVX-512 VNNI'den ve bir NPU'dan farklıdır.

Nasıl çalışır

Orijinal AVX-VNNI genişletmesi, 128 bit veya 256 bit vektörler üzerinde bayt ve sözcük çarpma-biriktirme (multiply-accumulate) işlemlerini içerir. Örneğin, VPDPBUSD işaretsiz baytları işaretli baytlarla çarpar, grupları çift sözcükler (doubleword) halinde toplar ve hedefte biriktirir. Doygunluklu (saturating) varyantların kendilerine ait taşma davranışları vardır. Kuantalama ve işaretlilik seçilen işlemle eşleşmelidir.

Nerede yararlıdır

Bir yapay sinir ağı kütüphanesi, ağırlıkları paketledikten ve uygun bir çalışma zamanı uygulaması seçtikten sonra kuantalanmış bir matris çekirdeği için bu iç çarpımları kullanabilir. Veri dönüştürme, ölçekler, sıfır noktaları ve bellek hareketi yine de önem taşır. Daha hızlı bir iç çarpım, uçtan uca model doğruluğunu veya uygulama gecikmesini tek başına sağlamaz.

Destek ve etkinleştirme durumu nasıl kontrol edilir

Desteklenen yaprak ve alt yaprak aralıklarını doğruladıktan sonra, etkinleştirilmiş AVX durumunu ve ardından orijinal AVX-VNNI genişletmesi için CPUID.07H.01H:EAX 4. bitini kontrol edin. Daha sonraki varyantlar için ayrı bitleri denetleyin. Kütüphanenin bir AVX-512 yolu yerine onunla eşleşen VEX yolunu seçtiğini doğrulayın.

Program hem uygun bir uygulama içermeli hem de bunu çalışma zamanında seçmelidir. Donanım numaralandırması, işletim sistemi tarafından etkinleştirilen yazmaç durumu ve ikili dosyanın derlenmiş temeli ayrı kontrollerdir. Bir sanal makine kasıtlı olarak ana bilgisayarından daha az özellik sunabilir ve bir kapsayıcı ana bilgisayar CPU'suna komut eklemez.

Özelliğin sağlamadığı durumlar

AVX-VNNI; AVX-512'yi, AMX'i, sonraki her VNNI genişletmesini veya her tam sayı türünün desteklendiğini ima etmez. AVX-VNNI-INT8 ve AVX-VNNI-INT16 ayrı özellik numaralandırmalarına sahiptir ve orijinal AVX-VNNI bitinden çıkarılmamalıdır.

Uygulamada uyumluluk ve performans

İş yükünün tamamını temsili verilerle ölçün. Daha geniş vektörler, bellek trafiğini, eşitlemeyi veya dönüştürme maliyetlerini değiştirmeden komut sayısını azaltabilir. Komut gecikme süresi, işleme hızı ve güç davranışı tam mikro mimariye ve çalışma koşullarına bağlıdır.

Pratik bir doğrulama kontrol listesi

İlgili tam işlemci veya platform modelini ve uygulama, işletim sistemi ve çalışma zamanı sürümlerini kaydedin. Gerçek hatanın veya gereksinimin metnini koruyun.
Bu tam model için üretici referansını kontrol edin, ardından programın çalıştığı ortamda geçerli yeteneği ve etkinleştirilmiş durumu inceleyin.
Seçilen ikili dosyanın veya arka ucun her gereksinimini karşılaştırın. Benzer şekilde adlandırılmış bir özellik, diğer ad veya genel teknoloji etiketi yeterli değildir.
Uygulamanın hedeflenen uygulamayı seçtiğini onaylayın. Gereksinimler karşılanmadığında belgelenmiş tanılamalarını ve desteklenen bir geri dönüşü kullanın.
Her seferinde desteklenen bir değişiklik yapın ve aynı iş yükünü tekrarlayın. Orijinal yapılandırmayı ve kurtarma yolunu kullanılabilir durumda tutun.

Özellik listeleniyor ancak yazılım kullanamıyorsa

Hata veren tam bileşenle başlayın. Bir donanım veritabanı kayıtlı yeteneği açıklar; işletim sistemi veya hipervizör farklı bir geçerli ortam sunabilir. Geçersiz komut hatası, gerçek hatalı komutun ve ikili yapının da incelenmesini gerektirir, çünkü bozulma veya ilgisiz, desteklenmeyen bir komut benzer bir belirti üretebilir.

Tam platform için desteklenen uygulama, sürücü veya çalışma zamanı sürümünü yükleyin ve gerekirse satıcının belgelenmiş temel veya geri dönüş derlemesini kullanın. Bir yazılım güncellemesi, işlemcide eksik olan bir komutu oluşturamaz. Bellenim ve güvenlik politikası değişiklikleri, genel bir optimizasyon tarifi yerine sistem üreticisinin prosedürünü ve bir kurtarma planını izlemelidir.

Bu açıklamanın kaynakları ve kapsamı

Intel 64 ve IA-32 Mimarileri Yazılım Geliştirici Kılavuzu · Linux çekirdeği: kullanıcı alanında XSTATE özelliklerini kullanma

Bu referanslar mimari davranışı ve yazılım gereksinimlerini belirler. Bağlantılı bir donanım modeli sayfasındaki her özellik değerini bağımsız olarak doğrulamazlar. Model desteği için ilgili sayfanın üretici kanıtlarını kullanın ve geçerli sistem yapılandırmasını kontrol edin. Bu makale bir kıyaslama, sertifikasyon veya bağımsız inceleme tarihi sağlamaz.

Kaynaklar ve doğrulama

Editoryal mülkiyet: Feex. Bağımsız bir inceleme tarihi kaydedilmemiştir. Nasıl araştırıyoruz.

Intel 64 ve IA-32 Mimarileri Yazılım Geliştirici Kılavuzu · Cilt 1 ve 2, adlandırılmış komut ailelerini ve CPUID'yi açıklar; Cilt 3, durum, sayfalama, VMX ve koruma denetimlerini açıklar. Mimari belgeleri belirli bir model için desteği doğrulamaz.
Linux çekirdeği: kullanıcı alanında XSTATE özelliklerini kullanma · İşletim sistemi tarafından etkinleştirilen vektör durumu, dinamik olarak etkinleştirilen karo durumu, sinyal yığını gereksinimleri ve AMX izin akışı. Linux'a özgü davranış, başka bir işletim sistemi hakkında bir taahhüt değildir.

Bu makale yararlı oldu mu?

Evet veya hayır yeterlidir. İsterseniz bir neden seçin veya kısa bir not ekleyin.