AVX-VNNI
AVX-VNNI उपयुक्त इंटीजर इन्फ़रेंस और सिग्नल-प्रोसेसिंग कर्नल्स द्वारा उपयोग किए जाने वाले VEX-एन्कोडेड वेक्टर डॉट-प्रोडक्ट निर्देश प्रदान करता है। यह AVX-512 VNNI और NPU से भिन्न है।
आपको क्या जानना चाहिए
AVX-VNNI उपयुक्त इंटीजर इन्फ़रेंस और सिग्नल-प्रोसेसिंग कर्नल्स द्वारा उपयोग किए जाने वाले VEX-एन्कोडेड वेक्टर डॉट-प्रोडक्ट निर्देश प्रदान करता है। यह AVX-512 VNNI और NPU से भिन्न है।
यह कैसे काम करता है
मूल AVX-VNNI एक्सटेंशन में 128-बिट या 256-बिट वेक्टर्स पर बाइट और वर्ड मल्टिप्लाई-एक्युमुलेट ऑपरेशन्स शामिल हैं। उदाहरण के लिए, VPDPBUSD अनसाइंड बाइट्स को साइन्ड बाइट्स से गुणा करता है, समूहों को डबलवर्ड्स में जोड़ता है और डेस्टिनेशन में संचित करता है। सैचुरेटिंग वेरिएंट्स का अपना ओवरफ्लो व्यवहार होता है। क्वांटाइज़ेशन और साइन्डनेस चुने गए ऑपरेशन से मेल खाने चाहिए।
यह कहाँ उपयोगी है
एक न्यूरल-नेटवर्क लाइब्रेरी वज़न पैक करने और एक उपयुक्त रनटाइम कार्यान्वयन चुनने के बाद क्वांटाइज़्ड मैट्रिक्स कर्नेल के लिए इन डॉट प्रोडक्ट्स का उपयोग कर सकती है। डेटा रूपांतरण, स्केल्स, ज़ीरो पॉइंट्स और मेमोरी मूवमेंट अभी भी मायने रखते हैं। एक तेज़ इनर प्रोडक्ट एंड-टू-एंड मॉडल सटीकता या एप्लिकेशन लेटेंसी स्थापित नहीं करता है।
सपोर्ट और सक्षमता की जांच कैसे करें
सक्षम AVX स्टेट की जाँच करें, फिर समर्थित लीफ़ और सबलीफ़ सीमाओं की पुष्टि करने के बाद मूल AVX-VNNI एक्सटेंशन के लिए CPUID.07H.01H:EAX बिट 4 की जाँच करें। बाद के वेरिएंट्स के लिए अलग बिट्स की जाँच करें। पुष्टि करें कि लाइब्रेरी ने AVX-512 पाथ के बजाय अपने मेल खाने वाले VEX पाथ का चयन किया है।
प्रोग्राम में दोनों एक उपयुक्त कार्यान्वयन होना चाहिए और रनटाइम पर इसका चयन करना चाहिए। हार्डवेयर गणना, OS-सक्षम रजिस्टर स्थिति और बाइनरी का संकलित आधारभूत अलग-अलग जांच हैं। एक वर्चुअल मशीन जानबूझकर अपने होस्ट की तुलना में कम सुविधाओं को उजागर कर सकती है, और एक कंटेनर होस्ट CPU में निर्देश नहीं जोड़ता है।
यह सुविधा क्या स्थापित नहीं करती है
AVX-VNNI का अर्थ AVX-512, AMX, प्रत्येक बाद का VNNI एक्सटेंशन या प्रत्येक इंटीजर प्रकार के लिए समर्थन नहीं है। AVX-VNNI-INT8 और AVX-VNNI-INT16 का अलग फ़ीचर एन्युमिरेशन है और मूल AVX-VNNI बिट से इनका अनुमान नहीं लगाया जाना चाहिए।
व्यवहार में अनुकूलता और प्रदर्शन
प्रतिनिधि डेटा के साथ संपूर्ण कार्यभार को मापें। व्यापक वैक्टर मेमोरी ट्रैफ़िक, सिंक्रोनाइज़ेशन या रूपांतरण लागतों को अपरिवर्तित छोड़ते हुए निर्देश गणना को कम कर सकते हैं। निर्देश विलंबता, थ्रूपुट और शक्ति व्यवहार सटीक माइक्रोआर्किटेक्चर और परिचालन स्थितियों पर निर्भर करते हैं।
एक व्यावहारिक सत्यापन चेकलिस्ट
- शामिल सटीक प्रोसेसर या प्लेटफ़ॉर्म मॉडल और एप्लिकेशन, OS और रनटाइम संस्करणों को रिकॉर्ड करें। वास्तविक त्रुटि या आवश्यकता के शब्दों को सुरक्षित रखें।
- उस सटीक मॉडल के लिए निर्माता संदर्भ की जांच करें, फिर उस परिवेश में प्रभावी क्षमता और सक्षम स्थिति का निरीक्षण करें जहां प्रोग्राम चलता है।
- चयनित बाइनरी या बैकएंड की प्रत्येक आवश्यकता की तुलना करें। समान नाम वाली सुविधा, उपनाम या व्यापक तकनीक लेबल पर्याप्त नहीं है।
- पुष्टि करें कि एप्लिकेशन ने इच्छित कार्यान्वयन का चयन किया है। आवश्यकताएं पूरी न होने पर इसके दस्तावेजीकृत डायग्नोस्टिक्स और समर्थित फ़ॉलबैक का उपयोग करें।
- एक समय में एक समर्थित परिवर्तन करें और वही कार्यभार दोहराएं। मूल कॉन्फ़िगरेशन और पुनर्प्राप्ति पथ उपलब्ध रखें।
यदि सुविधा सूचीबद्ध है लेकिन सॉफ़्टवेयर इसका उपयोग नहीं कर सकता है
सटीक रूप से विफल घटक से शुरुआत करें। हार्डवेयर डेटाबेस रिकॉर्ड की गई क्षमता का वर्णन करता है; ऑपरेटिंग सिस्टम या हाइपरवाइज़र एक अलग प्रभावी वातावरण प्रदर्शित कर सकता है। एक अवैध-निर्देश त्रुटि के लिए वास्तविक दोषपूर्ण निर्देश और बाइनरी बिल्ड की जांच की भी आवश्यकता होती है, क्योंकि भ्रष्टाचार या एक असंबंधित असमर्थित निर्देश एक समान लक्षण उत्पन्न कर सकता है।
सटीक प्लेटफ़ॉर्म के लिए समर्थित एप्लिकेशन, ड्राइवर या रनटाइम संस्करण इंस्टॉल करें, और यदि आवश्यक हो तो विक्रेता के दस्तावेजीकृत बेसलाइन या फ़ॉलबैक बिल्ड का उपयोग करें। एक सॉफ़्टवेयर अपडेट ऐसा निर्देश नहीं बना सकता जिसकी प्रोसेसर में कमी है। फ़र्मवेयर और सुरक्षा-नीति परिवर्तनों को सामान्य अनुकूलन नुस्खे के बजाय सिस्टम निर्माता की प्रक्रिया और पुनर्प्राप्ति योजना का पालन करना चाहिए।
इस व्याख्या के स्रोत और दायरा
Intel 64 and IA-32 Architectures Software Developer's Manual · Linux कर्नेल: यूजर स्पेस में XSTATE सुविधाओं का उपयोग करना
ये संदर्भ आर्किटेक्चरल व्यवहार और सॉफ़्टवेयर आवश्यकताओं को स्थापित करते हैं। वे किसी लिंक्ड हार्डवेयर मॉडल पेज पर प्रत्येक सुविधा मान को स्वतंत्र रूप से सत्यापित नहीं करते हैं। मॉडल समर्थन के लिए, उस पेज के निर्माता साक्ष्य का उपयोग करें और प्रभावी सिस्टम कॉन्फ़िगरेशन की जांच करें। यह आलेख कोई बेंचमार्क, प्रमाणन या स्वतंत्र समीक्षा तिथि प्रदान नहीं करता है।
स्रोत और सत्यापन
संपादकीय स्वामित्व: Feex। कोई स्वतंत्र समीक्षा तिथि दर्ज नहीं है। हम कैसे शोध करते हैं.
- Intel 64 and IA-32 Architectures Software Developer's Manual · खंड 1 और 2 नामित निर्देश परिवारों और CPUID का वर्णन करते हैं; खंड 3 स्टेट, पेजिंग, VMX और सुरक्षा नियंत्रणों का वर्णन करता है। आर्किटेक्चर दस्तावेज़ किसी विशेष मॉडल के लिए समर्थन स्थापित नहीं करता है।
- Linux कर्नेल: यूजर स्पेस में XSTATE सुविधाओं का उपयोग करना · OS-सक्षम वेक्टर स्थिति, गतिशील रूप से सक्षम टाइल स्थिति, सिग्नल-स्टैक आवश्यकताएं और AMX अनुमति प्रवाह। लिनक्स-विशिष्ट व्यवहार किसी अन्य OS के बारे में वादा नहीं है।
क्या यह लेख उपयोगी था?
हाँ या ना ही काफी है। यदि आप चाहें तो कोई कारण चुनें, या एक संक्षिप्त नोट जोड़ें।
धन्यवाद। इससे हमें इस पृष्ठ को बेहतर बनाने में मदद मिलती है।