AMX, Advanced Matrix Extensions

آپ کے لیے جاننا کیا ضروری ہے

یہ کیسے کام کرتا ہے

AMX عام YMM/ZMM ویکٹرز کے بجائے کنفیگر شدہ دو جہتی ٹائل رجسٹر استعمال کرتا ہے۔ ٹائل کنفیگریشن فعال اشکال کو بیان کرتی ہے، جبکہ ریاضیاتی ایکسٹینشنز جیسے AMX-INT8 یا AMX-BF16 مخصوص میٹرکس آپریشنز اور عددی فارمیٹس کی وضاحت کرتی ہیں۔ سافٹ ویئر ڈیٹا کو پیک کرتا ہے اور شمار کردہ پیلیٹ کی حدود کے تحت درست شکلوں کا انتخاب کرتا ہے۔

یہ کہاں مفید ہے

ایک میٹرکس لائبریری معاون کرنل کو ٹائل لوڈز، ڈاٹ پروڈکٹ آپریشنز اور ٹائل اسٹورز میں تبدیل کر سکتی ہے۔ پیکنگ کی لاگت، میٹرکس کے طول و عرض اور کیشے کی قربت (cache locality) چھوٹے یا فاسد ورک لوڈز پر غالب آ سکتی ہے۔ ٹائل ہارڈ ویئر ہر نیورل نیٹ ورک آپریٹر کو سرعت (acceleration) کے لیے اہل نہیں بناتا ہے۔

سپورٹ اور فعالی کی جانچ کیسے کریں

CPUID leaf 7 میں AMX-TILE اور ہر مطلوبہ ریاضیاتی ایکسٹینشن کو چیک کریں، ٹائل کی حدود کا تعین کریں اور OS کی فعال حالت کی تصدیق کریں۔ Linux پر، ڈائنامک ٹائل ڈیٹا استعمال کرنے والی ایپلی کیشنز کو دستاویزی ARCH_REQ_XCOMP_PERM کے بہاؤ کی پیروی کرنی چاہیے؛ صرف سپورٹ اور XCR0 بٹس ہی کافی نہیں ہیں۔

ہارڈ ویئر کی دستیابی صرف پہلا قدم ہے۔ ڈرائیور، رن ٹائم، عمل درآمد فراہم کنندہ، معاون آپریٹرز اور عددی فارمیٹ کا ایپلی کیشن سے مطابقت رکھنا ضروری ہے۔ اصل بیک اینڈ کے انتخاب اور فال بیک کا معائنہ کریں بجائے اس کے کہ یہ فرض کیا جائے کہ AI لیبل کا مطلب ہے کہ ہر ماڈل تیز رفتار ہے۔

یہ خصوصیت کیا ثابت نہیں کرتی

AMX کا مطلب AVX-512، ایک عمومی NPU یا ہر AMX ریاضیاتی فارمیٹ نہیں ہے۔ اکیلا CPU بٹ پروسیس کی اجازت یا کافی سگنل اسٹیک اسٹیٹ کو قائم نہیں کرتا ہے۔ غیر معاون ٹائل کی شکلیں یا گمشدہ OS کی اجازت AMX کے قابل مشین پر بھی خرابی (fault) پیدا کر سکتی ہے۔

عملی طور پر مطابقت اور کارکردگی

بیان کردہ حالات کے تحت مکمل ورک لوڈز کا موازنہ کریں، بشمول کمپائلیشن، ٹرانسفرز اور غیر معاون آپریٹرز۔ فی سیکنڈ زیادہ سے زیادہ آپریشنز کا انحصار درستگی اور گنتی کے مفروضوں پر ہوتا ہے۔ وہ ناپی گئی تاخیر، تھرو پٹ، توانائی یا ماڈل کی درستگی کا متبادل نہیں ہیں۔

عملی تصدیقی چیک لسٹ

1. پروسیسر یا پلیٹ فارم کا اصل ماڈل اور شامل ایپلی کیشن، OS اور رن ٹائم کے ورژنز ریکارڈ کریں۔ اصل خرابی یا ضرورت کے الفاظ کو جوں کا توں محفوظ رکھیں۔
2. اس مخصوص ماڈل کے لیے مینوفیکچرر کے حوالے کو چیک کریں، پھر اس ماحول میں مؤثر صلاحیت اور فعال حالت کا معائنہ کریں جہاں پروگرام چلتا ہے۔
3. منتخب کردہ بائنری یا بیک اینڈ کی ہر ضرورت کا موازنہ کریں۔ ملتے جلتے نام کی خصوصیت، عرفیت یا وسیع ٹیکنالوجی لیبل کافی نہیں ہے۔
4. تصدیق کریں کہ ایپلی کیشن نے مطلوبہ عمل درآمد کا انتخاب کیا ہے۔ اس کی دستاویزی تشخیص اور معاون متبادل کا استعمال کریں جب ضروریات پوری نہ ہوں۔
5. ایک وقت میں ایک معاون تبدیلی کریں اور وہی ورک لوڈ دہرائیں۔ اصل کنفیگریشن اور بحالی کا راستہ دستیاب رکھیں۔

اگر خصوصیت درج ہے لیکن سافٹ ویئر اسے استعمال نہیں کر سکتا

فیل ہونے والے اصل جزو سے شروعات کریں۔ ہارڈ ویئر ڈیٹا بیس ریکارڈ شدہ صلاحیت کو بیان کرتا ہے؛ آپریٹنگ سسٹم یا ہائپروائزر ایک مختلف مؤثر ماحول فراہم کر سکتا ہے۔ ایک غیر قانونی ہدایت کی خرابی (illegal-instruction error) میں بھی اصل خرابی پیدا کرنے والی ہدایت اور بائنری بلڈ کی تحقیقات کی ضرورت ہوتی ہے، کیونکہ کرپشن یا ایک غیر متعلقہ غیر معاون ہدایت ایسی ہی علامت پیدا کر سکتی ہے۔

مخصوص پلیٹ فارم کے لیے معاونت یافتہ ایپلی کیشن، ڈرائیور یا رن ٹائم ورژن انسٹال کریں، اور اگر ضرورت ہو تو وینڈر کا دستاویزی بنیادی یا فال بیک بلڈ استعمال کریں۔ سافٹ ویئر اپ ڈیٹ ایسی ہدایت تیار نہیں کر سکتا جس کی پروسیسر میں کمی ہو۔ فرم ویئر اور سیکیورٹی پالیسی کی تبدیلیوں کو عام اصلاحی طریقے کے بجائے سسٹم مینوفیکچرر کے طریقہ کار اور بحالی کے منصوبے پر عمل کرنا چاہیے۔

متعلقہ خصوصیات اور مفید امتیازات

AVX-VNNI · Deep Learning Boost · نیورل پروسیسنگ یونٹ (NPU) · XSAVE

اس وضاحت کے ذرائع اور دائرہ کار

Intel 64 and IA-32 Architectures Software Developer's Manual · Linux kernel: user space میں XSTATE خصوصیات کا استعمال

یہ حوالہ جات آرکیٹیکچرل رویے اور سافٹ ویئر کی ضروریات کو قائم کرتے ہیں۔ وہ لنک شدہ ہارڈ ویئر ماڈل کے صفحے پر ہر خصوصیت کی قدر کی آزادانہ طور پر تصدیق نہیں کرتے ہیں۔ ماڈل کی سپورٹ کے لیے، اس صفحے کے مینوفیکچرر کے ثبوت استعمال کریں اور مؤثر سسٹم کنفیگریشن چیک کریں۔ یہ مضمون بینچ مارک، سرٹیفیکیشن یا آزادانہ جائزے کی تاریخ فراہم نہیں کرتا ہے۔

متعلقہ

یہ اینٹیٹیز اس مضمون سے مربوط ہیں۔ ہر لنک پر قسم دکھائی گئی ہے۔

ذرائع اور توثیق

ادارتی ملکیت: Feex۔ آزادانہ جائزے کی کوئی تاریخ ریکارڈ نہیں کی گئی ہے۔ ہم تحقیق کیسے کرتے ہیں.

• Intel 64 and IA-32 Architectures Software Developer's Manual · جلد 1 اور 2 نامزد انسٹرکشن فیملیز اور CPUID کی وضاحت کرتی ہیں؛ جلد 3 اسٹیٹ، پیجنگ، VMX اور پروٹیکشن کنٹرولز کی وضاحت کرتی ہے۔ آرکیٹیکچر کی دستاویزات کسی خاص ماڈل کے لیے سپورٹ کا تعین نہیں کرتیں۔
• Linux kernel: user space میں XSTATE خصوصیات کا استعمال · OS کے زیر انتظام ویکٹر اسٹیٹ، ڈائنامک طور پر فعال ٹائل اسٹیٹ، سگنل اسٹیک کی ضروریات اور AMX اجازت کا بہاؤ۔ Linux کا مخصوص رویہ کسی دوسرے OS کے بارے میں کوئی وعدہ نہیں ہے۔