跳至內容

AMX，進階矩陣擴充

架構參考資料Feex

亦稱為 AMX、AMX (Advanced Matrix Extensions)

Intel AMX 為 x86 增加了以圖塊（tile）為基礎的矩陣運算功能。AMX-TILE 和算術擴充具有各自獨立的功能位元，且 OS 必須管理龐大的圖塊狀態。

您需要瞭解的資訊

Intel AMX 為 x86 增加了以圖塊（tile）為基礎的矩陣運算功能。AMX-TILE 和算術擴充具有各自獨立的功能位元，且 OS 必須管理龐大的圖塊狀態。

運作方式

AMX 使用已設定的二維圖塊暫存器，而非一般的 YMM/ZMM 向量。圖塊設定描述了使用中的形狀，而 AMX-INT8 或 AMX-BF16 等算術擴充則定義了特定的矩陣運算和數值格式。軟體會在列舉的調色盤（palette）限制內封裝資料並選擇有效形狀。

適用場景

矩陣函式庫可以將受支援的核心降階（lower）為圖塊載入、點積運算和圖塊儲存。封裝成本、矩陣維度和快取區域性可能會主導小型或不規則工作負載的效能。圖塊硬體並不能讓所有神經網路運算子都符合加速資格。

如何檢查支援與啟用狀態

在 CPUID leaf 7 中檢查 AMX-TILE 及每個所需的算術擴充，列舉圖塊限制並確認 OS 啟用狀態。在 Linux 上，使用動態圖塊資料的應用程式必須遵循記載的 ARCH_REQ_XCOMP_PERM 流程；僅有硬體支援和 XCR0 位元是不夠的。

具備硬體只是第一步。驅動程式、執行階段、執行提供者、受支援運算子和數值格式必須與應用程式相符。請檢查實際的後端選擇和後備機制，而非假設有 AI 標籤就意味著每個模型都能獲得加速。

該功能未涵蓋的範疇

AMX 並不意味著具備 AVX-512、通用 NPU 或支援所有 AMX 算術格式。單憑 CPU 位元無法確立處理程序權限或足夠的信號堆疊狀態。在具備 AMX 能力的機器上，不支援的圖塊形狀或缺少 OS 權限仍可能導致錯誤中斷。

實務中的相容性與效能

在規定條件下比較完整的工作負載，包括編譯、傳輸和不受支援的運算子。每秒峰值運算次數取決於精度和計數假設。它們不能替代測得的延遲、輸送量、能耗或模型準確度。

實用驗證檢查清單

  1. 記錄所涉及的確切處理器或平台型號，以及應用程式、OS 和執行階段版本。保留實際錯誤或需求的確切措辭。
  2. 檢查該確切型號的原廠參考資料，然後在程式執行的環境中檢查有效功能和啟用狀態。
  3. 比對所選二進位檔或後端的所有需求。僅憑名稱相似的功能、別名或廣泛的技術標籤是不夠的。
  4. 確認應用程式已選擇預期的實作方式。當需求未獲滿足時，請使用其記載的診斷工具和受支援的後備機制。
  5. 一次進行一項受支援的變更，並重複執行相同的負載。隨時保留原始設定和復原途徑。

如果列出該功能但軟體無法使用

從確切發生失敗的元件著手。硬體資料庫描述的是記錄的硬體能力；作業系統或 Hypervisor 可能呈現不同的有效環境。非法指令錯誤同樣需要調查實際出錯的指令和二進位建置版本，因為損毀或無關的不受支援指令也可能產生類似的症狀。

安裝適用於該確切平台的受支援應用程式、驅動程式或執行階段版本，並在需要時使用廠商記載的基準建置版本或後備建置版本。軟體更新無法無中生有地創造處理器所缺乏的指令。韌體與安全性原則的變更應遵循系統製造商的程序和復原計劃，而非泛用的最佳化偏方。

本說明的來源與範圍

Intel 64 和 IA-32 架構軟體開發者手冊 · Linux 核心：在使用者空間中使用 XSTATE 功能

這些參考資料確立了架構行為和軟體需求。它們不會獨立驗證連結硬體型號頁面上的每個功能數值。有關型號支援，請使用該頁面的製造商實證並檢查有效系統組態。本文不提供效能基準測試、認證或獨立審查日期。

來源與驗證

編輯權限：Feex。未記錄獨立審查日期。 我們的研究方式.

這篇文章實用嗎？

只要回答「是」或「否」即可。您也可以依意願選擇原因，或附上簡短說明。

這篇文章實用嗎？