AVX-VNNI

Lo que necesita saber

Cómo funciona

La extensión AVX-VNNI original incluye operaciones de multiplicación y acumulación de bytes y palabras en vectores de 128 bits o 256 bits. Por ejemplo, VPDPBUSD multiplica bytes sin signo por bytes con signo, suma grupos en palabras dobles y acumula en el destino. Las variantes con saturación tienen su propio comportamiento frente a desbordamientos. La cuantización y el signo deben coincidir con la operación seleccionada.

Dónde resulta útil

Una biblioteca de redes neuronales puede utilizar estos productos escalares para un kernel de matrices cuantizadas tras empaquetar pesos y seleccionar una implementación en tiempo de ejecución adecuada. La conversión de datos, las escalas, los puntos cero y el movimiento de memoria siguen siendo relevantes. Un producto interno más rápido no garantiza la precisión global del modelo ni la latencia de la aplicación.

Cómo comprobar la compatibilidad y la habilitación

Compruebe el estado de AVX habilitado y, a continuación, el bit 4 de CPUID.07H.01H:EAX para la extensión AVX-VNNI original, tras verificar los rangos de hojas y subhojas admitidos. Compruebe bits independientes para variantes posteriores. Confirme que la biblioteca haya seleccionado su ruta VEX correspondiente en lugar de una ruta AVX-512.

El programa debe contener una implementación adecuada y seleccionarla en tiempo de ejecución. La enumeración de hardware, el estado de registros habilitado por el sistema operativo y la línea base de compilación del binario son comprobaciones independientes. Una máquina virtual puede exponer deliberadamente menos funciones que su anfitrión, y un contenedor no añade instrucciones a la CPU anfitriona.

Lo que la función no establece

AVX-VNNI no implica AVX-512, AMX, todas las extensiones VNNI posteriores ni la compatibilidad con todos los tipos de enteros. AVX-VNNI-INT8 y AVX-VNNI-INT16 tienen una enumeración de características independiente y no deben inferirse a partir del bit original de AVX-VNNI.

Compatibilidad y rendimiento en la práctica

Mida la carga de trabajo completa con datos representativos. Unos vectores más anchos pueden reducir el recuento de instrucciones dejando inalterados el tráfico de memoria, la sincronización o los costes de conversión. La latencia de las instrucciones, el rendimiento y el comportamiento energético dependen de la microarquitectura exacta y de las condiciones de funcionamiento.

Lista de comprobación práctica para la verificación

1. Registre el modelo exacto de procesador o plataforma, así como las versiones de la aplicación, el sistema operativo y el entorno de ejecución involucrados. Conserve la redacción del error o requisito real.
2. Consulte la referencia del fabricante para ese modelo exacto y, a continuación, inspeccione la capacidad efectiva y el estado habilitado en el entorno donde se ejecuta el programa.
3. Compare cada requisito del binario o backend seleccionado. Una función con nombre similar, un alias o una etiqueta de tecnología general no son suficientes.
4. Confirme que la aplicación haya seleccionado la implementación prevista. Utilice sus diagnósticos documentados y una alternativa compatible cuando no se cumplan los requisitos.
5. Realice un cambio admitido a la vez y repita la misma carga de trabajo. Mantenga disponibles la configuración original y la vía de recuperación.

Si la función aparece listada pero el software no puede usarla

Comience con el componente exacto que falla. Una base de datos de hardware describe la capacidad registrada; el sistema operativo o el hipervisor pueden exponer un entorno efectivo diferente. Un error de instrucción no válida también requiere investigar la instrucción que generó el fallo y la compilación del binario en sí, ya que la corrupción o una instrucción no compatible no relacionada pueden producir un síntoma similar.

Instale la versión de la aplicación, controlador o entorno de ejecución compatible con la plataforma exacta, y utilice la compilación de referencia o de contingencia documentada por el fabricante si es necesario. Una actualización de software no puede crear una instrucción de la que el procesador carece. Los cambios de firmware y directivas de seguridad deben seguir el procedimiento del fabricante del sistema y un plan de recuperación, en lugar de una fórmula de optimización genérica.

Funciones relacionadas y distinciones útiles

AVX2 · Deep Learning Boost · AMX, Advanced Matrix Extensions · Unidad de procesamiento neuronal (NPU)

Fuentes y alcance de esta explicación

Intel 64 and IA-32 Architectures Software Developer's Manual · Linux kernel: using XSTATE features in user space

Estas referencias establecen el comportamiento arquitectónico y los requisitos de software. No verifican de forma independiente cada valor de función en la página de un modelo de hardware vinculado. Para conocer la compatibilidad de un modelo, consulte las pruebas del fabricante en dicha página y compruebe la configuración efectiva del sistema. Este artículo no proporciona una prueba de rendimiento, certificación ni fecha de revisión independiente.

Relacionado

Estas entidades se conectan a este artículo. El tipo se muestra en cada enlace.

Fuentes y verificación

Titularidad editorial: Feex. No se registra ninguna fecha de revisión independiente. Cómo investigamos.

• Intel 64 and IA-32 Architectures Software Developer's Manual · Los volúmenes 1 y 2 describen las familias de instrucciones designadas y CPUID; el volumen 3 describe el estado, la paginación, VMX y los controles de protección. La documentación de la arquitectura no establece la compatibilidad con un modelo en particular.
• Linux kernel: using XSTATE features in user space · Estado de vector habilitado por el sistema operativo, estado de mosaico habilitado dinámicamente, requisitos de pila de señales y flujo de permisos AMX. El comportamiento específico de Linux no es una garantía sobre otro sistema operativo.