¿Qué es Intel® Deep Learning Boost (Intel® DL Boost)?

La segunda generación de procesadores escalables Intel® Xeon® introdujo un conjunto de características para aprendizaje profundo, que se ofrecen en conjunto como Intel® Deep Learning Boost. Entre las características se encuentra Vector Neural Network Instructions (VNNI), que aumenta el procesamiento para las aplicaciones de inferencia y es compatible con convoluciones INT8, al combinar las instrucciones automáticas múltiples de generaciones anteriores en una sola instrucción automática.

Más información

Primeros resultados de inferencia de MLPerf

Descripción técnica de VNNI

Marcos y herramientas

Estos marcos y herramientas incluyen asistencia técnica para Intel DL Boost en procesadores escalables Intel® Xeon® de segunda y tercera generación.

Cuantificación de modelos

La mayoría de los modelos de aprendizaje profundo se desarrollan utilizando precisión de punto flotante de 32 bits (FP32). La cuantificación es el proceso para representar el modelo utilizando menos memoria con una mínima pérdida de precisión. En este contexto, el foco principal es la representación en INT8.