Precision-Aware Variable Bit Processing Elements for Hardware-Efficient Systolic Array Designs

En el mundo moderno, nuestros dispositivos digitales están realizando constantemente una vasta cantidad de cálculos para reconocer rostros en fotografías, traducir idiomas o navegar por el tráfico. En el corazón de estas tareas se encuentra un tipo específico de operación matemática llamada multiplicación, la cual es esencial para procesar los complejos patrones que se encuentran en las imágenes y los datos. Durante décadas, los ingenieros han construido chips de computadora para realizar estas multiplicaciones con extrema precisión, asegurando que cada uno de los dígitos de un número se calcule exactamente como lo haría en un papel. Este enfoque garantiza la exactitud, pero tiene un costo: los circuitos necesarios para mantener esta precisión perfecta son grandes, consumen cantidades significativas de electricidad y generan calor. A medida que nuestra necesidad de una computación más rápida y potente crece, los límites físicos para hacer estos circuitos más pequeños se están alcanzando, creando un cuello de botella para la tecnología futura.

Ha surgido una filosofía diferente para resolver este problema, una que acepta una pequeña y controlada cantidad de error a cambio de ganancias masivas en velocidad y eficiencia. Este concepto, conocido como computación aproximada, opera bajo la idea de que para muchas tareas del mundo real, como identificar un gato en una fotografía o comprimir un archivo de video, el ojo y el cerebro humanos no pueden detectar las pequeñas diferencias causadas por una matemática ligeramente imprecisa. Si una computadora puede saltarse las partes más difíciles de un cálculo, puede terminar el trabajo mucho más rápido utilizando mucha menos energía. El desafío para los investigadores ha sido determinar exactamente cuánta precisión se puede sacrificar sin arruinar el resultado final, un acto de equilibrio que requiere navegar por un vasto paisaje de posibles decisiones de diseño.

Un equipo de investigadores ha abordado este desafío diseñando un nuevo tipo de acelerador de hardware específicamente para estas tareas tolerantes al error. Se centraron en una estructura llamada matriz sistólica, que es esencialmente una cuadrícula de pequeñas unidades de procesamiento que pasan datos entre sí como una onda, realizando multiplicaciones de matrices de manera eficiente. Los investigadores se dieron cuenta de que la parte que más energía consume de esta cuadrícula es el multiplicador dentro de cada unidad. En lugar de construir cada multiplicador para que sea perfecto, desarrollaron un método para crear multiplicadores "imperfectos" que son estratégicamente defectuosos. Al omitir intencionalmente los bits menos importantes de un número durante el cálculo y utilizar circuitos especializados que introducen pequeños errores opuestos, crearon un sistema donde los errores se cancelan entre sí. Esto permite que el hardware siga siendo increíblemente eficiente mientras produce resultados que son lo suficientemente precisos para un uso práctico.

Para encontrar el equilibrio perfecto entre velocidad y precisión, los investigadores no recurrieron a las conjeturas. Emplearon un poderoso algoritmo de búsqueda que imita el proceso de la evolución natural para explorar millones de posibles configuraciones de diseño. Imagine una vasta biblioteca que contiene cada forma concebible de construir estos multiplicadores imperfectos; el algoritmo probó sistemáticamente combinaciones, manteniendo los diseños que ofrecían los mejores compromisos y descartando aquellos que eran demasiado inexactos o no lo suficientemente eficientes. Probaron estos diseños a través de tres formatos diferentes estándar para el manejo de números, que van desde el formato de alta precisión utilizado en la computación científica hasta formatos más compactos diseñados específicamente para la inteligencia artificial. El objetivo era ver si podían adaptar el nivel de imperfección a las necesidades específicas de la tarea en cuestión.

Los resultados de esta exploración fueron sorprendentes. Cuando los investigadores aplicaron sus diseños optimizados e imperfectos a tareas de procesamiento de imágenes, como suavizar el ruido en una fotografía o comprimir una imagen para su almacenamiento, el hardware se volvió significativamente más pequeño y rápido. En algunos casos, los nuevos diseños redujeron el tamaño físico del chip hasta en un 92 por ciento y recortaron el consumo de energía en tanto como un 93 por ciento en comparación con las versiones tradicionales perfectamente precisas. Sorprendentemente, estos ahorros masivos no se produjeron a costa de la calidad visible; las imágenes producidas por el hardware aproximado eran virtualmente indistinguibles de las hechas por el hardware exacto, manteniendo un alto nivel de fidelidad visual.

Los hallazgos fueron aún más convincentes cuando se aplicaron a modelos de inteligencia artificial utilizados para el reconocimiento de patrones. Los investigadores probaron sus diseños en conjuntos de datos estándar que contenían miles de imágenes de dígitos escritos a mano, prendas de vestir y objetos cotidianos. En varias instancias, el uso de estos multiplicadores aproximados de hecho mejoró el rendimiento de la inteligencia artificial. Por ejemplo, un modelo entrenado para reconocer prendas de vestir logró una tasa de precisión más alta utilizando el hardware imperfecto que cuando utilizaba el hardware perfecto. Este resultado contraintuitivo sugiere que la pequeña cantidad de ruido introducida por la aproximación podría ayudar a la computadora a generalizar mejor, de manera similar a cómo un cerebro humano podría ignorar detalles menores para reconocer un rostro más rápidamente. Para el conjunto de datos más complejo probado, los diseños aproximados de mejor desempeño ofrecieron ahorros de hardware de hasta un 92 por ciento en tamaño y un 93 por ciento en potencia, mientras entregaban una precisión de clasificación comparable o incluso superior a los métodos exactos.

Este trabajo demuestra que el camino hacia una computación más eficiente no siempre requiere la construcción de herramientas mejores y más precisas. En cambio, se puede encontrar comprendiendo dónde es realmente necesaria la precisión y dónde se puede relajar de forma segura. Al utilizar un proceso de búsqueda inteligente para diseñar hardware que es "suficientemente bueno" en lugar de perfecto, los investigadores han demostrado que es posible construir chips de computadora que son drásticamente más pequeños, rápidos y eficientes energéticamente. Estos diseños están ahora disponibles para que otros ingenieros los utilicen, ofreciendo una nueva forma de construir la próxima generación de dispositivos que puedan manejar las crecientes demandas de la inteligencia artificial sin agotar nuestros recursos energéticos. El estudio confirma que, en el mundo de la computación, a veces un poco de error es exactamente lo que se necesita para que el sistema funcione mejor.