El impacto del hardware en la equidad de las redes neuronales artificiales
En las últimas décadas, los científicos informáticos han desarrollado una amplia variedad de redes neuronales profundas (DNN) para abordar diversas tareas del mundo real. Aunque muchos de estos modelos han demostrado ser altamente efectivos, algunos estudios han revelado que pueden ser injustos, lo que significa que su rendimiento puede variar según los datos con los que fueron entrenados y, en particular, en función de las plataformas de hardware en las que se implementan. Por ejemplo, se ha observado que las herramientas de reconocimiento facial basadas en aprendizaje profundo tienen una eficacia notablemente mayor en el reconocimiento de características de individuos de piel clara en comparación con aquellos de piel más oscura. Estas variaciones en el rendimiento de la inteligencia artificial, en gran medida atribuibles a las disparidades en los datos de entrenamiento, han motivado esfuerzos para mejorar la equidad de los modelos existentes.
Investigadores de la Universidad de Notre Dame han llevado a cabo un estudio para investigar cómo los sistemas de hardware pueden contribuir a la equidad de la inteligencia artificial. Su trabajo, publicado en la revista *Nature Electronics*, identifica formas en que los nuevos diseños de hardware, como los dispositivos de computación en memoria (CiM), pueden influir en la equidad de las DNN. Según Yiyu Shi, uno de los coautores del estudio, existe una necesidad urgente de abordar la equidad en la inteligencia artificial, especialmente en áreas críticas como la atención médica, donde los sesgos pueden causar daños significativos. A pesar de que gran parte de la investigación se ha centrado en la equidad de los algoritmos, el papel del hardware en la influencia de esta equidad ha sido en gran medida ignorado.
En su estudio, los investigadores realizaron experimentos para explorar cómo el diseño del hardware afecta la equidad de las redes neuronales. Descubrieron que las redes neuronales más grandes y complejas, que generalmente requieren más recursos de hardware, tienden a exhibir una mayor equidad. Sin embargo, estos modelos más efectivos son más difíciles de implementar en dispositivos con recursos limitados. A partir de sus hallazgos, propusieron estrategias para aumentar la equidad de la inteligencia artificial sin que ello implique un desafío computacional significativo, como la compresión de modelos más grandes para mantener su rendimiento mientras se limita su carga computacional. Además, sugirieron el uso de estrategias de entrenamiento que introducen ruido controlado durante el proceso de entrenamiento, lo que mejora tanto la robustez como la equidad de los modelos sin un aumento considerable en sus demandas computacionales. Este enfoque destaca la importancia de considerar tanto el diseño de las estructuras de los modelos de inteligencia artificial como las plataformas de hardware en las que serán implementados, buscando un equilibrio adecuado entre precisión y equidad.
