Avances en la comprensión de la inteligencia artificial
Un equipo de investigadores del Instituto Tecnológico de Massachusetts (MIT) ha desarrollado un sistema innovador que utiliza modelos de lenguaje de gran tamaño para transformar las explicaciones de la inteligencia artificial en textos narrativos que sean más accesibles para los usuarios. Este avance es crucial, dado que los modelos de aprendizaje automático, aunque poderosos, pueden cometer errores y resultar complicados de interpretar. Las explicaciones que ofrecen suelen ser complejas y abarcan una gran cantidad de características del modelo, lo que dificulta su comprensión, especialmente para aquellos sin formación en aprendizaje automático.
El nuevo sistema, denominado EXPLINGO, se compone de dos partes interrelacionadas. La primera, llamada NARRATOR, se encarga de convertir las explicaciones generadas por el modelo en párrafos de texto comprensible. Para ello, se alimenta inicialmente con ejemplos de explicaciones narrativas, permitiendo que el modelo imite el estilo de redacción deseado. La segunda parte, GRADER, evalúa la calidad de estas narrativas en función de métricas como la concisión, precisión, completitud y fluidez. Esta dualidad permite a los usuarios entender mejor las predicciones de los modelos, además de conocer la fiabilidad de la explicación proporcionada.
Los investigadores han centrado su atención en un tipo popular de explicación de aprendizaje automático conocido como SHAP, que asigna un valor a cada característica utilizada por el modelo para realizar una predicción. Sin embargo, cuando se presentan visualmente, estas explicaciones pueden resultar abrumadoras, especialmente en modelos con más de 100 características. Por ello, al utilizar lenguaje natural, el sistema alivia la carga de seleccionar qué información mostrar. Con este enfoque, los investigadores esperan que, en el futuro, los usuarios puedan interactuar de manera dinámica con estos modelos, planteando preguntas sobre sus predicciones y mejorando así el proceso de toma de decisiones.
