La inteligencia artificial (IA) está ganando terreno en la prestación de servicios sociales públicos en diversos países del mundo. Esta tecnología se utiliza para ayudar en decisiones sobre derechos a pensiones estatales, prestaciones por desempleo, evaluaciones de solicitudes de asilo y asignaciones de plazas en guarderías. El objetivo es aplicar criterios de equidad en la distribución de estos apoyos a los individuos y evaluar a los posibles beneficiarios de manera justa.
No obstante, los criterios de equidad varían notablemente de un país a otro. En India, por ejemplo, el sistema de castas influye en la distribución de beneficios sociales. En China, el acceso a los servicios sociales depende de un puntaje de «buen ciudadano». Además, dentro de Europa, los conceptos de equidad respecto al acceso a recursos públicos limitados muestran diferencias significativas.
Investigación sobre IA y servicios sociales
Estos hallazgos son parte de una investigación participativa llevada a cabo por miembros del proyecto AI FORA (Inteligencia Artificial para la Evaluación), cuyos resultados han sido recientes. El proyecto, coordinado por la Universidad Johannes Gutenberg de Mainz (JGU), se desarrolló durante tres años y medio y contó con la participación de instituciones como el Centro Alemán de Investigación en Inteligencia Artificial, la Universidad de Augsburgo y la Universidad de Surrey en el Reino Unido.
El volumen de investigación, que se encuentra disponible de forma abierta y abarca aproximadamente 300 páginas, compara el estado actual y los escenarios deseados de evaluaciones sociales apoyadas por IA en nueve países de cuatro continentes: Alemania, España, Estonia, Ucrania, Estados Unidos, Nigeria, Irán, India y China. Las investigaciones muestran cómo los criterios para acceder a servicios estatales son determinados por factores culturales y contextuales. Inclusive dentro de una misma sociedad, existen perspectivas muy diversas que están sujetas a una constante reconsideración y negociación. Esto resalta la necesidad de que la producción de tecnología de IA refleje esta diversidad.
Tal como señala la profesora Petra Ahrweiler del Instituto de Sociología de JGU, es fundamental que los sistemas de IA sean flexibles, dinámicos y adaptativos. Su desarrollo debe involucrar la participación de todos los actores sociales, incluyendo a los grupos más vulnerables, con el fin de diseñar tecnologías participativas, sensibles al contexto y justas.
Los investigadores de AI FORA están preparando una nueva publicación donde describirán los resultados de modelado y simulación relevantes para políticas públicas del proyecto. Su objetivo es demostrar cómo se puede mejorar la inteligencia artificial para abordar cuestiones de equidad y discriminación en la asignación de servicios sociales públicos.
Más información: Participatory Artificial Intelligence in Public Social Services. From Bias to Fairness in Assessing Beneficiaries (2025).
