El uso de la inteligencia artificial en la administración pública: reflexiones de Juli Ponce Solé
Juli Ponce Solé, catedrático de Derecho Administrativo en la Universitat de Barcelona, ha publicado recientemente un manual que aborda el uso adecuado y responsable de la inteligencia artificial (IA) en las administraciones públicas. Su obra, titulada «El reglamento de inteligencia artificial de la Unión Europea de 2024, el derecho a una buena administración digital y su control judicial en España», pone de manifiesto la complejidad del impacto de la IA en el sector público. Ponce Solé subraya que, aunque la IA puede ser una herramienta útil, su falta de empatía y emociones la hace insuficiente para tomar decisiones que afectan directamente a los seres humanos. Este aspecto se convierte en una preocupación central, especialmente en un ámbito donde las decisiones pueden tener consecuencias significativas.
El profesor destaca que los funcionarios públicos se encuentran en una situación de incertidumbre respecto al uso de herramientas de IA, ya que actualmente no existen protocolos claros o directrices éticas para su implementación. En este contexto, cada servidor público actúa según su criterio, lo que genera un panorama de descontrol que podría dar lugar a decisiones erróneas. Ponce Solé enfatiza que la IA debe ser utilizada con respeto y prudencia, especialmente considerando la legislación sobre protección de datos. A su juicio, es fundamental que los altos cargos en la administración pública no deleguen completamente en la IA, dado que esta tecnología aún presenta limitaciones significativas.
Asimismo, la relación entre la inteligencia artificial y la toma de decisiones humanas plantea dilemas éticos que deben ser abordados. Ponce Solé argumenta que, aunque los humanos también cometen errores, la IA tiene la capacidad de replicar estos errores a gran escala. Esta escalabilidad puede resultar peligrosa si no se regula adecuadamente. La propuesta del reglamento europeo indica que la decisión final debe ser siempre humana, sugiriendo que la IA debe actuar como asistente y no como decisor. Este enfoque equilibrado podría ayudar a mitigar los riesgos inherentes a la automatización excesiva y garantizar que la responsabilidad de las decisiones recaiga en los seres humanos, quienes poseen la capacidad de empatizar y considerar el contexto de cada situación.
