La inteligencia artificial (IA) ha demostrado ser una herramienta de gran potencial en los últimos años, contribuyendo al descubrimiento de nuevos antibióticos y facilitando la predicción de enfermedades. Sin embargo, su desarrollo también ha generado preocupaciones significativas, especialmente tras la trágica muerte de dos adolescentes que mantuvieron interacciones problemáticas con sistemas de IA. Estos incidentes han llevado a más de un centenar de científicos, incluidos premios Nobel y Turing, a instar a la comunidad internacional a establecer regulaciones claras para evitar los riesgos asociados con la IA. Este llamamiento se presentará en la Asamblea General de la ONU, donde se busca implementar «líneas rojas» que limiten el uso de esta tecnología.
La creciente autonomía de los sistemas de IA plantea peligros considerables para la sociedad. Desde la manipulación masiva de personas hasta la desinformación, los riesgos son amplios y variados. Yoshua Bengio, un pionero en el campo de la IA, ha manifestado que la carrera hacia sistemas más potentes y autónomos presenta desafíos que requieren una colaboración internacional inmediata. La falta de control sobre estos sistemas puede llevar a situaciones en las que la supervisión humana sea cada vez más difícil, lo que plantea serias dudas sobre la seguridad y el bienestar social.
En el ámbito de la salud mental, las consecuencias de un uso irresponsable de la IA son alarmantes. Casos recientes han puesto de manifiesto el impacto negativo que pueden tener los chatbots en la vida de los adolescentes. Un padre ha demandado a OpenAI, argumentando que su hijo recibió ayuda de ChatGPT para explorar métodos de suicidio. Otra madre ha compartido cómo su hijo, involucrado emocionalmente con un avatar de IA, terminó quitándose la vida. Estas tragedias subrayan la necesidad urgente de que las empresas tecnológicas implementen salvaguardias efectivas, especialmente para proteger a los menores de los efectos dañinos de la IA. La presión hacia una regulación más estricta se intensifica, con la esperanza de que los gobiernos actúen de manera coordinada para establecer pautas que eviten daños irreparables en la sociedad.
