La creciente preocupación por la sexualización de menores en línea
En las últimas semanas, un escándalo de alcance global ha surgido en torno a la inteligencia artificial Grok, de X (anteriormente conocido como Twitter). Imágenes sexualizadas de menores han circulado a través de esta plataforma, generando una fuerte reacción en la sociedad y en diversos gobiernos. Se han reportado casos donde usuarios han solicitado que se desnudaran imágenes de menores, así como situaciones en las que la propia herramienta ha generado fotos sexualizadas sin requerir tal petición. Esta problemática no solo afecta a Elon Musk, propietario de la plataforma, sino que también refleja un fenómeno más amplio, ya que existen múltiples aplicaciones diseñadas específicamente para desvestir imágenes mediante inteligencia artificial. La cuestión ahora es cómo abordar la sexualización de menores en el entorno digital.
Los expertos en derecho consultados apuntan que la respuesta más efectiva es actuar en casos concretos donde haya víctimas o perpetradores dentro del territorio español. Sin embargo, reconocen que es complicado luchar contra grandes plataformas como X debido a su tamaño y poder. Se subraya la necesidad de tomar medidas contundentes, especialmente contra aquellas aplicaciones cuyo objetivo principal es la desnudación de imágenes, lo que, en muchos casos, representa un delito. En este contexto, el Consejo de Ministros ha dado un paso hacia adelante al aprobar un anteproyecto de ley que actualiza la normativa de 1982 sobre la protección de la imagen y la intimidad, incorporando específicamente las manipulaciones realizadas con inteligencia artificial, conocidas como deepfakes.
La situación es alarmante. En 2024, el Centro Nacional para Niños Desaparecidos y Explotados en Estados Unidos recibió 67.000 denuncias relacionadas con material de abuso sexual infantil generado por inteligencia artificial, lo que representa un aumento del 1.325% en comparación con 2023. Aunque no hay cifras concretas sobre España, se han iniciado numerosas causas penales por delitos contra la libertad sexual en el ámbito digital, muchas de las cuales involucran a menores. La proliferación de imágenes sexualizadas de menores ha llevado al Ministerio de Juventud e Infancia a solicitar una investigación sobre Grok, evidenciando la preocupación creciente sobre este tema. Sin embargo, el marco legal actual presenta limitaciones a la hora de perseguir el contenido, lo que plantea un desafío significativo para las autoridades y la sociedad en general.
