La vida de las personas está más entrelazada que nunca con los sistemas digitales, lo que incrementa la vulnerabilidad y la inseguridad de los usuarios. Desde filtraciones de datos como la brecha de Equifax en 2017 hasta el reciente ciberataque a la cadena británica Marks & Spencer, las operaciones empresariales y los datos en internet siguen siendo vulnerables.
Existen razones de peso para creer que poco se hará respecto a estos riesgos hasta que se produzca una crisis social de gran magnitud. Mi investigación sugiere que hay fallos significativos en nuestros enfoques actuales sobre el riesgo y la innovación. Las tecnologías digitales remodelan la vida social a través de nuevas tecnologías, plataformas de comunicación y formas de inteligencia artificial, que, aunque poderosas, son altamente riesgosas en términos de mal funcionamiento y vulnerabilidad a la manipulación.
Un experimento social masivo
La economía digital incluye «aquellos negocios que dependen cada vez más de la tecnología de la información, los datos y el internet para sus modelos de negocio». Las empresas que dominan esta economía están llevando a cabo un experimento social masivo, donde retienen la mayor parte de los beneficios mientras trasladan los riesgos a la sociedad en su conjunto.
Esto podría conducir a una crisis digital sistémica, que abarcaría desde un colapso generalizado de infraestructuras básicas, como la electricidad o las telecomunicaciones debido a un ciberataque, hasta un ataque que modifique la infraestructura existente para hacerla peligrosa. Las similitudes entre la trayectoria actual de la economía digital y la crisis financiera de 2008 son significativas. En particular, lo que estamos viendo en el mundo digital, que ya se observó en el mundo financiero antes de la crisis, es lo que el sociólogo estadounidense Charles Perrow denominó «acoplamiento estrecho».
Perrow argumenta que cuando los sistemas exhiben altos niveles de interconexión sin suficiente redundancia para compensar los fallos, pueden llevar a consecuencias catastróficas. Asimismo, se considera que los altos niveles de complejidad hacen que los sistemas interconectados sean más riesgosos. Los riesgos y conexiones no anticipados pueden provocar fallos en cascada a través del sistema.
La economía digital actual comparte muchas de estas características. Su modelo de negocio se centra en el crecimiento rápido y masivo de las empresas. El camino hacia la crisis financiera de 2008 y la economía digital contemporánea comparten la amplificación de la interdependencia junto con la reducción de la redundancia. En el caso de las finanzas, esto se realizó mediante un endeudamiento masivo para apalancar ganancias, dejando una menor proporción de dinero disponible para cubrir posibles pérdidas.
En la economía digital, esta necesidad de recopilar datos constantemente incrementa las interdependencias entre conjuntos de datos, plataformas, corporaciones y redes. Este aumento de la interdependencia es fundamental para el modelo de negocio de la economía digital. La disminución de la redundancia en el ámbito digital se manifiesta en la filosofía de «moverse rápido y romper cosas», donde las empresas digitales eliminan o adquieren competidores rápidamente, eliminando alternativas analógicas a sus propias redes digitales. Por último, estos gigantes digitales y su crecimiento acelerado aumentan la complejidad de la economía digital y de las redes monopolísticas que la dominan.
Una diferencia clave entre la crisis financiera de 2008 y la economía digital contemporánea es que, a diferencia de la situación previa a la crisis, donde una prosperidad impulsada en parte por las finanzas silenciaba cualquier señal de advertencia, en la economía digital las señales de advertencia son evidentes para todos. Los ataques de malware WannaCry y NotPetya en 2017 causaron miles de millones de dólares en daños. Más recientemente, la falla de CrowdStrike en 2024 canceló miles de vuelos y afectó incluso a estaciones de televisión. Hacks constantes, ataques de ransomware y filtraciones de datos son señales de que este es un sistema profundamente frágil.
La inteligencia artificial ha llevado muchas de estas vulnerabilidades al límite, añadiendo nuevos riesgos, como las alucinaciones de IA y el crecimiento exponencial de la desinformación. La velocidad y la escala de la IA se espera que intensifiquen los riesgos existentes en términos de confidencialidad, integridad del sistema y disponibilidad. Este es posiblemente el elemento más significativo, aunque desafortunado, de esta historia. Existe un riesgo sistémico masivo que no se aborda directamente, y los procesos que aumentan estos riesgos continúan acelerándose.
Esto sugiere un problema más profundo en nuestra política. Aunque tenemos cierta capacidad para regular después de que se ha causado el daño, luchamos por prevenir la próxima crisis.
