Con la IA, decir “ya te lo dije” será demasiado tarde

Todos deberíamos hacerlo. Cuando los riesgos son desconocidos, potencialmente enormes y además difíciles de contener, eso es lo más racional. La pregunta, más bien, es cómo hacerlo de manera efectiva. Eso va a ser difícil, tanto práctica como políticamente. Pero tenemos que empezar a pensar en ello.

Los escépticos se preguntan, naturalmente (y con razón), qué hay detrás de estas peticiones de los líderes de la industria. Una posibilidad es que simplemente quieran frenar la enormemente costosa carrera en la que están inmersos. Otra es que tengan la esperanza de crear un cártel cómodo, con reguladores bajo su influencia, y así poder dominar la industria de manera aún más segura. Una tercera posibilidad es que sólo deseen evitar la regulación externa. O tal vez quieran enfatizar su importancia para la seguridad nacional. Estas sospechas son naturales. Sin embargo, otros sectores con capacidad para causar un enorme daño —como la banca, la fabricación de medicamentos y la energía nuclear— están regulados, y con razón.

Dario Amodei, cofundador y director ejecutivo de Anthropic.

AFP

El propio Amodei sugiere tres medidas: en primer lugar, contar con “evaluadores integrados cuya función sea verificar el cumplimiento de las prácticas y compromisos de seguridad, reportar incidentes y ayudar a evaluar la alineación no sólo de los modelos de IA ya completados, sino también de los flujos y procesos de entrenamiento”; en segundo lugar, una "coordinación democrática", en la que se les permitiría a las compañías líderes trabajar juntas “para establecer normas de seguridad comunes, así como límites al ritmo de avance incontrolado de la IA”; y, en tercer lugar, una “coordinación global”, en la que los Gobiernos democráticos intenten trabajar “con gobiernos autoritarios mientras se toman muy en serio los retos que implica verificar el cumplimiento”.

Estas sugerencias reforzarán las sospechas que he señalado. A quienes les preocupan los motivos ocultos tal vez les complazca la indiferencia de Donald Trump, totalmente predecible, ante esos riesgos. En cambio, el presidente ha hecho hincapié en la competencia de Estados Unidos con China. Sin embargo, las sugerencias de Amodei también apuntan a los dos mayores obstáculos para un enfoque más reflexivo del desarrollo de la IA: la competencia entre empresas y la competencia internacional. No necesitamos temer la extinción: ¡la posibilidad de que enjambres de agentes rebeldes se apoderen de gran parte del Internet ya sería, sin duda, suficientemente malo!

Personas más sensatas que Trump (¿quién, después de todo, no lo es?), como los exsecretarios del Tesoro Hank Paulson y Robert Rubin, adoptaron una postura muy diferente en un artículo publicado en The Washington Post a principios de setiembre. Ellos tampoco se centran en las preocupaciones más amplias (y legítimas) sobre el empleo, la distribución de los ingresos y el futuro de la democracia, sino en la seguridad.

Donald Trump y el director ejecutivo de Open AI, Sam Altman, reaccionan durante un almuerzo de trabajo con miembros del G7, países socios y líderes empresariales de inteligencia artificial, en el marco de la cumbre del G7, celebrada en Evian, al este de Francia, el 17 de junio de 2026.

AFP

“Cuando los presidentes Donald Trump y Xi Jinping se reúnan este mes”, escribieron ellos, “instamos a los líderes a que trabajen para lograr un Tratado de Cooperación en IA (ACT, por sus siglas en inglés)”. Ellos también sugieren la creación de un grupo de trabajo presidencial sobre IA, similar al “grupo de trabajo sobre mercados financieros”, el cual ha demostrado ser "una eficaz forma de reunir al sector privado, en particular a los competidores, sin preocupaciones antimonopolio, con el fin de recabar datos, realizar análisis y trabajar en la búsqueda de soluciones". Esto, ellos argumentan, actualmente debe hacerse en el caso de la IA.

Mi suposición es que, por ahora, no se hará gran cosa. Estas empresas competidoras no podrán contenerse, mientras que la excusa de la seguridad nacional hará que los gobiernos se muestren reticentes a actuar. La enorme complejidad de regular los productos de la industria en esta era de omnipresencia de la IA y de la RSI resultará demasiado abrumadora o será una excusa demasiado buena para ni siquiera intentarlo. Así que seguiremos adelante con nuestro habitual estilo caótico (y tan humano), simplemente esperando que todo salga bien.

¿Qué podría suceder entonces? Una posibilidad es que las preocupaciones sobre grandes impactos resulten ser extremadamente exageradas. Quizás no veamos pandemias creadas a propósito ni grandes disrupciones en nuestras infraestructuras financieras o físicas. La vida seguirá su curso. Quizás, también, incluso los preocupantes efectos económicos y sociales resulten ser manejables.

Otra posibilidad es que ocurra algún tipo de desastre (del que se pueda sobrevivir) que nos obligue a cambiar nuestro sentido de urgencia rápidamente. Entonces, tal vez, bajo una fuerte presión pública (y compartida a nivel mundial), por fin se introduzca un régimen de sanciones claras y severas contra los proveedores irresponsables, junto con una supervisión y regulación mucho más activas. En el Reino Unido, un ejemplo de esto es la regulación de los medicamentos en la década de 1960 tras el desastre de la talidomida.

La tercera posibilidad es que las preocupaciones resulten acertadas: que ocurra algo verdaderamente catastrófico cuando se compruebe que las capacidades de la IA han alcanzado un nivel cataclísmico, ya sea actuando por su cuenta o siendo explotada por humanos malintencionados (que, como siempre, abundan).

En ese momento, “te lo dije” llegará demasiado tarde. ¿No podríamos, en cambio, tomar precauciones?

Copyright The Financial Times Limited 2026

© 2026 The Financial Times Ltd. All rights reserved. Please do not copy and paste FT articles and redistribute by email or post to the web.