Agesic: Uruguay debe mirar la experiencia internacional antes de regular la IA para evitar un “apagón”

Frente a los legisladores de la Comisión Especial de Innovación, Ciencia y Tecnología, el titular del organismo de la Agesic, Hebert Paguas, recordó el “inconveniente” con Spotify y advirtió sobre la posibilidad de que se produzca otro: “Imaginemos regular inteligencia artificial en donde en el mundo la despliegan solo cinco o seis empresas y que, en lugar de Spotify, el apagón digital sea por Microsoft, Google o Apple”, advirtió, según consta en la versión taquigráfica. Por eso, el jerarca considera adecuado esperar las acciones de la Unión Europea y los Estados Unidos y también la reacción de los gigantes tecnológicos, que son quienes generan las herramientas, señaló en diálogo con Búsqueda. “No te podés aislar. Los países por impulsos propios no van a tener mayor éxito”, aseguró.

—Estamos recién tratando de identificar cómo se puede llegar a tener una discusión de regulación en inteligencia artificial que abarque todos los ámbitos. Uruguay tiene una estrategia en el tema, que ya tiene cinco años y se está actualizando. La original está vinculada al gobierno, y lo que estamos haciendo es sumarnos al debate internacional sobre la sociedad toda. Es una regulación bien compleja, para Uruguay y el mundo.

—¿Porque puede interferir en el vínculo con otros países?

—Exacto, con los países y las empresas. Porque ahora hay un jugador nuevo, que son las empresas privadas. Hasta hace 20 o 30 años los países se comprometían ante sí en organismos internacionales a proteger a los ciudadanos de ellos mismos. Por ejemplo, sucedió así con los datos personales, que Uruguay adhirió a un convenio internacional que fue ratificado en el Parlamento, el 108+, para la Protección de las Personas con Respecto al Tratamiento Automatizado de Datos Personales. En aquel momento se pensaba: ¿quién puede ser el potencial mal usador de los datos? Y se miraba a los gobiernos o a los Estados. Lo que ocurre hoy es que todos estamos utilizando inteligencia artificial, todo el tiempo, sin saberlo. Por eso el actor novedoso en la discusión es que ahora los países tienen que convenir en organismos internacionales la protección a las personas, pero con un jugador que antes no estaba en la discusión, que viene ofreciendo sus servicios y que la gente consume. Entonces, donde se está complicando es en el límite entre proteger a las personas y permitirles el uso.

—¿Cómo se debe avanzar?

—Creo que el mundo va a tener que ir hacia estándares internacionales, porque en tecnología, sobre todo en lo que tiene que ver con inteligencia artificial, con ciberseguridad, importa mucho la cooperación internacional, la coordinación entre los países. Porque es muy difícil, sobre todo para un país como Uruguay, pensar en limitar determinadas características de la tecnología con este nuevo actor.

—Es decir que Uruguay no puede tomar decisiones por sí solo sin pensar en cómo puede repercutir en un privado, que puede eventualmente dejar el país.

—Exactamente. Poder puede, la soberanía tradicional sigue existiendo, lo que pasa es que en temas tecnológicos está en discusión la forma de regular. La ciberseguridad es otro caso: nacionalmente vos podés poner la mejor ley, pero si los atacantes no están en Uruguay no te va a servir para mucho.

—En el caso del sector privado, por ejemplo, en la Unión Europea se está discutiendo la regulación del sector bancario. ¿Se propone regularlo en Uruguay?

—Ahí también apelás a la cooperación internacional, en este caso con el Banco Central del Uruguay (BCU) como rector. Uruguay integra redes internacionales: por un lado, Agesic tiene las suyas y el BCU tiene otras. Son temas que se están discutiendo, porque la regulación bancaria de fintech, por ejemplo, afecta a la sucursal de acá de un banco con sede en España, en Brasil o en Argentina.

—Una de las cosas que la Unión Europea propone limitar es que se use inteligencia artificial para evaluar a las personas en préstamos de dinero.

—La Comisión Europea lo que hizo fue distinguir en cuatro categorías los riesgos del despliegue de la inteligencia artificial. Por un lado, el riesgo inaceptable, que es aquel como el que mencionás, que perfila gente; después está el riesgo alto, que es el que utiliza datos vinculados a la salud de las personas; el riesgo de transparencia, que es el más moderado; y luego el que no tiene riesgo, que se puede usar más abiertamente. En una de esas cuatro categorías está la segmentación de personas, que la Unión Europea entiende que es inaceptable.

—En cuestiones de derechos de autor, que es otro de los temas que se debate a escala mundial, ¿se propone que las creaciones que sean realizadas con inteligencia artificial tengan que advertirlo?

—Hay muchas soluciones distintas en los distintos países del mundo. Por eso, lo importante es que Uruguay esté participando en los distintos foros internacionales sobre el tema. Hay distintos ejemplos según las distintas realidades, hay que ver cuáles están teniendo mayor éxito y en qué realidades. Lo que está pasando en Latinoamérica y el Caribe es que nosotros les ponemos capas a empresas extranjeras, pero no desarrollamos inteligencia artificial. En toda Latinoamérica no hay infraestructura para desarrollar inteligencia artificial propia. Y el problema que tenemos acá también es el sesgo del lenguaje, porque la mayoría del desarrollo en esta materia está en inglés o en chino. Trabajamos sobre soluciones de empresas, principalmente de Estados Unidos, y ahí está la dificultad.

—¿Cuáles serían los lineamientos principales de una eventual regulación?

—Las verticales son básicamente dos: una es la transparencia algorítmica, mirando qué están haciendo el resto de los países, y la otra es la protección de los derechos humanos, principalmente de la protección de datos. Lo que nosotros estamos pensando y lo que el mundo está pensando es que lo que se necesita regular son los entornos, no la tecnología en sí misma, con el objetivo de proteger lo más posible a las personas.

—¿Implica establecer prohibiciones?

—Eventualmente, sí.

—¿Para todos los sectores?

—Sí.

—¿Dónde estarían los puntos más críticos para establecer directrices en el uso de inteligencia artificial?

—En todos. Va a depender de la criticidad de los datos, pero creo que es transversal a todo. Me imagino que lo que estableció la Unión Europea hace bastante sentido, pero hay que ver qué es lo que hace Estados Unidos, que es donde están la mayoría de las empresas que proveen inteligencia artificial para nuestro mundo, porque el otro gigante es China.

—¿Alinearse a la regulación de la Unión Europea podría limitar el trabajo con empresas que están en Estados Unidos?

—Habría que ver cuál es la reacción de las empresas de Estados Unidos en Europa, para ver luego por dónde un país como el nuestro debería adherir. Yo esperaría a ver cómo reacciona la comunidad internacional toda y después seguir los pasos correspondientes.

—El diputado del Partido Nacional Rodrigo Goñi presentó un proyecto de ley para regular el uso de inteligencia artificial en la campaña electoral, y fue uno de los temas que trataron en la comparecencia de usted al Parlamento. ¿Qué piensa al respecto?

—Hay que distinguir tres cosas: una es la inteligencia artificial tradicional, que es lo que venimos usando abiertamente, otra es la generativa, como Chat GPT, y en tercer lugar está el área de ciberseguridad. Desde mi punto de vista la ultrafalsificación, que es el deepfake, es una pata de la ciberdelincuencia, que utiliza nuevas tecnologías para cometer delitos.

—¿Cree que serían regulaciones que tendrían que correr por carriles separados?

—No necesariamente, pero creo que son temas distintos. Regular la inteligencia artificial no implica necesariamente pensar en delitos. No tenemos que pensar al principio en la parte negativa. Para mí, no se puede legislar por la patología, porque lo que ocurre en Montevideo en marzo de 2024 es que tenés un porcentaje altísimo de inteligencia artificial desplegada y un porcentaje bastante menor mal usada. Si bien el ciberdelito crece, tenés cada vez más tecnología aplicada a todo. Entonces, la luz amarilla se prende, porque al intentar regular la parte negativa se puede caer en algún error en la parte positiva, que usamos todos.

—¿Al limitar demasiado?

—No creo que un país sea capaz de frenar la innovación por pasar una ley, sobre todo pensando que son empresas que no son nuestras. También hay que tener presente que Uruguay es uno de los mayores exportadores de software del mundo per cápita. Por eso hay que conversar con el sector privado, porque usa tecnología de otros proveedores y en ese caso sí podrías tener algún conflicto.

—¿Cómo sería la regulación ideal para Uruguay?

—Para mí el ideal es acompañar la discusión internacional sobre lo que está pasando y liderar algunos grupos como lo estamos haciendo. Uruguay debería estar lo más alineado posible a la comunidad internacional, para tener soluciones similares. No te podés aislar. La legislación tiene que ser acordada internacionalmente, más que con otros temas tradicionales. Los países por impulsos propios no van a tener mayor éxito. Sin perjuicio de eso, creo que a Uruguay todavía le hace falta una ley de ciberdelito; hay una que tiene media sanción en el Parlamento y puede ser un caso para incorporar algo vinculado al deepfake.

—Otra discusión en torno a este tipo de tecnología son los sesgos.

—Sí, y ocurren porque no producís inteligencia artificial.

—Tiene discriminación racial.

—Por supuesto. La inteligencia artificial es estadística frente a un mundo enorme de información. Si la mayor información proviene de un idioma principalmente, el inglés, de pocos países, con personas con determinados perfiles y que ha sido recolectada en un período de tiempo determinado, es probable que si le pedís “dame una foto de una persona que se dedica a la arquitectura”, devuelva a un hombre, rubio, caucásico, que habla inglés. A partir de ahí está el debate que se está dando en foros internacionales de la región, con un reclamo fuerte de que no se siente representada con las imágenes de las personas.

—Eso lleva a errores y a una discusión sobre su uso en el sistema educativo.

—También. Y sobre cómo se incorpora. Los Estados tienen que proteger a las personas. Antes había solo que protegerlas físicamente, y ahora también en un entorno digital. Por ese lado tienen que brindar cada vez más herramientas, para que (las personas) tengan habilidades en estos nuevos entornos, incluyendo la inteligencia artificial: que la sepan usar, que sepan los límites. Hay un dicho: “El mejor antivirus son las personas”.