¡Hola !

En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, tu plan tendrá un precio promocional:
$ Al año*
En caso de que tengas dudas o consultas podés escribir a [email protected] o contactarte por WhatsApp acá
* Podés cancelar el plan en el momento que lo desees

¡Hola !

En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, por los próximos tres meses tu plan tendrá un precio promocional:
$ por 3 meses*
En caso de que tengas dudas o consultas podés escribir a [email protected] o contactarte por WhatsApp acá
* A partir del cuarto mes por al mes. Podés cancelar el plan en el momento que lo desees
stopper description + stopper description

Tu aporte contribuye a la Búsqueda de la verdad

Suscribite ahora y obtené acceso ilimitado a los contenidos de Búsqueda y Galería.

Suscribite a Búsqueda
DESDE

UYU

299

/mes*

* Podés cancelar el plan en el momento que lo desees

¡Hola !

El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
En caso de que tengas dudas o consultas podés escribir a [email protected] o contactarte por WhatsApp acá

Un mundo donde todo puede ser falso: ‘deepfakes’, desinformación y el peligro que ya llegó

De los call centers al aula, de la política a la vida doméstica: la IA no solo automatiza, también reordena el mundo. Y no hay vuelta atrás. Jon Hernández, divulgador español, advierte sobre su impacto y lo que vendrá

El español Jon Hernández, fotógrafo de formación y divulgador de inteligencia artificial (IA) casi por azar, comprendió la magnitud del fenómeno a comienzos de 2023. Fue un artículo de Eliezer Yudkowsky en la revista Time lo que encendió la alarma. Allí se advertía que pausar el desarrollo de la IA ya no alcanzaba, era necesario detenerlo por completo. Hernández, que hasta entonces no había prestado mayor atención al tema, comenzó a investigar por su cuenta y pronto transformó ese impulso inicial en una cruzada personal: explicar un cambio tecnológico que avanza mucho más rápido de lo que la sociedad es capaz de asimilar.

Invitado al Summit AI Human Future 2025, organizado el 20 de junio en el Latu por Cacique Group, habló con Galería sobre las profundas disrupciones que ya provoca la IA, desde la pérdida de empleos y la necesidad de replantear el progreso hasta la erosión de la verdad.

Un ejemplo reciente resume sus temores. En plena tensión entre Irán y Occidente, circuló en redes un video inquietante: el líder supremo iraní, con voz grave y tono solemne, anunciaba “una sorpresa que la gente recordará durante siglos”. Imagen nítida, entonación perfecta, mensaje ambiguamente alarmante. Algunos lo compartieron con preocupación, otros sospecharon de inmediato y unos cuantos reconocieron el chiste. Era un deepfake. Pero el impacto ya estaba hecho. Porque ¿y si no lo hubiera sido?

“Lo que me aterra no es que alguien pueda hacer eso. Es que ahora cualquiera puede hacerlo”, dice Hernández. “Mi hijo de 10 años puede hacer un deepfake mejor que el que hizo el gobierno ruso con (Volodímir) Zelenski en 2022”. Esa accesibilidad técnica, para él, marca uno de los mayores peligros inmediatos de la IA: “la erosión total del concepto de verdad”.

Embed

Hernández no se considera alarmista, sino alguien que intenta ver la realidad sin adornos. “El miedo es una herramienta útil para adaptarse. Y el cambio, como el que trae la IA, da miedo. Porque está por cambiar las bases mismas de cómo vivimos en sociedad”, dice. Para explicar ideas complejas, suele usar comparaciones simples. En lugar de hablar de escándalos políticos, prefiere usar el ejemplo del dinero falso: “Si alguien te da un billete trucho, te complica el día. Pero si cualquiera puede imprimir billetes en su casa, se rompe todo el sistema económico”. Con la IA, dice, pasó algo parecido: “Le dimos a toda la sociedad impresoras de billetes falsos. Solo que en lugar de dinero, lo que ahora cualquiera puede falsificar es la verdad”. El problema no es solo la creación de estos contenidos falsos, sino su distribución sin control. “Antes se necesitaban recursos estatales para hacer un deepfake creíble. Hoy lo hace cualquier niño. No hay vuelta atrás”.

Por eso, su misión, dice, es explicar lo urgente. Y lo hace desde una convicción inquietante: “Hay dos grandes problemas. Uno, que no entendemos lo que ya está ocurriendo. Dos, que no entendemos la magnitud de lo que se viene. Siempre uso esta metáfora: ola o tsunami. Spoiler: es un tsunami”.

Gobernanza de la IA

Consultado sobre qué puede hacer un país como Uruguay en cuanto a legislación, Hernández no muestra mucho optimismo sobre las respuestas institucionales. “Europa hizo una ley que no regula nada”. Se refiere al Reglamento de Inteligencia Artificial (RIA) aprobado el año pasado por la Unión Europea. “No regula la IA, sino los productos comerciales que la usan. Podés desarrollar una IA para fabricar bombas químicas, y el reglamento no lo impide. Solo impide que lo vendas como producto en Europa”.

Para él, el error es conceptual. “Estamos reaccionando a lo que hacen las empresas, en vez de decidir nosotros qué queremos que la IA haga o no haga”. La lógica, propone, debería invertirse: “No hay que preguntar ‘cómo regulo esta IA’, sino decir ‘como sociedad decidimos que la IA debe hacer A, B y C. Si no podés hacer eso, no hay producto’”.

¿El fin del trabajo?

Entre los impactos más concretos, el que más le preocupa —y menos se discute con profundidad— es el del trabajo. “La IA nos va a quitar el trabajo. A todos. Ese es el objetivo explícito de las empresas líderes del sector. No lo esconden”. Cita las metas de OpenAI, Microsoft y Google: construir una AGI (Inteligencia Artificial General) capaz de hacer cualquier tarea humana. “La discusión no es si va a pasar sino cuándo”.

Algunos trabajos ya están desapareciendo. Fotografía de stock, traducción, doblaje, atención al cliente. Hernández describe un futuro muy próximo sin call centers. “Incluso, Google ya testea un sistema en el que una IA llama al mecánico por vos, concierta cita, acuerda precio. En la próxima fase, será tu IA hablando con la IA del mecánico. Ni una persona involucrada. Atención al cliente invisible”.

Entonces, ¿qué rol tienen los sindicatos ante ese escenario? ¿Resistir, adaptarse, negociar? “Los sindicatos tienen que dejar de defender el trabajo y empezar a defender a los trabajadores. Hay profesiones que no van a sobrevivir. Lo peor que pueden hacer es negar eso”.

En Uruguay, el PIT-CNT dio un primer paso en 2024 con la elaboración de un informe exploratorio sobre IA. Hernández lo valora como un buen comienzo, pero advierte que no alcanza: lo que se necesita, dice, es una estrategia nacional sólida y, sobre todo, una transformación educativa de fondo.

Ahí aparece otro de los ejes de su preocupación. “El sistema educativo actual está preparando a los jóvenes para un mundo que ya no existe”, afirma. Y plantea un cambio de paradigma: dejar de ver la IA como una herramienta ocasional y empezar a entenderla como una presencia constante, con la que habrá que convivir. “Ya no se trata solo de usar ordenadores para hacer cosas, sino de pedirles a los ordenadores que las hagan por nosotros —e incluso más que eso—, de aprender a relacionarnos con ellos”. Y esa convivencia también será emocional. Hernández relata una escena doméstica: una noche, con su esposa, pasaron 45 minutos conversando con una voz artificial. “Nos miramos diciendo: ‘¡es una puta máquina!’”. Pero se sentía como un amigo. “Mi hijo, en un par de años, va a tener una IA personalizada. Le va a contar cosas que no me va a contar a mí”.

Educar en inteligencia artificial

Para Hernández, la solución no pasa por convertir a todos en programadores, sino por una transformación educativa más transversal. Propone incorporar la IA desde edades tempranas, para que niños y jóvenes comprendan qué hace, cómo funciona, cómo puede manipular o potenciar comportamientos. Al mismo tiempo, plantea reforzar aquellas habilidades humanas más difíciles de automatizar: el pensamiento crítico, la empatía, la ética y la creatividad no mecánica. En paralelo, cree que el debate debe centrarse en cómo diseñar un nuevo modelo de reparto social. “Tenemos que desarrollar la IA de forma que genere el menor daño colateral posible”, advierte.

En el nuevo escenario que describe el divulgador tecnológico español a Galería, la economía podría crecer como nunca, pero millones de personas quedarían sin trabajo. La IA puede mejorar la productividad y la salud, pero no garantiza bienestar para todos. Esa contradicción, sostiene, será una de las grandes tensiones del futuro cercano. “Darío Amodei, CEO de la startup de IA Anthropic, decía que se imagina un mundo donde curamos todas las enfermedades, la economía global crece un 10% anual, pero el 20% de la población no tiene trabajo”, sintetiza Hernández. Y lo subraya como un escenario perfectamente posible: una sociedad en apariencia próspera, pero “profundamente desigual y desestabilizada”, en la que el trabajo ya no garantiza dignidad, ingresos ni sentido.

“Durante décadas, hemos vinculado el derecho a poner un plato de comida en la mesa con la obligación de trabajar ocho horas al día”, dice. “Ese pacto, que estructuró la economía y la política del siglo XX, se está rompiendo con la IA. Ya no se trata de que yo trabaje, vos me pagues y con ese dinero yo acceda al bienestar. Ese modelo está quedando obsoleto. Y necesitamos construir uno nuevo” “Durante décadas, hemos vinculado el derecho a poner un plato de comida en la mesa con la obligación de trabajar ocho horas al día”, dice. “Ese pacto, que estructuró la economía y la política del siglo XX, se está rompiendo con la IA. Ya no se trata de que yo trabaje, vos me pagues y con ese dinero yo acceda al bienestar. Ese modelo está quedando obsoleto. Y necesitamos construir uno nuevo”

Ese quiebre, advierte, obliga a revisar los cimientos del contrato social moderno: la idea de que el trabajo es la vía principal para acceder al bienestar. “Durante décadas, hemos vinculado el derecho a poner un plato de comida en la mesa con la obligación de trabajar ocho horas al día”, dice. “Ese pacto, que estructuró la economía y la política del siglo XX, se está rompiendo con la IA. Ya no se trata de que yo trabaje, vos me pagues y con ese dinero yo acceda al bienestar. Ese modelo está quedando obsoleto. Y necesitamos construir uno nuevo”.

¿Hay otras formas posibles? Hernández cree que sí. Ha retratado comunidades que viven al margen del trabajo formal. “He fotografiado a los tsaatan en Mongolia. Viven en tipis (cabañas), no tienen empleos, y tienen una sociedad funcional. Comen todos los días”. ¿Es posible pensar en modelos poslaborales en el siglo XXI? Tal vez. Pero requerirá anticipación, creatividad fiscal y decisión política.

“Existen ejemplos de sociedad que no pasan por un capitalismo desmesurado que requiere de ocho horas de trabajo para mantenerse. Lo que tenemos que plantearnos es cuál es el modelo social al que tenemos que ir en un mundo en el que habrá muchas menos personas trabajando”, sintetiza.

Robot-IA.png

La próxima revolución

La IA está empezando a ocupar un lugar en el centro mismo de nuestras relaciones personales, cotidianas y sociales. Y no se trata de una metáfora futurista, advierte Hernández, sino de una realidad incipiente. “Estamos en la fase en la que estos trastos ya tienen memoria, conocen nuestro contexto, recuerdan nuestras preferencias. La próxima revolución va a ser cuando escuchen todo, todo el tiempo”, anticipa. Esa capacidad de registrar, aprender y adaptarse en tiempo real transformará el vínculo con las máquinas en algo cada vez más íntimo, ambiguo y emocional.

Pero lo que más inquieta a Hernández no es el destino final de este proceso —que puede ser tecnológicamente deslumbrante—, sino su fase intermedia: la transición. “Todas las revoluciones tecnológicas siguen un patrón parecido. Primero viene la adopción. Después, la transición, que es la más jodida. Y por último, la bonanza”, explica. “No es pesimismo, sino memoria histórica. La Revolución Industrial provocó décadas de miseria y explotación antes de que los salarios comenzaran a subir. La imprenta dejó sin trabajo a los escribas durante medio siglo. ¿Qué pasa si ahora la transición es tan veloz que no nos da tiempo a reeducar a nadie?”, se pregunta. El ritmo de cambio, esta vez, podría ser incompatible con la capacidad de adaptación social.

"La revolución industrial provocó décadas de miseria y explotación antes de que los salarios comenzaran a subir. La imprenta dejó sin trabajo a los escribas durante medio siglo. ¿Qué pasa si ahora la transición es tan veloz que no nos da tiempo a reeducar a nadie?” "La revolución industrial provocó décadas de miseria y explotación antes de que los salarios comenzaran a subir. La imprenta dejó sin trabajo a los escribas durante medio siglo. ¿Qué pasa si ahora la transición es tan veloz que no nos da tiempo a reeducar a nadie?”

Esa velocidad sin una respuesta política coordinada podría dejar a millones de personas sin rumbo. Porque —según Hernández— el desafío no es técnico sino político. “Regular la IA a nivel nacional suena bien, pero en un mundo hiperconectado es casi imposible. Si en Uruguay ponés un impuesto a los robots y en Argentina no, las empresas simplemente se van”. Ya está ocurriendo: los países compiten entre sí por atraer inversiones, y la movilidad digital lo facilita como nunca antes. “En Noruega, por querer recaudar 200 millones más en impuestos, se fueron los millonarios… y terminaron perdiendo 500”.

Embed

Mover inversiones y producción solía ser un desafío logístico y político. Hoy, en cambio, trasladar un negocio digital —especialmente con el impulso de la IA— es rápido, barato y muchas veces invisible. Por eso, Hernández cree que si no se logra un acuerdo global, las desigualdades entre regiones se van a agravar rápidamente. “Puede que en Estados Unidos, en California, consigan implementar una renta básica universal excelente y todo funcione bien. Pero ¿qué pasa con Perú, Pakistán o incluso España?”, se pregunta. “Porque si a mí me va muy bien, no voy a querer vivir en una sociedad rodeada de caos. Y cuando algunos dicen ‘eso es una distopía’, yo respondo: perdón, pero África ya funciona así. En México, los niños van a la escuela con escolta armada. No es ciencia ficción, es la realidad de muchos”.

Por eso no descarta que, en países que no logren adaptarse a tiempo, ocurra un colapso social. Y cita lo sucedido durante la pandemia. “En Italia, con apenas un mes de encierro por coronavirus, la gente saqueaba supermercados. Y sabían que era algo temporal. ¿Qué va a pasar si el desempleo es permanente?”. La historia también ofrece lecciones sombrías. “En Alemania, después de tres años con un 26% de desempleo, nació el nazismo”.

A pesar de su tono provocador, Hernández deja claro que no culpa a la tecnología. Su diagnóstico final es más incómodo: “La IA es increíble. El problema es el ser humano, que es imbécil”, dice, entre risas. Pero no es un chiste. Porque la IA no tiene valores propios ni intenciones. Solo amplifica lo que se decida hacer con ella. “Y si no tomamos decisiones colectivas, éticas y anticipadas, los efectos no deseados no solo serán inevitables: serán desproporcionados”.

Deepfake.png
Con inteligencia artificial, es fácil modificar digitalmente la cara, el cuerpo o la voz de una persona en un video

Con inteligencia artificial, es fácil modificar digitalmente la cara, el cuerpo o la voz de una persona en un video

Uruguay busca legislar contra los deepfakes

La expansión de la IA generativa abrió un nuevo frente legislativo en Uruguay: el de los deepfakes, videos y audios falsos que imitan a una persona con realismo inquietante. Dos proyectos de ley ingresaron al Parlamento con el objetivo de regular este fenómeno desde diferentes ángulos.

Por un lado, el diputado colorado Gabriel Gurméndez propuso modificar la Ley de Violencia hacia las Mujeres (Nº 19.580) para incluir como delito la difusión de imágenes sexuales “reales o simuladas” sin consentimiento. El proyecto busca castigar con hasta dos años de prisión a quienes difundan contenido íntimo generado con IA que represente falsamente a una persona, incluso si nunca existió en la realidad.

Por otro lado, el nacionalista Rodrigo Goñi presentó el año pasado una propuesta enfocada en el uso político de los deepfakes durante campañas electorales. Advirtió que con herramientas actuales “casi cualquier ciudadano puede generar videos o audios falsos” y que su uso combinado con chatbots puede desinformar a gran escala, “afectando la integridad democrática”.

Ambas propuestas buscan lo mismo: evitar que la IA siga avanzando sin reglas claras. Son los primeros intentos del país por legislar un fenómeno que todavía se está entendiendo.

// Leer el objeto desde localStorage