La “indignación artificial”
Doña María habla al micrófono a los gritos. Larga insultos y críticas sobre la situación económica que viven los brasileños. Sus dardos apuntan contra el gobierno de Lula da Silva. Doña María es una estrella de las redes sociales, con más seguidores e interacciones que la mayoría de los candidatos que competirán en las elecciones presidenciales de este año.
Con un discurso sólido y a la vez cercano, Doña María parece sufrir las vicisitudes de cualquier persona humilde.
Y, sin embargo, no es una persona de carne y hueso. Solo existe en el entorno digital.
En diciembre del 2024, Búsqueda invitó a la editora de Folha de São Paulo, Patrícia Campos Mello, a dar una charla sobre desinformación y su impacto en grandes elecciones de ese año: Estados Unidos, India y municipales de Brasil. Una periodista con mucha experiencia internacional —tanta que al día siguiente de su paso por Montevideo se fue a Siria para reportear sobre la caída del régimen de Bashar al Assad—, Campos Mello dijo que, si bien el 2024 comenzó con el temor de que hubiera un “apocalipsis de deepfakes”, eso no se concretó. “Por supuesto, hubo contenido político manipulado por IA”, pero “no tuvimos la situación, el volumen o la relevancia suficiente para tener un gran efecto”.
Entre aquella ponencia y ahora siento que pasaron 10 años. En términos de desinformación, al menos, esa aceleración parece haber ocurrido.
Aquel tsunami de deepfakes en redes sociales, antes inminente, parece llegar a la costa. “Ahora puede ser que finalmente llegó, que la amenaza se concreta”, dijo Daniel Bramatti durante una charla organizada por Búsqueda el jueves 7 en el Parlamento.
Daniel Bramatti
Periodista Daniel Bramatti durante su exposición en el Parlamento
Adrián Echevarriaga
Bramatti es un periodista de Brasil de primera línea. Fue presidente de Abraji (Asociación Brasileña de Periodismo de Investigación), es editor de Estadão Verifica, la unidad de verificación de datos del periódico O Estado de S. Paulo, y miembro de los consejos asesores de la Red Internacional de Verificación de Datos y de LatamChequea.
En su intervención Bramatti mostró el ejemplo de Doña María, que él mismo pensaba que se trataba de una persona real y no de un avatar de la inteligencia artificial creado por un conductor de Uber. El periodista la bautizó entonces como un producto de “indignación artificial”.
Captura de pantalla Dona Maria
La propia Campos Mello escribió una nota esta semana en Folha con el título La inteligencia artificial provoca un terremoto en campañas electorales de 2026.
Fog of war
La discusión electoral no es el único escenario donde la IA es desplegada como estrategia de desinformación o de contaminación del debate público.
El Instituto Reuters para el Estudio del Periodismo de la Universidad de Oxford describe en este artículo cómo la IA impacta en lo que sabemos de la guerra en Irán. Los gobiernos, dice el artículo, usan esta tecnología para difundir narrativas falsas y manipular a las audiencias. En las guerras la propaganda siempre fue parte de la maquinaria, el problema es que ahora se volvió mucho más difícil de identificar y mucho más fácil de crear.
“No se trata solo de la manipulación de la IA. Actores malintencionados están utilizando estas herramientas para falsificar grabaciones militares e incluso crear imágenes falsas (deepfakes) de las víctimas de la guerra”, dice el artículo, que lleva el título Trolling, memes y deepfakes: cómo la IA está espesando la niebla de la guerra.
Las balas pican cerca
Tampoco hay que irse a los extremos de la guerra ni a instancias electorales periódicas para ver el impacto potencial de la desinformación. En Búsqueda publicamos varias notas sobre las supuestas plataformas de inversión que estafan desde Uruguay a personas de toda la región. Y los uruguayos también son víctimas.
Todo comienza con avisos falsos. Supuestas publicaciones de personalidades o de medios creadas con inteligencia artificial en las que se anima a invertir en proyectos que son inexistentes. Miles y miles caen en la trampa a diario. En los últimos años ha habido un aumento sostenido de las denuncias de ciberestafas en Uruguay, muchas relacionadas con ese fenómeno. Los datos oficiales muestran que el crecimiento se detuvo el año pasado, después de alcanzar un pico de 31.435 denuncias.
Seguro que te cruzaste con alguno de esos videos o avisos truchos, y hasta quizás te viste tentado a cliquear. En 2024 el 10% de las ganancias de Meta (empresa madre de Facebook, Instagram y WhatsApp) llegaron por esos contenidos que la compañía sospecha que son falsos, según una nota de la agencia Reuters. Es mucho dinero: US$ 7.000 millones.
En América Latina, el uso de la inteligencia artificial para producir desinformación se extiende. Un reporte publicado por LatamChequea en abril indica que el 20% del contenido falso chequeado por un conjunto de organizaciones en 15 países de la región había sido creado con IA.
Parece haber cierto grado de alerta sobre el tema. La Universidad ORT hizo una encuesta sobre consumo informativo en Uruguay, publicada en febrero, que muestra que “la información generada con IA despierta amplia desconfianza. Más del 50% afirma que no confiaría en un contenido informativo si supiera que fue producido con IA”, resume el trabajo de la ORT, mientras que solo el “15% manifiesta confianza”.
Un informe del Instituto Reuters para el Estudio del Periodismo de la Universidad de Oxford indica que en la mayoría de los países el público en general se mantiene escéptico en torno a la IA en el periodismo, y siente más comodidad “cuando existe supervisión humana”. La expectativa de las audiencias es que la tecnología abarate la elaboración de noticias y se actualicen más, pero también que las hagan menos transparentes, menos precisas y menos fiables.
No todo es lúgubre
En este punto, siento la obligación que nadie me impone pero que sospecho puede sobrevolar la lectura de esta newsletter: no, no soy un ludita ni un tecnófobo.
Por supuesto que la IA es una tecnología que trae grandes y muy buenas novedades en la discusión pública y en el periodismo. Hay medios que la usan para robustecer sus investigaciones, porque permite analizar bases de datos amplias que de otro modo serían inabarcables; mejora los mecanismos de distribución del contenido y con ella la experiencia de las audiencias, y baja los tiempos de producción en general de muchos productos informativos.
En Búsqueda hemos desarrollado algunos productos con IA para asistir a nuestros periodistas y editores. La periodista Federica Ham cuenta sobre uno de ellos en esta charla.
Intentar aprovecharla, sin embargo, no implica bajar la guardia. “El peligro es que los medios usen la automatización para reducir costes y para perseguir nuevos algoritmos de IA. En parte ya está pasando, aunque es evidente que la gente no quiere más contenido; se siente saturada, y desde luego no desea titulares sensacionalistas optimizados para agregadores de IA”, escribió el académico Nic Newman en el resumen ejecutivo del estudio del Instituto Reuters. “Nuestro informe es muy claro: en todos los países, el público espera más imparcialidad, más rigurosidad, más transparencia y, sobre todo, más cantidad y calidad de periodismo original”.
¿Quién decide?
Hay una idea de inevitabilidad con relación a la IA. Avanzará sin pausa por todas las áreas de la vida social y económica para dejar obsoleto aquello que no se adapte (o a todo lo que se le cruce sin más).
Al final de su exposición, le pregunté a Bramatti si los periodistas de Brasil estaban preparados para enfrentar ese posible tsunami de desinformación, cuyas primeras olas parecen haber llegado ya a la costa, con IA.
Respondió que están más preparados. Tienen mejores herramientas —algunas de ellas de IA— y entrenamiento. De todos modos, no era demasiado optimista sobre el futuro si la tendencia seguía sin control o regulación.
Regular el uso de la IA en la generación de contenido falso es polémico. ¿Cómo se define la desinformación? ¿Quién la define? ¿Cómo se controla?
En una edición de Derroteros mencioné lo que dijo Catalina Botero, exrrelatora para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos y excopresidenta de la Junta de Supervisión de Decisiones de Contenido de Facebook e Instagram (hoy Meta). Allí dice cómo pasó de ser una “optimista digital” durante la década pasada a sostener un “pesimismo digital”. A su pesar, se pasó al bando de los que creen que la regulación actual es insuficiente. (Dejo aquí el link del video de YouTube con su exposición).
El temor desde el periodismo es que se le dé una herramienta al poder para censurar y controlar la discusión pública. Aun así, hay que tener la conversación porque las cosas no parecen estar yendo de maravillas.
