La IA representa una fuerza que está transformando y alterando todos nuestros marcos de conexión humana, comunicación, mercados laborales y educación. Este desarrollo ha sido realmente exponencial. Por ello, es crucial que instituciones como la Unesco, que incluye la "S" de ciencia en su nombre (en inglés, United Nations Educational, Scientific and Cultural Organization), se involucren activamente. El trabajo científico de la Unesco es menos conocido que su labor en cultura, ya que todos tienen una cercanía evidente con sus patrimonios culturales y con la educación, que son los temas más visibles. Sin embargo, es importante recordar que este organismo especializado de las Naciones Unidas fue creado en respuesta al uso indebido de la ciencia por parte de gobiernos fascistas. Somos la única institución internacional con el mandato de revisar desarrollos tecnológicos, científicos y tecnologías emergentes, como la IA, desde una perspectiva ética. Recientemente, hemos establecido una recomendación sobre la ética de la IA. Hace 15 años, la Unesco lanzó una alerta cuando la clonación de seres humanos y animales generaba entusiasmo. En ese momento, se advirtió que, aunque algo sea posible, no necesariamente debe hacerse. Posteriormente, abordamos la ética del cambio climático y hemos estado trabajando en la ética del Internet de las cosas y la computación cuántica. La IA, al ser una tecnología convergente, potencia aún más estos desarrollos.
Hemos observado una transición hacia la IA generativa, que no solo realiza análisis básicos, sino que también incorpora funciones avanzadas como la reflexión y la predicción. Este nuevo enfoque implica que las computadoras no solo recuperan datos, sino que también generan datos sintéticos (generados artificialmente para entrenar modelos de IA) y aprenden de la interacción con los usuarios. Esto crea un sistema global de conocimiento en constante evolución. Sin embargo, el desafío principal es garantizar que estas tecnologías extraordinarias se utilicen para fines positivos, evitando quedarnos atrapados en debates meramente tecnológicos. La capacidad de estos sistemas es impresionante, pero también puede resultar intimidante.
Gabriela-Ramos-Unesco.jpeg
Gabriela Ramos durante la Segunda Cumbre Ministerial sobre la Ética de la Inteligencia Artificial, realizada en Montevideo.
Agesic
¿Cree que sin control acabaremos subordinados a la IA?
Tengo confianza en que podemos decidir el tipo de desarrollo tecnológico que queremos y que estamos capacitados para hacerlo. La cuestión no se trata de ser expertos técnicos en todas las tecnologías y sus controles. Aunque algunos sostienen que es imposible debido a la escasez de expertos en este campo, argumentamos que ésta no es solo una discusión técnica. No es nuestra intención perseguir a los desarrolladores ni desentrañar qué ingredientes ponen en sus “recetas” para los resultados que logran. Es cierto que el modelo de negocios actual está muy concentrado en unas pocas empresas, lo que excluye a un ecosistema más amplio que podría participar. Por eso, debemos enfocar esta conversación desde una perspectiva social en lugar de meramente tecnológica. Aunque es importante entender los aspectos técnicos, la discusión debería centrarse en los resultados de estos desarrollos. Por ejemplo, si una tecnología discrimina, como ha sucedido con algunos sistemas de reconocimiento facial que han favorecido fenotipos de personas blancas, es ahí donde debemos intervenir. También hay que asumir responsabilidades si una tecnología ha llevado a la quita de beneficios sociales, como ocurrió en los Países Bajos con migrantes, o si alguien no pudo obtener un crédito bancario debido a sesgos en el algoritmo. En democracias basadas en el derecho, tenemos mecanismos para abordar estos resultados negativos y actualizar nuestras legislaciones e instituciones. Así, la conversación se dirige hacia cómo regular estos mercados, un tema que no es nuevo en el ámbito de las políticas públicas.
En Uruguay se está trabajando en la búsqueda de una regulación adecuada para enfrentar estos desafíos. ¿Qué consejos le daría al gobierno?
Uruguay se encuentra en una posición privilegiada para organizar y gestionar la IA. Tener una visión clara, una estrategia de IA y una agencia, como Agesic, dedicada a su coordinación, junto con mesas de trabajo multisectoriales que incluyan al sector privado, coloca a Uruguay a la vanguardia en este ámbito. Nuestra experiencia con 60 países muestra disparidades significativas; muchos aún no tienen una estrategia o agencias de gobiernos dedicadas al tema. Por ejemplo, Francia ha creado recientemente una secretaría de Estado para la IA, mientras que Uruguay ya cuenta con una coordinación efectiva. Además, el único otro país con un ministerio de IA es Emiratos Árabes Unidos. Esto resalta la importancia de tener un ente coordinador con las atribuciones necesarias. Uruguay ha hecho un buen trabajo en construir capacidades gubernamentales para comprender y manejar la IA, capacitando a funcionarios públicos e implementando una sólida ley de protección de datos. También han explorado cómo utilizar la IA para mejorar los servicios públicos, lo cual es admirable. Recomendamos que Uruguay no solo regule la IA en el sector público, sino que extienda esa regulación a todos los sectores, especialmente en el ámbito económico. Es crucial establecer reglas claras sobre la posesión y gestión de datos, definiendo quién es el propietario y quién puede eliminarlos. Este debate debe incluir a las empresas privadas, especialmente las grandes transnacionales que manejan la mayor parte de los datos y desarrollan estas tecnologías. Además, Uruguay cuenta con numerosas instituciones académicas que ofrecen programas en este campo, pero es esencial integrar perspectivas de humanidades en la educación de los ingenieros. Fomentar una formación que les permita tener una mirada crítica sobre el impacto social y ambiental de la tecnología es fundamental. También es importante considerar la inversión en IA y su distribución, prestando atención a las zonas rurales. Este enfoque integral es clave para avanzar.
Uno de los frentes de trabajo de la Unesco es la inclusión social. Muchos analistas advierten de que la IA va a eliminar una cantidad importante de puestos de trabajo. ¿Qué opina?
Este es uno de los temas que mejor ejemplifica la preparación necesaria para asegurar que estas tecnologías tengan un impacto positivo. Dado que se están desarrollando con un enfoque en la automatización, es evidente que se perderán muchos empleos. Sin embargo, creo que tenemos opciones. No es necesario destinar toda la inversión a tecnologías que automatizan trabajos, especialmente si sabemos que esto tendrá un impacto negativo en nuestras sociedades. Muchos sugieren la idea de un ingreso básico universal, pero yo considero que eso es un error. El trabajo proporciona propósitos en la vida, y no podemos limitarnos a recibir dinero sin contribuir. Los seres humanos estamos aquí para crear. La cuestión es cómo podemos crear incentivos para que las empresas que desarrollan estas tecnologías consideren el mercado laboral y favorezcan tecnologías que fortalezcan las competencias existentes en lugar de sustituirlas. Esto nos aleja del determinismo tecnológico, que asume que solo hay una forma de desarrollar estas tecnologías. No es así; hay múltiples caminos. En lugar de invertir únicamente en chatbots (aplicaciones como ChatGPT), podríamos considerar tecnologías que han tenido un gran impacto, como la detección de cáncer. Esa tecnología, sin embargo, nunca podría funcionar sin la intervención de un médico. Pero no se trata solo de la tecnología; también es necesario capacitar a los médicos y cambiar la forma en que realizan su trabajo. Este es otro aspecto crucial que debemos reflexionar. Todas estas tecnologías no existen en el vacío. Al igual que las desigualdades de género se amplifican, las tecnologías se insertan en contextos de mercado específicos. Por ejemplo, en África, el 60% de la población tiene menos de 25 años. Debemos pensar en qué tipos de desarrollos tecnológicos son adecuados para un perfil demográfico que tendrá una larga vida laboral. Esto contrasta con países como Japón, donde están contentos con la automatización debido al envejecimiento de la población, y están desarrollando robots para acompañar y apoyar a los ancianos. Esto es un desarrollo que coloca a los humanos en el centro, como se suele decir, y no simplemente una inversión impulsada por una idea brillante de un genio tecnológico. Debemos repensar las tecnologías y alinearlas para fortalecer los mercados existentes, invirtiendo en las competencias necesarias y complementándolas. Es importante reconocer que el mercado laboral en Uruguay no es el mismo que en México o Alemania. Por lo tanto, no tiene sentido buscar uniformidad en los desarrollos tecnológicos.
Es importante reconocer que el mercado laboral en Uruguay no es el mismo que en México o Alemania. Por lo tanto, no tiene sentido buscar uniformidad en los desarrollos tecnológicos. Es importante reconocer que el mercado laboral en Uruguay no es el mismo que en México o Alemania. Por lo tanto, no tiene sentido buscar uniformidad en los desarrollos tecnológicos.
Solo un 22% de los expertos en IA son mujeres, según datos recientes de su organismo. ¿Qué acciones recomienda para mejorar la equidad de género en el mercado laboral?
El desequilibrio de género en el campo de la IA es preocupante y refleja desigualdades más amplias en nuestras sociedades. Si no intervenimos, los desarrollos tecnológicos seguirán reproduciendo estas desigualdades. Las mujeres están subrepresentadas en el sector tecnológico, en los proyectos tecnológicos y en las publicaciones, y sobrerrepresentadas en casos de violencia en línea. Para abordar esta situación, es crucial establecer incentivos y normas que promuevan la equidad de género. Por ejemplo, imagínate que los países decidieran que en sus compras gubernamentales, que suelen representar entre el 10% y el 17% del PIB, se destine un 50% de esos recursos a empresas lideradas por mujeres. Con esta medida, no solo se impulsaría la equidad de género, sino que también se comenzaría a transformar el panorama en las universidades y otros sectores relacionados. Estamos en un momento crítico para implementar cambios que ayuden a equilibrar la representación de género en esta área. En Uruguay, es interesante notar que hay más mujeres que se gradúan de la universidad, y un buen porcentaje de ellas se orienta hacia carreras STEM (en inglés, ciencia, tecnología, ingeniería y matemáticas), aunque esto no se aplica de la misma manera en el ámbito de la información y las comunicaciones, lo cual es preocupante. Es fundamental que las universidades prioricen esta cuestión y tomen decisiones efectivas para atraer, educar y crear entornos más amigables con el género. Lo que ocurre, tanto en América Latina como en el resto del mundo, es que las mujeres que ingresan a la ingeniería a menudo se enfrentan a entornos muy masculinos y hostiles. La situación se agrava en las empresas tecnológicas, donde el ambiente puede ser aún más agresivo. Esto lleva a que muchas mujeres que entran en un primer nivel abandonen esas empresas, lo que dificulta el desarrollo de un pipeline (selección de candidatos para ocupar puestos vacantes en una organización) que permita aumentar el liderazgo femenino en el sector. Sin embargo, este problema se puede abordar mediante acciones afirmativas, con incentivos, con concientización y apoyos. Si logramos mejorar la situación en el mundo digital, seguramente tendrá un impacto positivo en la economía y en la sociedad en general.
La educación es otro tema básico para Unesco, ¿cree que es necesario un cambio en el enfoque educativo debido al impacto de estas tecnologías avanzadas?
No se trata solo de tecnología; lo que más necesitamos es un buen profesor de matemáticas. Todas estas herramientas son abstracciones, y volvemos a la necesidad de repensar la educación. Todo se reduce, al final, a apoyar a las personas en su uso. No se trata simplemente de llevar tablets a las aulas, sino de capacitar a los profesores, que a menudo tienen menos conocimientos tecnológicos. En 2010, cuando aún estaba en la OCDE, se realizó un estudio que evaluaba el avance de los países que habían invertido en infraestructura computacional en sus escuelas. Los resultados fueron desalentadores, ya que se introdujeron gadgets como iPads y computadoras sin modificar los contenidos ni capacitar a los docentes. Esto se volvió extremadamente disruptivo, porque las clases se convirtieron en un constante enfrentamiento con la tecnología en lugar de enfocarse en el aprendizaje. Nuevamente, no se trata de la tecnología en sí, sino de cómo se prepara el entorno escolar para utilizarla adecuadamente. Además, es crucial repensar los contenidos educativos. Si vas a estudiar historia repitiendo datos, eso resulta inútil. En un mundo con acceso masivo a la información, encontramos datos con facilidad. ¿Por qué no dedicamos más tiempo a ejercicios de pensamiento crítico? Aunque pueda parecer interesada, soy la que lidera Ciencias Sociales Humanas de Unesco, y creo que deberíamos incorporar más filosofía, que es la ciencia del pensamiento, para fomentar una mirada crítica y no aceptar los desarrollos tecnológicos sin cuestionarlos. El pensamiento crítico es vital, y se enseña muy poco. Curiosamente, en esta era tecnológica, parece que necesitamos menos tecnología y más lectura.
Creo que deberíamos incorporar más filosofía, que es la ciencia del pensamiento, para fomentar una mirada crítica y no aceptar los desarrollos tecnológicos sin cuestionarlos. El pensamiento crítico es vital, y se enseña muy poco. Curiosamente, en esta era tecnológica, parece que necesitamos menos tecnología y más lectura. Creo que deberíamos incorporar más filosofía, que es la ciencia del pensamiento, para fomentar una mirada crítica y no aceptar los desarrollos tecnológicos sin cuestionarlos. El pensamiento crítico es vital, y se enseña muy poco. Curiosamente, en esta era tecnológica, parece que necesitamos menos tecnología y más lectura.
Pensamiento crítico en los tiempos electorales. En Uruguay pronto va a haber elecciones presidenciales. ¿Cómo impacta la IA en todo eso?
Hay un peligro real: la desinformación y la manipulación han existido siempre, pero ahora se difunden de manera masiva y son mucho más efectivas. Gracias a los datos neuronales y los perfiles de los usuarios, se puede hacer un targeting preciso, dirigiendo el mensaje justo donde más duele y movilizando a las personas a través del miedo. Esto, sumado al crecimiento del populismo y la desigualdad, ha llevado a que nuestras sociedades estén muy polarizadas, creando un terreno fértil para las creencias extremas, algo que está ocurriendo en todo el mundo. Es crucial proteger nuestras democracias, especialmente en lo que respecta a la integridad de la información, la transparencia y la veracidad. Por ejemplo, el artículo 230 de la Communications Decency Act de Estados Unidos, que dice que las plataformas no son responsables de los contenidos, necesita ser revisado. No es justo que los medios impresos sean responsables por lo que publican, mientras que las redes sociales, que tienen un enorme poder, no enfrenten consecuencias por lo que se comparte. Cuando hay una radicalización de posiciones y un diálogo cívico de mala calidad, se desvirtúa la discusión. Si apoyas el aborto, te etiquetan de ultraizquierda, y eso crea una cámara de eco que limitan el debate. Por lo tanto, no solo debemos proteger el proceso electoral y mediático, sino también fortalecer nuestra capacidad de diálogo y escucha, incluso cuando los puntos de vista son completamente opuestos. Espero que en Uruguay se fomente un debate más organizado, ya que ha sido una democracia muy estable, con cambios de liderazgo y de tono, pero con procesos sólidos. Confío en que seguirán siendo así.
La desinformación y la manipulación han existido siempre, pero ahora se difunden de manera masiva y son mucho más efectivas. Gracias a los datos neuronales y los perfiles de los usuarios, se puede hacer un targeting preciso, dirigiendo el mensaje justo donde más duele y movilizando a las personas a través del miedo. La desinformación y la manipulación han existido siempre, pero ahora se difunden de manera masiva y son mucho más efectivas. Gracias a los datos neuronales y los perfiles de los usuarios, se puede hacer un targeting preciso, dirigiendo el mensaje justo donde más duele y movilizando a las personas a través del miedo.
En Unesco usted trata de poner límites a la IA y eso debe generar enemigos, ¿siente que están cerca?
¡Por supuesto! Creo que existen intereses creados en un modelo donde el poder económico y político está muy concentrado. Es fundamental reequilibrar esta situación, y eso se logra cuando los gobiernos asumen su responsabilidad de proteger la integridad de los ciudadanos y promueven un desarrollo tecnológico que genere resultados positivos. También es esencial difundir la información que estamos discutiendo, para que los ciudadanos comprendan que no es un problema externo, sino algo que enfrentan a diario. Tengo confianza en que estamos avanzando. Lo que sucedió con la IA generativa fue prometedor. Antes de la aparición de ChatGPT y el reconocimiento del crecimiento exponencial de sus capacidades, así como del acceso al código abierto, los líderes comenzaron a preocuparse. Por ejemplo, el presidente (Joe) Biden emitió una orden ejecutiva para establecer evaluaciones y rendición de cuentas. La Unión Europea también está trabajando activamente en la presentación de legislaciones en sus países. Esto indica que se está adquiriendo conciencia y que, cuando los líderes se preocupan, las cosas empiezan a avanzar. Ahora estamos en un escenario muy diferente al de antes, donde se pensaba que las tecnologías debían decidir por sí solas. La narrativa ha cambiado y estamos en una conversación más constructiva, no sobre imponer reglas a ciegas, sino sobre cómo combinar estos increíbles desarrollos tecnológicos con los resultados que queremos alcanzar como humanidad.
