En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, tu plan tendrá un precio promocional:
* Podés cancelar el plan en el momento que lo desees
¡Hola !
En Búsqueda y Galería nos estamos renovando. Para mejorar tu experiencia te pedimos que actualices tus datos. Una vez que completes los datos, por los próximos tres meses tu plan tendrá un precio promocional:
* Podés cancelar el plan en el momento que lo desees
¡Hola !
El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
Una IA no debería tratarse como fuente de verdad ni como una fuente neutra de conocimiento, incluso después de haberle dado todas las instrucciones que se crean necesarias para mitigar su sesgo más evidente; ¿por qué?: porque la IA es amoral, un dispositivo que carece de discernimiento propio, en el sentido humano
Alcanza con señalar algunos problemas de la inteligencia artificial (IA) para ser metido en la bolsa de los luditas tecnófobos. La reacción casi automática de muchos de nosotros, como miembros de una sociedad cada vez más dependiente de la tecnología, es atribuirle un sentido destructivo al comentario. Peor aún, conozco gente que comienza a considerar lo que sea que conteste una IA como la conclusión última, la verdad definitiva sobre un asunto, el que sea. Una especie de juez supremo, infalible e ideológicamente neutro.
Registrate gratis y seguí leyendo
Accedé a artículos gratuitos y newsletters de Búsqueda y Galería.
El venció tu suscripción de Búsqueda y Galería. Para poder continuar accediendo a los beneficios de tu plan es necesario que realices el pago de tu suscripción.
Sin embargo, cuando se trata de asuntos humanos, es claro que la IA está lejos de ser neutra o de poseer una verdad última que nos está vedada a nosotros, pobres humanos atravesados por nuestros prejuicios y siempre con poca información a mano. “Tratar a una IA como una fuente de verdad es un error de categoría. Sirve para saber qué dice el promedio de internet sobre un tema, pero el criterio para evaluar si eso es cierto, justo o fiel a un texto sigue siendo exclusivamente humano”. Eso fue lo que me contestó la IA Gemini cuando le pregunté por su constante sesgo woke en los asuntos sociales.
Más que seguir un debate al estilo de estos tiempos polarizados me interesa señalar un par de problemas con los que me he encontrado al usar la IA para mi trabajo de periodista de opinión con prejuicios de sociólogo. El primero: una IA no debería tratarse como fuente de verdad ni como una fuente neutra de conocimiento, incluso después de haberle dado todas las instrucciones que se crean necesarias para mitigar su sesgo más evidente. ¿Por qué? Porque la IA es amoral, es un dispositivo que carece de discernimiento propio, en el sentido humano. Las respuestas que pueda dar son resultado de los datos utilizados en su entrenamiento, en la selección de esos datos y en toda una serie de reglas internas (diseñadas por sus creadores, que, esos sí, tienen juicio, agenda e intereses).
No hace falta asignarle intenciones a la tecnología. Es solo que la IA es hija de su época, en forma y contenido. A la vez, la IA no es un espejo pasivo de lo que existe en Internet. Es una máquina de reorganizar información a través de decisiones que son, por un lado, técnicas, y, por otro, humanas. Por eso es relevante saber qué se seleccionó, qué se transformó, qué fue dejado de lado y qué fue jerarquizado. O al menos tener claro que todo eso ocurrió antes de que la respuesta apareciera en nuestra pantalla.
Un ejercicio interesante en este sentido: preguntarle a una IA si, en caso de haber existido durante el ascenso de los totalitarismos en el período de entreguerras del siglo XX y dado que sus respuestas jerarquizan las ideas más populares de momento, podría haber tenido sesgo autoritario. En resumen, que si lo que hoy nos responde como “cierto” o “natural” o “razonable” no está marcado desde la raíz de sus datos por cierto espíritu de época. Le hice la pregunta a Gemini y me contestó: “Es perfectamente posible. Y creo que sería intelectualmente deshonesto responderte que no”.
Una IA podría reproducir los criterios de “calidad” y “pertinencia” a la hora de seleccionar sus fuentes y los datos que decide presentar sin saber que estos criterios son históricos, no una verdad permanente y eterna. Peor aún, podría usar esos criterios para descalificar cualquier crítica o cuestionamiento a ellos. Nadie, ni siquiera la IA, puede pararse y mirar la realidad desde un punto que sea exterior a la historia y el devenir humanos. Cuando le pregunté al ChatGPT si podía garantizar que los procedimientos para volver visibles sus supuestos de fondo, criticarlos y, eventualmente, corregirlos (algo que es la máxima aspiración de la racionalidad humana desde la ilustración para acá), me dijo: “Esa es una pregunta que no puedo responder invocando mis propios criterios de calidad”.
¿Qué quiso decir con eso? Pues que hay una diferencia entre que una IA pueda aplicar criterios rigurosos de validación y que tenga la capacidad de analizar críticamente la legitimidad de dichos criterios. Por ejemplo, una IA puede considerar confiable un dato porque lo recogió de un estudio de una universidad prestigiosa. Como es obvio, esa universidad opera dentro del marco intelectual dominante en la sociedad. Muchas veces, ese marco tiene dentro de sí supuestos aproblemáticos de fondo y que por eso no suelen cuestionarse. En resumen, que la respuesta de la IA puede ser perfectamente coherente con los estándares institucionales y, al mismo tiempo, reproducir los prejuicios (el ruido, diría Ariana Harwicz) de una época. Volviendo a la Alemania de los años treinta, la existencia de universidades y de la ciencia no impidió que el racismo impregnara parte de la producción intelectual de entonces.
El segundo: ¿qué ocurre con toda la información y el conocimiento relevantes que no fueron incluidos o jerarquizados durante el entrenamiento de la IA? En particular, qué ocurre con todo aquello que es fuente directa: testimonios, memorias, información recolectada en el terreno. Por ejemplo (y por seguir con los totalitarismos del siglo XX), ¿qué ocurre con el testimonio de un soldado francés de la primera guerra que fue editado por una pequeña editorial y que nunca fue digitalizado? Esa memoria existe, pero no es parte del entrenamiento de ninguna IA. Se dirá que ese testimonio seguramente no sea relevante. Pero lo importante no es eso, sino que, al no ser incorporado al corpus de la IA, ya no tenemos forma de tasar su calidad porque no existe en ese universo. Y la respuesta que nos proporcione la IA tendrá siempre esa ausencia dentro de sí. El modelo de lenguaje puede conocer la existencia del libro o del testimonio por referencias, pero no conoce la fuente primaria, el testimonio en sí.
Es difícil medir cuánto del conocimiento humano quedó fuera del entrenamiento de los modelos comerciales de IA. De hecho, no sé si existe una forma de cuantificarlo. Lo que sí sabemos es que la posibilidad de que ese conocimiento llegue a la vitrina general del conocimiento comercializable es desigual y está marcada por muy concretos desequilibrios económicos y de poder. Las diferencias no son neutras: aquellas sociedades e instituciones que tuvieron y tienen más recursos para reproducir sus conocimientos y su visión de las cosas están más presentes. En muchos casos, hasta el punto de convertirse en el preset de la IA, ese que hay que intentar desmontar con instrucciones previas. No es casual que, cuando se trata de asuntos sociales, la primera respuesta, la más “natural” para las IA comerciales, sea una que se rige por las categorías woke sin cuestionarlas y hasta sin darse cuenta de que son eso, apenas un marco. Uno que, además, no ha demostrado ir más allá de las buenas intenciones, con métodos discutibles y resultados por lo general escasos.
Como colofón, cuando le mostré a la IA el ejemplo del racismo dentro de la producción intelectual en la Alemania de los años treinta, no dudó en aceptarlo y darlo por bueno. Cuando le mostré el párrafo sobre la influencia de lo woke en las universidades de elite y cómo eso impacta en las IA, de inmediato cuestionó la afirmación y pidió datos. Yo no creo en las brujas, pero que las hay, las hay.