La semana-década de la IA

La predicción dominante respecto a un modelo de IA que alcance AGI suele referir al año 2027, para el cual faltan menos de cuatro meses. Desde mi anterior columna en Búsqueda hasta el momento de escribir este artículo se han sucedido rápidamente acontecimientos que han energizado esa predicción y, corresponde decirlo, causado pánico en ambientes especializados.

Para imaginar superinteligencia a gran escala, pensemos en grandes nombres: Leonardo da Vinci, Albert Einstein. Nadie puede discutir sus legados de producción científica y técnica, pero incluso ellos tuvieron fuertes limitantes. Su pico de producción intelectual duró una etapa minoritaria de sus vidas. Incluso dentro de esa parte, estaban limitados por su energía, su humor, su necesidad de descansar, su inspiración oscilante.

La hipotética superinteligencia o AGI no tendría esas limitantes: se le daría un problema sofisticado y se le diría que lo trabajase hasta llegar a una respuesta, como parece haber ocurrido con las ecuaciones Navier-Stokes. Una vez que se presiona ese botón es posible que en poco tiempo se resuelvan problemas que llevaban décadas sin solucionarse. Es una cuestión de accionar ininterrumpido y de escala: como si tuviésemos miles de copias de esos grandes cerebros dedicados sin parar a atacar problemas complejos.

Otro ejemplo es la ciberseguridad: el uso de IA para escanear programas de software y descubrir en ellos vulnerabilidades críticas es un éxito notable, pero no total. Los dueños de esos software reciben informes detallando los bugs a resolver, ¿pero tienen los recursos en plantilla para rescribir esa parte del código ya mismo? Porque, para hacer las cosas bien, cada vulnerabilidad debe revisarse manualmente y mitigarse (o “parchearse”) siguiendo normas establecidas. Para dar una idea: en proyectos como Mozilla Firefox, las vulnerabilidades a procesar por mes han aumentado en un factor superior a 10x.

Una vez apuntada a un problema, la superinteligencia genera entonces enormes volúmenes de hallazgos a procesar. Hoy son vulnerabilidades en software. Mañana pueden ser proteínas o anticuerpos con aplicaciones oncológicas, pero que queden pendientes de validación en ensayos clínicos. También se producirán efectos dañinos para la sociedad: deepfakes, spam, estafas, malware y otros aún peores.

Alguien va a tener que procesar estas novedades, tanto las buenas como las malas. Pero en todos los planos (individual, empresarial o nacional) hay limitaciones de capacidad. Por ejemplo, toda persona está limitada, al igual que Leonardo y Einstein, por la cantidad de tareas de las que puede ocuparse en un día.

También están limitadas las empresas. Incluso las más grandes pueden verse saturadas por un volumen superinteligente de vulnerabilidades a mitigar. Los peor preparados son los Estados del mundo, con su abundancia de tomadores de decisión con nula comprensión de temas técnicos, mucho menos de tecnologías avanzadas.

Llámese AGI o superinteligencia, la IA va a saturar los cuellos de botella de las personas, empresas y sociedades. Va a haber crecientes listas de problemas potencialmente resueltos, con soluciones listas para ser probadas, pendientes de implementación por limitantes humanos. Peor aún, también entrarán en el embudo esos productos negativos de la IA.

Una reacción previsible es agotamiento y hostilidad ante la IA. Todas las eras han tenido su populismo tecnófobo. Esta semana, el mayor pánico alrededor de la tecnología viene de los propios empleados e investigadores que están desarrollándola.

Un problema de rechazar la IA es este: ¿qué pasará cuando un problema solucionado por la IA sea ignorado por incompetencia humana y siga causando daños o incluso muertes? Habrá personas y fuerzas que exigirán explicaciones y tendrán su cuota de razón. Su reacción será favorable a usar IA de forma agresiva en medicina y otras disciplinas.

Quien haya trabajado mucho con IA sabe cómo solucionar el problema del embudo: eliminarlo removiendo al humano del medio. Es decir, automatizar con más IA el procesamiento de los hallazgos y soluciones generados con IA. Estos procesos recursivos son los que asustan a muchos y alimentan temores distópicos. Será deseable evitarlos tanto como la postura tecnófoba, sin caer tampoco en el inevitable “control político” de la IA que muchos reclamarán como tercera vía.

Nadie tiene la respuesta a este dilema: es la pregunta de nuestro tiempo.