• Cotizaciones
    martes 04 de junio de 2024

    La inteligencia artificial y la ética

    Sr. Director:

    En la carta de los obispos uruguayos para este año de elecciones, un punto me llamó la atención, porque nadie lo dice, y hay mucho de lo que se sabe poco, pero hay que resaltarlo.

    La inteligencia artificial (IA) no es de ahora. La aplicación de los enormes recursos de los ordenadores digitales a la solución de temas que antes solamente tratábamos los científicos y los más especializados al principio era un secreto militar muy guardado, y después un secreto comercial que los que trabajábamos en eso cuidamos que no se filtrara por nada a las competencias. Recién está saliendo ahora como tema, para venderlo las compañías especializadas como una forma de promocionar programas sectoriales.

    Los obispos dicen:

    “El impacto de la inteligencia artificial (IA) en todos los aspectos de la vida (trabajo, educación, medicina, amistad, amor, política, economía y medio ambiente) crea una gran incertidumbre y nos obliga a repensar lo humano, a repensar lo que somos y qué queremos dejar a las generaciones futuras. La IA no es neutral. Así como es una ayuda que nos impresiona por su capacidad, también está llena de riesgos y peligros para la humanidad. Por eso, es preciso regularla; pero, sobre todo, discernir éticamente hacia dónde queremos encaminar la vida humana en todas sus dimensiones”.

    Vale la pena retroceder un poco para contar una experiencia, que fue dolorosa, y que valida la advertencia de los obispos este año, y que es muy real.

    Hay que estudiar el tema para comprenderlo.

    Veamos detrás de la maquinaria gigantesca de programas inteligentes y que autoaprenden, quién es quién entre quienes la manejan y tienen el poder de detenerla.

    Una IA global, en las manos de algunos tiranos con muchísimos recursos, o de algunos universitarios que vemos ahora en todo el mundo sin criterios firmes de compromiso con la ética, puede ser hasta la ruina del planeta.

    En los años 70, cuando se comenzaba con las microcomputadoras y algunos estábamos experimentando, domando programas en lenguaje de máquina para que fueran una forma de trabajar menos y rendir más, sin decir nada para no descubrirnos, algunos empezamos con la IA. Hace cincuenta años.

    Los que manejan grandes máquinas, grúas, supercamiones, aviones o superexcavadoras me van a entender: uno no los maneja sentándose en el asiento y buscando en un manual, mirando qué palancas va a mover y qué botones va a apretar. Para manejar estos sistemas, se manejan con la mente: uno pone toda la atención en dónde está y qué le pide el sistema, y con un buen entrenamiento, todo el sistema con los programas, los sistemas, las memorias y los lectores de datos y movimiento son como una armadura que uno se viste y pasa a ser una sola cosa con el cerebro de uno que lo maneja. Exacto como en los avatares de la película del Oscar.

    Como al principio no había nada, los programadores y ejecutivos comenzamos desde cero. Antes de recibirme, ya trabajando con un gran ingeniero me apropié de una pequeña máquina alemana, seguí buscando otras estaciones, centrales, y lenguajes, hasta que toda una pequeña empresa corría sobra aplicaciones inteligentes, en secreto. Ya no era solamente en el cálculo, donde las estructuras se creaban, construían, oscilaban y se mantenían firmes o caían en el espacio virtual de la programación, antes de hacerse planos, planillas y memorias.

    Ahora programas calculaban los sueldos, hacían presupuestos y preparaban informes, planificaban obras y controlaban los pedidos de materiales, las compras, los avances de las obras en ejecución. Hasta los planes de trabajo de las cuadrillas, de los técnicos, de los administrativos, y destacaban los apartamientos significativos, los estudiaban y proponían soluciones. Todo tomando en cuenta la experiencia anterior, aprendiendo de las experiencias, los errores y los aciertos, en una gran matriz de datos que la IA consultaba siempre.

    Pronto comenzó también a controlar las instrucciones que yo le daba, basándose en las experiencias anteriores y en el resultado bueno o malo de las decisiones que se habían tomado. Además de uno ver cómo engañarla a veces para que haga lo que uno quiere y no se quedara jugando al tatetí binario, el sistema lo estudia al humano y analiza qué hacer para encauzarlo a uno cuando está distraído. A veces con humor, que hereda del que lo programa. A veces más duro.

    Un día vi a un jefe arquitecto jugando con mi terminal con un programa de metrajes. Al final de cada etapa, el sistema controlaba la razonabilidad de lo pedido, según para qué fuera, y si no era razonable pedía que repitiera el pedido. De repente el arquitecto se levantó, con la cara roja, se rio y salió sin decir nada. En la pantalla, un letrero del programa: “Pedazo de estúpido, mira bien lo que haces esta vez, no juegues y no me hagas perder el tiempo”.

    Incorporando valores éticos que compartimos y aprendí de mis padres y del ingeniero, estas aplicaciones incorporaron valores, y no solamente era la parte técnica y luego la de planificación previa y control de los resultados durante la ejecución de las obras. Siguió el premio a los buenos rendimientos registrados, el pago semanal para acercarse a que cada día el trabajador reciba su salario, y luego la seguridad, el cuidado ambiental, el compromiso de colaborar con proyectos sociales en cada comunidad donde se trabajaba. El sistema inteligente ya aplicaba los compromisos éticos de la empresa como una sola cosa con su misión principal como organización de ingeniería: resolver problemas, cumplir los compromisos con los clientes, los obreros y los proveedores, a tiempo, en forma sustentable y según las condiciones acordadas. Un compromiso ético con la sociedad y con el ambiente.

    En 10 años pasó a ser de pequeña a la cuarta empresa del mercado. Y la más respetada.

    Cuando pasó algo en una filial en Brasil, y volvió un socio de allá. Con otras ideas sobre ética, que aquí era imposible cambiar puesto que en todo el sistema inteligente la ética estaba integrada.

    La única forma que se le ocurrió fue descalificar al ingeniero, que de CEO pasó a presidente de la junta, a mí, que de COO y CDO pasé a ingeniero senior, y entonces hizo apagar el sistema inteligente. Así la ética nueva era maximizar beneficios a los accionistas, y la frase de moda, “hacer como hacen todos”. Fue un desastre, al apagar en parte la IA para manejarla “optimizando beneficios”, pagando menos en calidad, no cuidado de la seguridad y de los obreros, no controlando ya lo más importante, fue la ruina de la empresa por no poder cumplir los compromisos, y murió mucha gente.

    Como un aviso, la IA, como un arma de gran potencia, debe estar manejada por agentes capaces y con una sólida formación en la parte técnica, y más sólida aún en valores morales.

    Hubo después otra experiencia en IA y ética.

    Cuando seguí por otros caminos y con el padre Conrado y el padre Livio encaminamos una organización que desde el principio fue mariana, tomando como estrella del camino la misma inspiración que Bernardo de Claraval, se repitió el crecimiento usando la IA en proyectos desde la planificación conceptual hasta la construcción y puesta en marcha, hasta límites que no soñamos, reconocida desde Canadá, Estados Unidos, España, Francia y Holanda hasta Argentina, Brasil, Israel y China. La IA creó una gran empresa de ingeniería uruguaya desde la nada.

    Pero por no comulgar con la corrupción de un falso gobierno progresista, que progresó solo en los activos que unos terroristas disfrazados de demócratas escondieron para sí y para otros en proyectos sin sentido, fue fatal.

    Mintieron, no pagaron, unos financieros corruptos los ayudaron y cinco mil personas quedaron sin trabajo.

    Y también se perdieron varios proyectos financiados desde el exterior que juntos hubieran hecho de Uruguay un país desarrollado. Se perdieron por un tema ético, por no aceptar pagar por debajo de la mesa, como hicieron ellos en otros proyectos sin sentido, insostenibles, que fracasaron.

    Ahora estoy en un congreso mundial de puertos Pianc en Sudáfrica, presentando las innovaciones de puerto Capurro, y en un centro de convenciones muy moderno, pero que está tan lejos del que íbamos a hacer en Montevideo para la Feria de Valencia que se me caen las lágrimas. El proyecto nuestro de la Feria de Valencia usando el Cilindro era de primerísima línea mundial, con la IA modelando al futuro las opciones para elegir la mejor: solamente el Cilindro tenía la mejor cubierta geodésica disponible; con cortinas y paneles móviles la acústica se preparaba sola desde un festival mundial de coros, a la resonancia de Van Hallen o AC/DC. Como en Las Vegas. Las tribunas se movían, plegaban o desparecían para los shows o los partidos, contenía dos niveles de shopping para disfrutar todos los días, y hasta un centro de alto rendimiento atlético de Diego Forlán, a la altura del que usa Francia para los Juegos Olímpicos y los campeonatos del mundo. También estaba pensado cómo integrar el cuidado ambiental, la integración con la ciudad y el barrio para las escuelas y liceos, en un programa inteligente. Y los 200.000 visitantes por año a las ferias, convenciones y espectáculos mundiales dejarían 500 millones de dólares por año en la ciudad.

    Por falta de ética de algunos, cumpliendo todos los requerimientos con la IA, el proyecto ganador se rechazó y se demolió el Cilindro para hacer por tres veces más caro el Antel Arena.

    Por falta de ética de Mujica, Cosse & Cía. S. A. de algunas empresas y de la CCU, de algún financiero que fue oficial de cuenta de esa IA y después se pasó a un banco que se hizo franquicia para lavar mejor, de los que también los secundaron a los terroristas y violando la carta fundadora que los excluía, terminaron echando a Batalla y Juan Pablo Terra: hasta a Seregni, para robar mejor sin controles como acordaron en abril de 2010 con Mujica.

    Por puro interés en la parte de corrupción que aprendieron de Lula y de Kirchner, se destrozaron no solamente estos proyectos que nos hubieran lanzado al futuro, también hirieron de muerte a una IA de veinticinco años con su ética de valores integrada, en un mecanismo inteligente en sostenibilidad técnica, económica, ambiental, social y moral. Con una empresa testigo así, de ingeniería de punta, nunca hubieran podido organizar esos fracasos costosísimos que nos dejaron, como Gas Sayago, ni otros proyectos donde las carreteras y los puentes salieron tres veces más que los costos reales, como el puente de la laguna Garzón que vetaron a Constantidini con esa ingeniería de IA, para gastar cinco veces más y afectar el ambiente y la cría de langostinos; y un Ferrocarril Central que costó hasta tres veces más mas que los costos mundiales, como constatamos en el desvío de Durazno que no se hizo.

    Los obispos tienen mucha razón: hay que pensar bien las cosas, y este año tener mucho cuidado y elegir bien.

    Ing. José M. Zorrilla

    Cartas al director
    2024-05-29T22:22:56