Democracia, eficiencia y equidad en la era de la inteligencia artificial

5min 1
Nº1964 - al de Abril de 2018
por Rodrigo Arim

La campaña presidencial de Donald Trump para acceder a la presidencia de Estados Unidos tuvo varias facetas atípicas e inquietantes, pero en las últimas semanas tomó estado público una cuyas implicancias de mediano y largo aliento son, por lo menos, perturbadoras. Una empresa dedicada a la consultoría política, Cambridge Analytica, accedió a información detallada de 50 millones de usuarios de Facebook y realizó un dudoso uso para favorecer a Trump. En apariencia, desde la campaña del actual presidente se instrumentó una estrategia de focalización casi individual de las personas, con el objetivo de influir su comportamiento político y electoral.

La tormenta política desatada pone el foco en Facebook. Sin embargo, sus implicancias son bastante más amplias y adquieren dimensiones relevantes al ensamblarlas con los desarrollos actuales de la inteligencia artificial. Más que como una anécdota aislada, lo sucedido es un emergente de una nueva configuración tecnológica y empresarial caracterizada por pocos jugadores que acaparan cuantiosos recursos y capacidad de incidencia en las vidas cotidianas, con desarrollos futuros que posicionan a los actores que controlan grandes volúmenes de datos en una posición de privilegio.

Desde una perspectiva de construcción democrática de las políticas públicas, el problema emergente presenta varias y complejas aristas. En primer lugar y la más obvia, el grado de concentración de la actividad económica que las nuevas tecnologías sostienen. En segundo lugar, la gestión de la privacidad y el uso de la información que relevan por parte de los gigantes tecnológicos modernos —Alphabet, Amazon, Apple, Facebook, Microsoft; pero también las grandes corporaciones chinas, como Alibaba y Tencent— será objeto de preocupación creciente, ante la posibilidad de manipulaciones a gran escala que favorezcan ciertos intereses, incluyendo los de las propias corporaciones.

Pese a sus diferencias, el modelo de negocios de estas grandes empresas descansa en tres pilares centrales: incrementar el número de personas “conectadas” a los servicios on line que proveen, ampliar el tiempo que estas dedican a conectarse y generar actividades en sus respectivas plataformas y, a partir del registro y análisis pormenorizado de esa actividad, generar “valor” vendiendo servicios a los propios participantes o a terceros que pueden obtener ganancias a partir de la identificación masiva de patrones de comportamiento o rasgos personales.

La acumulación, procesamiento, análisis y control de enormes volúmenes de información sobre aspectos centrales de la vida de las personas —qué leen, a dónde van, por cuánto tiempo, cómo se trasladan, con quiénes se relacionan, qué compran, etc.— está en el núcleo de su crecimiento económico. Cosas que son parte de nuestra vida cotidiana, desde los sensores en los motores de automóviles hasta electrodomésticos conectados a Internet, se transforman en minas de información desestructurada capturadas sin que resultemos necesariamente conscientes. Hay quienes afirman que la información es en la actualidad lo que el petróleo y el motor a combustión fueron para el siglo XX: la principal causa de cambios en el entretejido productivo y la base para la continuidad del crecimiento económico.

Como el petróleo en el siglo XX, la información también puede ser fuente de asimetrías de poder e inequidades. Pero a diferencia del petróleo u otros activos clave para las actividades productivas “tradicionales”, la información se obtiene y se procesa a través de otros canales, sin que medien transacciones de mercado típicas. De hecho, una de las áreas más discutidas es la dificultad para definir el derecho de propiedad —institución clave para el desarrollo y crecimiento de las economías de mercado desde hace casi 300 años— sobre la información. Esta, que es el principal insumo para la actividad de las empresas tecnológicas, se obtiene gratuitamente, sin que medien intercambios conscientes.

En los casos donde existen “intercambios de servicios” —cuando se usa el buscador o el e-mail de Google, o se disfruta de la conectividad con otras personas en Facebook, a cambio de autorizaciones genéricas al uso de la información generada— la comprensión exacta de lo que se cede dista de ser información simétrica entre las partes y las disparidades de poder son evidentes. Facebook necesita de sus usuarios para comercializar propaganda focalizada, que llegue a quienes muestran patrones de funcionamiento en la red que los hacen claros clientes potenciales. Su valor como empresa radica en que muchos agentes participen en la red —¿qué valor le daríamos a Facebook si nuestros “amigos” no estuvieran allí?— pero un usuario en particular es irrelevante para la compañía. Es impensable establecer, sin que medien diseños institucionales novedosos, una negociación de venta de la información que la persona genera hacia la compañía. En otros casos, como cuando se usan dispositivos hogareños incorporados a la “Internet de las cosas” , la relación es aún más ambivalente.

Los algoritmos que sostienen un nuevo impulso de la inteligencia artificial están valorizando aún más la información: ya no vale solo para vender publicidad, sino que se abren nuevos espacios de acción y las grandes corporaciones tecnológicas desarrollan robustas apuestas al desarrollo de nuevas áreas de negocios. Grandes volúmenes de información se necesitan para entrenar a las máquinas, para que mejoren tareas como el reconocimiento facial o la evaluación de las habilidades de candidatos a un puesto en función de sus expresiones orales u escritas. Recientemente, investigadores de la Universidad de Stanford, Columbia y de Microsoft comenzaron a abogar por tratar la generación de información como una actividad laboral, en tanto es producto del quehacer cotidiano de los usuarios.

Son justificados los miedos sobre el uso que los gigantes tecnológicos puedan hacer de la información para construir fuertes barreras a la entrada a potenciales competidores y extender sus dominios a nuevas áreas de la economía; como sobre el uso de información que obtienen en un marco profundamente asimétrico. Cada vez más, investigaciones académicas abogan por arreglos institucionales que “equilibren” el poder relativo de los generadores de información, los usuarios, y de las grandes empresas tecnológicas. Tanto criterios de eficiencia como de equidad implican que la distribución de los ingresos generados a partir del uso masivo de información tienda a favorecer más a los usuarios (1).

Necesariamente, las reglas para la regulación pública deberán cambiar; a riesgo de habilitar una concentración de poder económico (¿y político?) que ubique en un lugar de fuerte subordinación a empresas y ciudadanos que no se encuentren en el centro neurálgico del desarrollo y apropiación tecnológica. Cómo hacerlo es un área de debate y elaboración. Menos claro es cómo deberían operar los países pequeños. Pero el principal riesgo es la ausencia de reflexión, en contextos donde el tamaño relativo y la importancia de las economías de red —cuantos más usuarios, más incentivos para participar en las plataformas de las empresas— hace bastante difícil de prever el surgimiento de fuerzas compensatorias emergentes en ausencia de políticas.

(1) Ver por ejemplo, Arrieta , I. , Goff, L., Jiménez Hernández, D. , Lanier, J. y Weyl, E. Glen (2017). Should We Treat Data as Labor? Moving Beyond ‘Free’ . American Economic Association Papers & Proceedings, Vol. 1, No. 1.

✔️ Género y discriminación en el mundo académico

Regístrate sin costo, recibe notas de regalo.