Amazon Echo, un nuevo dispositivo tecnológico para el ámbito doméstico, disponible en Estados Unidos desde 2015, se acaba de lanzar en España. El altavoz inteligente, llamado Alexa, responde a preguntas básicas y diversas peticiones. Aunque el objeto físico no es más que un pulcro cilindro de plástico equipado con un microcomputador y una matriz de sensores, su poder y complejidad real se encuentra en otro lugar, lejos de la vista. Amazon Echo es un oído en el hogar, un agente de escucha producto de un complejo entramado de trabajo humano, datos y recursos planetarios.

Ayudar a desvelar, visualizar y comprender esa complejidad es el propósito de Anatomía de un sistema de inteligencia artificial, una reciente publicación fruto de la colaboración entre Kate Crawford y Vladan Joler. Crawford es investigadora de Microsoft y profesora distinguida de la Universidad de Nueva York, donde es cofundadora de AI Now, un instituto que examina las implicaciones sociales en el desarrollo de la inteligencia artificial. Joler es profesor en la Academia de Artes de la Universidad de Novi Sad y fundador de la Fundación Share, donde lidera un laboratorio especializado en cartografiar los diferentes aspectos técnicos y sociales de las infraestructuras invisibles de internet, la explotación del trabajo digital y la transparencia algorítmica. La publicación se compone de un ensayo y un mapa de gran formato, disponibles on line, y que se puede ver estos días en forma de mural de dos por cinco metros en un exhibición en el Museo Victoria & Albert de Londres. 

Tomando como caso de estudio el Amazon Echo, Crawford y Joler se preguntan sobre cuáles son los materiales, infraestructuras y trabajo humano necesarios para construir este tipo de sistemas. Con un enfoque interdisciplinar y un extenso repertorio conceptual, desde abundantes referencias historiográficas a la crítica marxista al trabajo digital, Anatomía de un sistema de inteligencia artificial representa la vanguardia de la investigación actual sobre las cajas negras de los productos tecnológicos.

El mapa comienza y termina con la corteza terrestre, detallando todas las transformaciones y movimientos geológicos, desde la extracción del litio hasta que los productos son desechados. Entre estos dos momentos se encuentran muchas más capas que conforman un fractal de explotación de recursos humanos y naturales, cadenas globales de suministro, concentraciones de poder corporativo y geopolítico, y consumo continuo de energía.

El alcance del trabajo humano y de los niveles de explotación es abrumador. Del trabajo forzado en las minas para extraer los materiales que conforman la base física de las tecnologías de información y comunicación al, a veces peligroso, trabajo de fabricación y ensamblaje de hardware bajo control estricto en las fábricas chinas. De la explotación de los trabajadores especializados subcontratados en los países del Sur que etiquetan conjuntos de datos de capacitación en IA, a los empleados que limpian los vertederos de desechos tóxicos. Estos procesos crean nuevas formas de acumulación de riqueza y poder, que se concentra en una capa social muy delgada. Como un faraón contemporáneo, en la cima de la pirámide está el jefe de operaciones de Amazon, Jeff Bezos. Su salario en un solo día equivale al de 300.000 años de trabajo de los humanos en la base de la pirámide de producción.

En este momento del siglo XXI, Anatomía de un sistema de inteligencia artificial ejemplifica la necesidad de nuevos mapas que nos ayuden a entender hacia donde está evolucionando el capitalismo y la forma emergente de extractivismo que está en marcha: una que llega a los rincones más remotos de la biosfera y a las capas cognitivas y afectivas más profundas del ser humano.

Entrevisté a Vladan Joler en un tren camino a Amsterdam, donde ambos participamos en Vertical Atlas, un laboratorio de investigación que explora maneras innovadoras de mapear las nuevas geografías tecno-políticas del presente.

Con Share Lab lleva ya un buen tiempo produciendo diferentes cartografías críticas que desvelan las redes, infraestructuras y algoritmos que están detrás de nuestros dispositivos tecnológicos y que son generalmente invisibles para el público, ¿Cuáles son vuestros métodos de trabajo tanto en la parte de la investigación como en la del puro diseño? 

Digamos que no hay un método directo. Para cada mapa que hemos hecho en los últimos años hemos empleado diferentes aproximaciones y métodos. Empezamos con un tipo primitivo de visualizaciones, intentando entender cómo son y cómo funcionan las redes e infraestructuras invisibles que están detrás de nuestros dispositivos. Para ello probamos diferentes herramientas. Si los mapas anteriores se encuadraban en la categoría de la visualización de datos, este último, Anatomía de un Sistema de Inteligencia Artificial, es más abstracto. Se propone desentrañar amplios procesos que operan en múltiples capas y a una escala planetaria.  

En este nuevo mapa descifráis las cajas negras que hay detrás de un dispositivo de inteligencia artificial de una de las corporaciones más poderosas en cuanto a su capacidad para influenciar el devenir de los sistemas productivos y la sociedad actual de consumo. ¿Por qué Amazon? ¿Y por qué entender la IA es políticamente urgente hoy en día?  

Excepto en algunos campos nuevos que tienen que ver con la inteligencia artificial, como la recogida y etiquetado de datos, el 95% del mapa del Amazon Echo y sus ramificaciones globales básicamente sería el mismo para la mayoría de los dispositivos tecnológicos contemporáneos, como el Iphone. Lo que es importante para mí del mapa es el intento de cambiar el enfoque de la conversación cuando hablamos de inteligencia artificial, más allá de las dos perspectivas habituales. La primera perspectiva es la de perder los trabajos. La segunda es la de las redes neuronales y la inteligencia artificial como una caja negra. Pero este mapa cuenta una historia diferente. No habla de la caja negra dentro de la IA sino de la caja negra de cómo son hechos los productos. Cómo son sus vidas y cómo mueren.

Antes habíamos explorado oscuras cajas negras como las de la fábrica algorítmica de Facebook. Esta vez nos dimos cuenta que el propio proceso de fabricación de los productos tecnológicos es una caja negra en sí mismo. Estos procesos son hoy en día tan complejos que son muy difíciles de seguir, entender y mapear. Intel, por poner un ejemplo, demora cuatro años en investigar sus propias cadenas globales de suministro. Hacer esto desde fuera como intentamos nosotros es casi imposible. La complejidad de las relaciones en la producción de los dispositivos tecnológicos es enorme y desentrañar esto es para mí es lo más interesante. Siendo honesto, la mayoría de nosotros no morirá por ser escuchado por Amazon Echo. Pero sí muchas otras personas morirán a lo largo de la cadena global de suministro de este y de muchos otros productos. Es la realidad dura de los trabajadores precarios sometidos a durísimas condiciones laborales.

Sabemos que los mapas no son una mera representación de la realidad sino que en sí mismos tienen la capacidad de producir la realidad. ¿Qué efectos desea que este mapa tenga? ¿A quién está dirigido?

Pues nunca sabes a ciencia cierta los efectos que un mapa particular tendrá. En el caso de nuestra última publicación, una parte del mapa se desveló particularmente evocadora. Se trata de la ilustración en una patente de Amazon que representa una jaula de metal destinada al trabajador, equipada con diferentes complementos cibernéticos, que se desplaza a través del almacén por el mismo sistema robotizado que mueve las mercancías de los estantes.

Esta imagen llegó a los medios de comunicación y captó la atención del público, que se quedó fijada en esta historia concreta. Esa pequeña parte de la cartografía tomó vida propia. Así que el mapa siempre encuentra de alguna manera el camino hacia la gente a la que realmente le importa. Aunque no espero ningún cambio radical. Eso sería naif. Pero si un estudiante de cualquier disciplina en una universidad del Sur global lee el mapa y lo usa como una herramienta con la que iniciar sus propias investigaciones en una dirección particular, eso es exactamente para lo que lo trabajamos. Si esto pasa, si pequeñas partes del mapa son exploradas en profundidad y se hacen más grandes por otras personas o investigadores, estaré feliz al respecto.

***

Las investigaciones posibles a partir del trabajo de Crawford y Joler son varias. Por ejemplo, una que analice y visualice las implicaciones de la contratación de militares de carrera para comandar equipos de cientos de trabajadores en los almacenes de Amazon en España. 

Otra posible ampliación de Anatomía de un sistema de inteligencia artificial es el mapeo de las resistencias. Estas incluyen desde movilizaciones por derechos laborales, como la reciente huelga europea de trabajadores de Amazon, a productos tecnológicos éticos pensados para durar y basados en minería y cadenas de suministro justas, como el FairPhone. 

------------------------------

Pablo DeSoto es profesor visitante en el Departamento de Arquitectura y Urbanismo de la Universidad Federal de Paraíba en Brasil. Su web personal:http://pablodesoto.org