Kate Crawford [i], investigadora, académica y una de las voces más destacadas en los estudios críticos sobre inteligencia artificial (IA), ofrece en su obra Atlas de la Inteligencia Artificial una exploración profunda y multidimensional de esta tecnología.
Publicado a fines de 2022, puede considerarse un texto vigente y clave para entender como gran parte de los sistemas de IA son sistemas de lógica circular, donde los datos y los sistemas de entrenamiento son formas de poder y política que se presentan como procedimientos objetivos.
El libro es un recorrido revelador por las implicancias materiales, laborales, políticas y sociales de los sistemas de IA, desmantelando la idea de que esta tecnología es etérea, objetiva y universalmente beneficiosa.
De manera contundente Crawford afirma: “La IA no es artificial ni inteligente. Mas bien existe de forma corpórea, como algo material hecha de recursos naturales, combustibles, mano de obra (casi siempre precarizada), infraestructuras, logísticas, historias y clasificaciones. Los sistemas de IA no son autónomos, racionales ni capaces de discernir algo sin un entrenamiento intensivo”.
A través de ocho capítulos, Crawford traza una cartografía crítica que conecta la IA con las estructuras de poder, el extractivismo, la desigualdad, la circulación del capital y el impacto ambiental. Se trata de sistemas diseñados para servir a los intereses dominantes ya existentes: son, finalmente, un certificado de poder.
El punto de partida del libro es el capítulo uno denominado Tierra, donde aborda una pregunta fundamental: ¿De qué está hecha la IA? Este capítulo revela cómo los recursos minerales son esenciales para la fabricación de hardware y para la infraestructura de los sistemas de IA. Crawford se centra en el impacto devastador de la extracción de litio, cobalto y otros minerales críticos, enfatizando cómo estas actividades perpetúan desigualdades globales y afectan de manera desproporcionada a comunidades del sur global.
La autora también vincula esta materialidad con la crisis climática, denunciando cómo la huella ecológica de la IA contradice las narrativas de sostenibilidad promovidas por las corporaciones tecnológicas. Este capítulo sienta las bases para entender la IA no solo como un conjunto de algoritmos, sino como un sistema intrínsecamente ligado a la explotación de la naturaleza y las personas. La descripción de la IA como algo en esencia abstracto es una narrativa interesada en ocultar la energía, minerías, la mano de obra y el capital que se necesita para producirla.
En el capítulo dos Crawford desmonta la idea de que la IA elimina la necesidad del trabajo humano. Por el contrario, este capítulo titulado El trabajo muestra cómo depende de una fuerza laboral precarizada que realiza tareas invisibles pero fundamentales, como el etiquetado de datos y la moderación de contenido. Estas actividades, llevadas a cabo en su mayoría por trabajadores de países con economías dependientes y por lo tanto menos desarrolladas, están marcadas por bajos salarios, condiciones laborales abusivas y una constante vigilancia.
La automatización, lejos de ser un proceso neutro, externaliza y desvaloriza el trabajo humano, ampliando las desigualdades económicas y sociales. Crawford humaniza a estos trabajadores y denuncia la hipocresía de las empresas tecnológicas que promocionan la IA como una fuerza transformadora mientras explotan a las personas que sostienen sus sistemas. Mas allá de los ingenieros y programadores muy bien pagados, el texto revela otras formas de trabajo para que los sistemas de IA funcionen. Desde los mineros que extraen estaño en Indonesia a los trabajadores de crowdsourcing de la India que completan datos para sistemas de Amazon, a los trabajadores de las fábricas de iPhone en China, la fuerza laboral de las IA es mucho mayor que la presentada por la versión idílica que crea la ilusión de la automatización.
Finalmente, el capítulo ilustra cómo los usos de IA en los lugares de trabajo potencian las desigualdades y la explotación al darle más control sobre los trabajadores a los empleadores.
En el capítulo tres los datos son la piedra angular de la IA, pero Crawford muestra que su recopilación no es un acto neutro ni objetivo. Este capítulo explora el extractivismo digital, que erosiona la privacidad y consolida el poder de las corporaciones tecnológicas a través de la recopilación masiva de datos personales.
Se describe un saqueo generalizado de los espacios públicos: se han capturado los rostros de las personas en las calles para entrenar sistemas de reconocimiento facial, se han consumido los feeds de las redes sociales para construir modelos de lenguaje predictivos, se han intervenido los sitios donde la gente guarda sus fotos personales o debates en línea para entrenar algoritmos[ii] de visión artificial y lenguaje natural.
La autora critica cómo estos datos reflejan y amplifican los prejuicios sociales, perpetuando desigualdades de género, raza y clase. Además, analiza los riesgos inherentes de confiar ciegamente en las promesas del “big data” como herramienta para la toma de decisiones, subrayando la necesidad de abordar las implicancias éticas de esta práctica.
En el capítulo cuatro, Crawford examina cómo la clasificación algorítmica, una función central de la IA, perpetúa estereotipos y exclusiones. Desde sistemas de reconocimiento facial que discriminan por raza hasta algoritmos médicos que marginan a las minorías, la autora muestra que estas herramientas tecnológicas no son objetivas, sino que reflejan los prejuicios de quienes las diseñan.
Estas clasificaciones están cargadas de valoraciones ideológicas, al servicio de inculcar una manera de ver y explicar el mundo presentada, a su vez, como un alarde de neutralidad científica.
Crawford subraya que la clasificación no es solo una actividad técnica, sino un acto profundamente político que impacta en la vida de las personas. Este capítulo denuncia la violencia simbólica y material que surge de categorizar a los seres humanos de manera arbitraria y sin consideración por la complejidad de sus identidades.
El reconocimiento emocional, una promesa de la IA, es objeto de un escrutinio riguroso en el capítulo cinco denominado Afectos. Crawford critica la pseudociencia que subyace en los sistemas de detección de emociones, demostrando que estas tecnologías son inherentemente defectuosas y no pueden captar la complejidad de las emociones humanas. Ni mucho menos es posible establecer una relación univoca y universal entre expresiones faciales y estados internos emocionales de todas las personas.
La autora también aborda los usos de estas herramientas en contrataciones, vigilancia y educación, donde a menudo se utilizan para justificar decisiones discriminatorias. Este capítulo destaca los peligros de confiar en sistemas que prometen interpretar emociones pero que, en la práctica, refuerzan formas de control, persecución y exclusión.
Señala que el problema de simplificar al extremo lo que es inmensamente complejo responde necesidades del mercado. Un caso de violencia epistemológica que, citando a Nietzsche, se trata de “la falsificación de lo múltiple e incalculable en lo idéntico, similar y calculable”. El aprendizaje automático utiliza lo que sabe para predecir lo que no sabe.
En el capítulo seis llamado Estado, Crawford analiza el uso de la IA por parte de los gobiernos para vigilancia y control social. Desde el reconocimiento facial hasta los algoritmos predictivos, estas herramientas consolidan el poder estatal a expensas de los derechos civiles.
Con abundante documentación y erudición, el capítulo ilustra el rol de las agencias de seguridad y militares en el desarrollo de los primero 20 años de IA, y cómo esta impronta creo las lógicas y marcos epistemológicos que subyacen a estas tecnologías. Las profundas interconexiones entre la industria tecnológicas y el sector militar marcan la agenda del desarrollo de la IA.
La autora denuncia cómo estas tecnologías, lejos de ser imparciales, están diseñadas para criminalizar a comunidades marginadas y reforzar las dinámicas de poder y control existentes. Este capítulo es una advertencia sobre los peligros de implementar la IA tal como está desarrollada, sin una regulación adecuada que priorice la justicia social y los derechos humanos.
En el capítulo denominado Poder, Crawford explora la concentración de poder en manos de las corporaciones tecnológicas que dominan el desarrollo de la IA. Estas empresas no solo controlan los recursos y el talento, sino que también influyen en las políticas globales para mantener su hegemonía. La IA es uno de los mejores ejemplos de ganancias privadas subsidiadas por dinero público.
Crawford expone cómo estas corporaciones concentran recursos, talento y datos, creando monopolios que limitan la competencia y la innovación. Más preocupante aún es cómo estas empresas dictan las reglas del juego en torno a la regulación tecnológica, haciendo lobby para mantener un entorno legal que les favorezca mientras evaden responsabilidades sobre los daños sociales y ambientales de sus actividades.
La autora analiza cómo estas corporaciones financian investigaciones académicas y establecen narrativas que benefician sus intereses, cuestionando la independencia de la ciencia en este campo. Los centros de poder se han fortalecido gracias a herramientas que a todo lo ven con la lógica del capital, la vigilancia y la militarización.
Crawford concluye que esta acumulación de poder no es accidental, sino una característica inherente del modelo económico de las Big Tech, que prioriza la extracción de recursos y datos por encima del bienestar colectivo.
El libro concluye hablando del Espacio, con una reflexión sobre el extractivismo espacial, impulsado por multimillonarios como Jeff Bezos, Elon Musk y Richard Branson. Estos proyectos, que incluyen la minería de asteroides y la colonización de Marte, representan una extensión de las lógicas extractivistas que ya han devastado la Tierra.
La minería espacial, presentada como una solución a la escasez de recursos, refleja una mentalidad tecnocrática que prioriza el lucro sobre la sostenibilidad. Crawford destaca que esta carrera espacial moderna no está motivada por el avance científico o el bienestar colectivo, sino por la ambición de consolidar el control sobre los recursos futuros y ampliar las esferas de influencia económica y política de las élites tecnológicas.
Crawford conecta estas iniciativas con las tecnologías de vigilancia y control planetario, que dependen de la IA para monitorear recursos y coordinar actividades. Lejos de ser una solución a los problemas terrestres, el extractivismo espacial refleja una mentalidad que prioriza el lucro sobre la sostenibilidad. La autora advierte sobre los peligros de replicar las desigualdades y daños ecológicos en el espacio, llamando a repensar nuestras prioridades tecnológicas.
Conclusión general: más allá de la tecnología, el capitalismo
Crawford redefine la IA como un sistema profundamente social y político, desmontando la idea de que es una herramienta neutra o universalmente beneficiosa. Su análisis revela las desigualdades, los prejuicios y las contradicciones que subyacen a su desarrollo, ofreciendo una crítica contundente al modelo económico y político que la sostiene.
Con una inmensa honestidad intelectual señala en varios momentos que las formas más dañinas de opresión, explotación y discriminación no desaparecieron por los aportes de la investigación científica y la critica ética.
Crawford subraya que un cambio estructural es imprescindible para garantizar que la tecnología beneficie a la humanidad en su conjunto, en lugar de perpetuar los privilegios de unos pocos. El Atlas de Inteligencia Artificial es una invitación a cuestionar las narrativas dominantes y a trabajar por un futuro tecnológico más justo y sostenible, que solo es posible con un cambio del sistema económico y social que sustenta a la tecnología actual.
[i] Kate Crawford es investigadora principal en Microsoft Research, profesora visitante en el MIT y cofundadora del AI Now Institute, un centro de investigación dedicado al impacto social de la inteligencia artificial. Con más de dos décadas de experiencia, su trabajo explora las dimensiones éticas, políticas y ecológicas de la tecnología. Ha publicado en revistas como Nature y Science, consolidándose como una de las voces más influyentes en el campo de los estudios críticos sobre IA. “Atlas de Inteligencia Artificial” es un testimonio de su compromiso con un análisis profundo y riguroso de las tecnologías que moldean nuestro presente y futuro.
[ii] Gómez, R. Á. (2022). Breve diccionario Psicológico-Político de redes sociales y la era digital. 1ra. Ed, Editorial UNC.