Hay Festival Arequipa 2020: Shoshana Zuboff y el capitalismo de la vigilancia

A finales de los años ochenta, Shoshana Zuboff, profesora de la Universidad de Harvard, escribió uno de los libros fundamentales en el campo de los estudios de las organizaciones y la tecnología: La era de las máquinas inteligentes: el futuro del trabajo y del poder. El libro describe minuciosamente, a partir de casos de estudio, cómo se venían traduciendo muchas operaciones mecánicas y físicas en información digital. A partir de esta investigación Zuboff identificó una dualidad –hasta entonces inadvertida– en las tecnologías de la información: su capacidad de automatizar y a su vez de “informatizar”. La “informatización” es la capacidad que permite traducir el mundo que nos rodea en información. Si para el ingeniero de una fábrica, el ruido de una máquina le hacía presentir que esta tenía una falla, esta percepción cambiaba cuando dicho desperfecto se “informatizaba” en una alerta en la pantalla del computador. El proceso de “informatización” privilegia el trabajo cognitivo que ha impulsado la producción de bienes y servicios inmateriales en el siglo XXI.

Según Zuboff, la “informatización” es una característica que distingue a las tecnologías de información de los procesos previos de evolución tecnológica, enfatizando que la difusión e integración de las tecnologías de información en nuestra vida diaria no solo transforma la naturaleza física, tangible y social del trabajo, sino también impacta en procesos sociales y políticos vinculados con la distribución del conocimiento, la autoridad y el poder. Es decir, la “informatización” traslada descripciones, medidas, procesos, eventos y objetos de la realidad en información digital que tiene consecuencias tanto en el trabajo como en las relaciones sociales que se desarrollan a su alrededor.

Google y Facebook

Luego de varios años de investigación, Zuboff presentó en el 2018 un nuevo estudio que narra el impacto de la “informatización” en las últimas dos décadas, donde hemos sido impactados por el internet y una serie de servicios que se tejieron a su alrededor. La era del capitalismo de la vigilancia: La lucha por un futuro humano frente a las nuevas fronteras del poder sostiene que los servicios gratuitos –como Google o Facebook– que hoy miles de millones de personas usamos a diario, permiten a estas empresas monitorear nuestro comportamiento con extraordinario detalle y a menudo sin un consentimiento explícito.

Google es el caso de estudio de la primera parte del libro, donde se narra cómo la empresa había ideado un motor de búsqueda muy sofisticado, pero que carecía de un modelo comercial que le permitiera su sostenibilidad. Casi por accidente, Google descubrió los beneficios del detrito de los datos que los usuarios producen cuando visitaban su web. Este tipo de datos, definidos por Zuboff como “excedente de comportamiento” permitieron a Google generar un modelo de negocio basado en anuncios publicitarios –llamado AdWords– altamente segmentados para los usuarios que se presentan como resultado de las búsquedas.

Este modelo luego se aplicó a otros servicios, como Gmail, el correo gratuito lanzado en el 2004 que tiene como modelo de generación de ingresos la “lectura” de la correspondencia privada con el fin de generar publicidad segmentada. Esto pone en evidencia cómo la explotación de los datos personales y la privacidad en el mundo digital es un bien que está a merced de grandes corporaciones y que muchos de los servicios que aparentemente son gratuitos, usan nuestra información privada para sustentar su modelo de negocio.

Métodos digitales de vigilancia

Al igual que Google, Facebook buscó en el “excedente de comportamiento” una forma de generar ganancias. Para ello contrató a Sheryl Sandberg –quien desarrollo el modelo de negocio de AdWords en Google– como Gerente de Operaciones de la red social. Facebook contaba con más y mejor información personal que Google, pues cada perfil incluía la edad, género, ubicación y otros datos en tiempo real pero además permitía a partir del “Social Graph” identificar las relaciones entre personas y entre otros sitios web que visitan.

Google y Facebook habían descubierto así una forma de “traducir” las interacciones de los usuarios en un “excedente de comportamiento” que le servía para la fabricación de un modelo de negocio. Sin embargo, lo que empezó como un subproducto de las búsquedas y las interacciones de los usuarios, ha derivado en “productos predictivos propietarios” que no son otra cosa que métodos digitales de vigilancia. Sus tecnologías de inteligencia predictiva hoy se utilizan en otras industrias, incluyendo el transporte autónomo (sin conductor) como el proyecto “Google Autonomous Vehicle”. El modelo iniciado por Google y reproducido por Facebook, es ahora utilizado por muchos startups como su principal “modelo de negocio”. A partir del uso del “excedente de comportamiento” se producen modelos predictivos que influencian el comportamiento futuro de las personas, lo que permite incrementar las veces en que estas visitan o consumen un producto o servicio determinado.

La obra de Zuboff busca llamar a la reflexión crítica y a la acción pública en torno a la vigilancia digital, la protección de los datos personales y a la ausencia de mecanismos legales que hagan seguro el ecosistema digital para las personas y las democracias.

La experiencia como bien

Afortunadamente, hoy las personas somos cada vez más conscientes y sensibles a compartir nuestros datos, pues sabemos que nuestras experiencias privadas podrían ser utilizadas como un mecanismo económico de manipulación. No sorprende por ello que el Departamento de Justicia de Estados Unidos y 11 estados hayan presentado una demanda antimonopolio contra Google, alegando que la empresa había utilizado una “red de acuerdos de exclusión” para obstaculizar a los competidores en el negocio de las búsquedas. Se trata de la demanda antimonopolio más notoria del gobierno de Estados Unidos hacia una empresa tecnológica desde la década de 1990 cuando se inició el juicio a Microsoft por abuso del poder al reunir en un solo paquete a Microsoft Windows e Internet Explorer.

Con nitidez imbatible, Zuboff menciona que su estudio se remonta al trabajo del historiador Karl Polanyi y su teoría de la “gran transformación” donde analiza los orígenes del proceso de traducción de tres “invenciones mentales” que él denominó como “ficciones mercantiles”. La primera, la vida humana, que podía traducirse a “trabajo” para ser comprado y vendido; la segunda, la naturaleza, que podía renacer como “bienes raíces”; y, tercero, el intercambio, que se traducía en “dinero”. El capitalismo de vigilancia se origina en una invención mental aún más audaz, que declara la experiencia humana y privada como materia prima gratuita para ser transformados en bienes y servicios. Sin embargo, lo que hace que esta versión moderna de la “ficción mercantil” sea aun más siniestra es que se basa en operaciones ocultas diseñadas intencionalmente para explotar el detritus digital de la conciencia humana sin pagar nada por ello. El detritus al que se refiere Zuboff hace parecer a los seres humanos como los Morlocks de la novela La máquina del tiempo de H. G. Wells, confinados a una oscuridad y la esclavitud, solo que sin darnos cuenta y nos recuerda que en muchos casos el uso de la tecnología nos aleja de nuestra condición humana, manipulando y monetizando nuestros deseos.

Shoshana Zuboff se presentará en el Hay Festival, en conversación con Iñaki Gabilondo el miércoles 28 de octubre 2020 a las 10.00. Acceso Gratuito (Evento en inglés con subtítulos en español).