Tecnologías emergentes: Ética e inteligencia artificial en el trabajo

El Parlamento Europeo es una de las primeras instituciones en realizar recomendaciones sobre la necesidad de regular los aspectos éticos de la inteligencia artificial, la robotización y las tecnologías relacionadas.

En la película Gattaca, los trabajadores de la empresa de élite que da nombre al largometraje son seleccionados por su información genética, que ha sido prediseñada en la mayor parte de los casos y que se utiliza de manera predictiva para conocer el potencial desempeño futuro de los trabajadores.

Igualmente, los trabajadores son sometidos a controles continuos, incluyendo un pinchazo en el dedo al pasar el torno de ingreso a los edificios corporativos, que permite a la empresa recolectar la sangre de sus empleados y refrescar su información genética como medida de identificación y control.

Si esa película se hubiera estrenado en la actualidad y no en 1997 se podría haber incorporado fácilmente a la historia alguna forma de comercialización de los datos personales de los trabajadores o el control de estos más allá de los límites físicos de la compañía, gracias a los dispositivos móviles que los empleados llevarían encima de manera «voluntaria».

Aunque esa incursión en la privacidad nos habría obligado a renunciar a la parte más interesante de la trama, no podríamos dejar de tener en cuenta que la supervisión del consentimiento forma hoy parte de nuestro día a día. Como dice Shoshana Zuboff en su libro El capitalismo de la supervisión, si algo es gratis es porque la mercancía eres tú, porque es algo que se hace desde nosotros pero no para nosotros.

Es la idea que se defiende también en el documental de Netflix El dilema de las redes sociales donde éstas se nos presentan no como un nuevo espacio público sino como un nuevo espacio comercial en el que las personas somos los productos y donde se parametriza nuestro comportamiento con gran precisión.

Las novelas y películas de ciencia ficción están llenas de alusiones y propuestas de control de los trabajadores, de clasificación de los mismos, de manipulación y predicción de sus comportamientos a través de la tecnología, ya sea a través de otros humanos que utilizan las máquinas para controlar a los trabajadores, como la mujer-máquina de Metrópolis, o directamente a través de las máquinas, como en Matrix, donde los trabajadores son usados como baterías para generar la energía que estas necesitan para sobrevivir.

Pero no hace falta recurrir al fascinante mundo de la ciencia ficción: los catálogos de las empresas de lo que se denomina «employee monitoring solutions» están bien surtidos. Se estima que, en 2023, esas empresas moverán 3.840 millones de dólares.

Y es que, por ejemplo, el 98% de las empresas del índice Fortune 500, que reúne a las más grandes del mundo, utilizan inteligencia artificial para sus procesos selectivos, argumentando que se trata de mecanismos menos discriminatorios que los no digitalizados, cuando sabemos que los algoritmos que están detrás de dichos mecanismos han sido diseñados por personas que normalmente son varones blancos y que han vertido sus prejuicios sexistas, racistas u homófobos en el diseño, que a su vez se nutre y aprende de datos basados en una realidad que también es sexista, racista, clasista y homófoba.

El catálogo de productos a disposición de las empresas para la gestión de su mano de obra aparece en rankings publicados en revistas como PC Magazine. Entre ellos podemos encontrar los siguientes: monitoreo sigiloso, captura de vídeo en tiempo real, control remoto del teclado, rastreo de documentos y archivos, reconocimiento óptico de caracteres, capturas de pantalla borrosas, alertas automatizadas, registro de tecleo, rastreo de ubicación, configuración de privacidad del usuario.

También hardware como brazaletes, gafas inteligentes o dispositivos de asistencia que recogen datos sobre las paradas que hacen los trabajadores, su rigor a la hora de trabajar o su productividad. El más conocido de todos ellos es tal vez el brazalete que en 2017 repartió Amazon entre sus trabajadores para, en teoría, ayudarles a localizar la mercancía en los almacenes, pero que en realidad implica un monitoreo constante de los mismos, lo que ha llevado a una competición feroz por la supervivencia dentro de la empresa.

Por eso no es de extrañar que en las máquinas expendedoras de los almacenes de Amazon en Estados Unidos los analgésicos se puedan adquirir de forma gratuita. A estos productos podríamos añadir también las tecnologías de control genético o las de inteligencia artificial emocional, como la descodificación de las expresiones faciales, las voces y el movimiento de los ojos.

Los datos, la información que se recoge a través de software o hardware, alimenta bases de datos selectivas que son creadas desde estos mecanismos extractivos y que alimentan los algoritmos diseñados previamente por o para los gestores de las empresas.

Estos algoritmos buscan regularidades e irregularidades, establecen una normalidad de la que los trabajadores no deben alejarse y crean mecanismos de predicción de comportamientos futuros, que permiten tomar sin participación humana decisiones que afectan a las personas. Sin embargo, esta obsesión por la métrica extrema no oculta el hecho de que sólo se miden en realidad algunos de los esfuerzos y trabajos que están detrás de los resultados laborales.

Como llevamos años advirtiendo desde la economía feminista y señala muy bien Phoebe Moore en sus investigaciones, quedan fuera de dichas mediciones todo el trabajo de preparación y todo el trabajo doméstico y de cuidados, incluyendo el emocional, que se necesita para poder ser un trabajador productivo y que normalmente realizan las mujeres de forma no retribuida ni reconocida. Esta fiebre sociométrica fomenta pues la competitividad, nos aleja de la cooperación como rasgo humano y genera estrés y ansiedad.

Es verdad que los intentos de control de la mano de obra no son nuevos y que cuando se dan cambios en los procesos productivos éstos suelen traer aparejados cambios en la gestión de los espacios y los tiempos de la mano de obra.

Entre los temas que más disfruto dando en mis clases de historia económica está el impacto que tuvo la puesta en marcha del sistema fabril para el disciplinamiento de los trabajadores, o, en mis clases de historia empresarial, las propuestas del taylorismo.

No obstante, las nuevas tecnologías han abierto un mundo de posibilidades de supervisión y control que antes no existía y que el gran confinamiento está acelerando. De hecho, el mundo COVID-19 está actuando como catalizador de lo que será el trabajo en el futuro y, en ese sentido, esta segunda ola de la pandemia está normalizando aquello que durante la primera veíamos sólo como excepción.