Algoritmos: ¿vale todo en la gestión por números?

POR SARAH O’CONNOR

En la búsqueda de una mayor eficacia, que la inteligencia artificial pueda tomar ciertas decisiones podría llevar a las compañías a perder su perfil humano.

Esta llamada podría ser grabada para fines de formación”… Es el eterno aviso legal, pero ¿grabada por quién? La respuesta a esa pregunta está empezando a cambiar. Una empleada de un call center en Estados Unidos me dice que solía ser grabada por un equipo de personas que escuchaba sus llamadas. Ahora, un programa de ordenador valora su rendimiento, basándose en lo que dice y en cómo lo dice. Su bonificación depende ahora de cuánto puede impresionar al algoritmo. La noción de recopilar datos sobre los empleados para tomar decisiones por parte de la dirección no es nueva.

Frederick W. Taylor, el padre de la “gestión científica”, se paseaba por las fábricas con su cronómetro hace más de un siglo. Pero los avances en inteligencia artificial presentan nuevas oportunidades para gestionar con números, desde la gestión del rendimiento en los call center hasta la contratación en los bancos de inversión. Los directivos suelen ser tendenciosos, bien consciente o inconscientemente. Quizá los algoritmos crearán por fin lugares de trabajo regidos por los méritos. Conozco varios directores de recursos humanos que afirman que sus procesos automatizados de contratación están seleccionando ahora un abanico de gente más diverso que los gestores humanos.

Se corre el riesgo de perder la flexibilidad humana o la empatía y las ventajas de aplicar el sentido común

Esto también implica peligros. El riesgo más obvio es que los algoritmos tienen también sus propias inclinaciones. La empleada del call center me dijo que el software da puntuaciones más bajas a los trabajadores con acentos fuertes porque no siempre les entiende. La cuestión es qué queremos decir con “justo”. ¿Se están aplicando las mismas reglas y decisiones siempre de la forma más justa? Los trabajadores podrían contratacar.

La semana pasada hablé con un mensajero de una empresa del sector de la economía colaborativa que recibió un email en el que le informaban de que su “contrato de servicios” terminaba porque no había aceptado suficientes encargos de reparto. En su defensa les dijo que la aplicación no funcionaba bien y cuando sus protestas no recibieron respuesta, pidió ayuda al sindicato de los trabajadores de la economía colaborativa, el Sindicato Independiente de Reino Unido. Estos sindicatos están cada vez más preocupados por el hecho de que los empleados estén sujetos a las decisiones de los ordenadores. O incluso a directivos humanos que se esconden detrás de la fachada de los “datos científicos” para descargarse de la responsabilidad de sus decisiones.

UNI Global Union, que tiene más de 900 afiliados a su sindicato en todo el mundo, ha redactado un conjunto de principios para que los sindicatos intenten comprender exactamente cómo y por qué un sistema de inteligencia artificial ha tomado una decisión y el derecho a apelarla. Esta iniciativa podría verse reforzada por la Normativa de Protección General de Datos de la UE que entrará en vigor en mayo. Aunque está más enfocada a la privacidad de los datos de los consumidores, la regulación afectará también a los derechos de los trabajadores.

El texto especifica -con ciertas cautelas- que la gente no debería estar sujeta a decisiones “basadas únicamente en procesos automatizados”. Incluso cita “las prácticas de contratación digital sin ninguna intervención humana” como un ejemplo. Las empresas no se equivocan cuando exploran las posibilidades que ofrece el análisis de datos para mejorar la legitimidad o eficacia de la gestión. Pero deberían ser cautelosos a la hora de meter demasiado la cuchara sin límites o garantías -de “entregarse al poder de los números”, como señala Phoebe Moore de la Universidad de Leicester. No es sólo por las amenazas emergentes de los reguladores o los sindicatos. También es por lo que podrían perder: la sutil flexibilidad de una decisión humana; decisiones que pueden verse moderadas por la empatía o el sentido común; la simple capacidad de solucionar un problema sentándose en torno a una mesa y hablando. Las empresas que eliminen el término humano de los recursos humanos correrán sus propios riesgos.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *