NeoFronteras

Un estudio señala el peligro de usar redes de aprendizaje profundo para evitar sesgos a la hora de contratar personal.

Los humanos hemos chocado contra los límites de un planeta finito y estamos luchando por unos recursos (de todo tipo) que son cada vez más escasos. Simplemente, somos cada vez más y tocamos cada vez a menos. Además, el reparto es cada vez más desigual.

Ciertos colectivos reclaman su lugar en el mundo o simplemente una oportunidad de participar en un mejor reparto de las migajas y señalan, por ejemplo, que en los procesos de selección de puestos de trabajo se les discrimina.

Por otro lado, creemos que cierto tipo de tecnología puede ser la respuesta a muchas cosas y esta fe cuasirreligiosa se ha transformado en una tecnofilia que muchas veces roza lo irracional. Así, parece que lo que se ha llamado Inteligencia Artificial (IA), que no son más que redes neuronales de aprendizaje profundo, es la respuesta a todas las cosas.

En los últimos años se ha visto la comercialización de herramientas IA que pretenden dar respuesta a la falta de diversidad en el mundo laboral. Entre otras las hay que filtran los CV para encontrar a posibles candidatos. También hay software de análisis para entrevistas en video.

Quienes están detrás de este tipo de tecnología afirman que cancela los prejuicios y sesgos humanos contra el género y la etnia durante el proceso de selección de personal.

Sin embargo, en un nuevo estudio publicado en Philosophy and Technology argumenta que estas afirmaciones hacen que algunos usos de la IA en la contratación sean poco mejores que una «pseudociencia automatizada» que recuerda a la fisionomía o la frenología: las creencias desacreditadas de que la personalidad puede ser deducido de los rasgos faciales y la forma del cráneo.

Dicen que es un ejemplo peligroso de «tecnosolucionismo»: recurrir a la tecnología para proporcionar soluciones rápidas a problemas de discriminación profundamente arraigados que requieren inversión y cambios en la cultura empresarial.

De hecho, los investigadores han trabajado con un equipo de estudiantes universitarios de informática de Cambridge para desacreditar estas nuevas técnicas de contratación mediante la creación de una herramienta de inteligencia artificial basada en esta tecnología.

El estudio demuestra cómo los cambios arbitrarios en la expresión facial, la ropa, la iluminación y el fondo pueden dar lecturas de personalidad radicalmente diferentes y, por lo tanto, podrían marcar la diferencia entre el rechazo y la contratación para una generación de buscadores de empleo que compiten por puestos de posgrado.

Este equipo de investigadores de la Universidad de Cambridge dice que el uso de IA para reducir los grupos de candidatos puede, en última instancia, aumentar la uniformidad en lugar de la diversidad en la fuerza laboral, ya que la tecnología está calibrada para buscar el «candidato ideal» de fantasía del empleador.

Según los investigadores, esto podría hacer que aquellos con la capacitación y los antecedentes adecuados «ganen a los algoritmos» al replicar comportamientos que la IA está programada para identificar y llevar esas actitudes al lugar de trabajo.

Argumentan, además, que, a medida que los algoritmos se perfeccionan utilizando datos anteriores, es probable que los candidatos considerados más adecuados terminen siendo los que más se parecen a la fuerza laboral actual.

«Nos preocupa que algunos proveedores envuelvan productos de ‘bálsamo de Fierabrás’ en un paquete brillante y los vendan a clientes desprevenidos. Al afirmar que el racismo, el sexismo y otras formas de discriminación pueden eliminarse del proceso de contratación utilizando inteligencia artificial, estas empresas reducen la raza y el género a puntos de datos insignificantes», dice Eleanor Drage.

Estas herramientas de contratación de IA son a menudo «cajas negras» por su propia naturaleza, por lo que su funcionamiento es siempre un misterio.

«Si bien es posible que las empresas no actúen de mala fe, hay poca responsabilidad sobre cómo se construyen o prueban estos productos. Como tal, esta tecnología y la forma en que se comercializa, podría terminar siendo una fuente peligrosa de información errónea sobre cómo la contratación puede ser más justa y estar menos sesgada», dice Drage.

La ley de IA propuesta por la UE clasifica el software de contratación impulsado por IA como de «alto riesgo», pero a pesar de todo esto los investigadores dicen que las herramientas fabricadas por empresas como Retorio y HIreVue se implementan con poca regulación y señalan encuestas que sugieren que el uso de IA en la contratación es una bola de nieve.

Un estudio de 2020 de 500 organizaciones en varias industrias en cinco países encontró que el 24% de las empresas han implementado IA con fines de contratación y el 56% de los gerentes de contratación planean adoptarla el próximo año.

Otra encuesta de 334 líderes en recursos humanos, realizada en abril de 2020, cuando se desató la pandemia, encontró que el 86% de las organizaciones estaban incorporando nueva tecnología virtual en las prácticas de contratación.

«Esta tendencia ya existía cuando comenzó la pandemia y es probable que el cambio acelerado al trabajo en línea causado por COVID-19 vea un mayor despliegue de herramientas de inteligencia artificial por parte de los departamentos de recursos humanos en el futuro», dice el coautor Kerry Mackereth.

La pandemia no es el único factor, según los agentes de recursos humanos que los investigadores han entrevistado. «El volumen es cada vez más insostenible para los equipos de recursos humanos que están desesperados por un software para reducir costos, así como también para la cantidad de solicitantes que necesitan atención personalizada», dice Mackereth.

Drage y Mackereth dicen que muchas empresas ahora usan IA para analizar videos de candidatos, interpretando la personalidad evaluando regiones de una cara, similar a la IA de detección de mentiras, y que califican a los candidatos según características de personalidad: extroversión, amabilidad, apertura, escrupulosidad y neuroticismo.

Los investigadores añaden que con demasiada frecuencia, el proceso de contratación es oblicuo y confuso y que estas herramientas están entrenadas para predecir la personalidad en función de patrones comunes en imágenes de personas que han visto previamente. A menudo, terminan encontrando correlaciones falsas entre la personalidad y propiedades aparentemente no relacionadas de la imagen, como el brillo.

Copyleft: atribuir con enlace a https://neofronteras.com

Fuentes y referencias:
Artículo original.
Foto: Wikimedia commons / Alan Cleaver.