El organismo de control de datos del Reino Unido investigará si los sistemas de inteligencia artificial muestran sesgos raciales cuando se trata de solicitudes de empleo. La Oficina del Comisionado de Información dijo que la discriminación impulsada por IA podría tener “consecuencias dañinas para la vida de las personas” y llevar a que alguien sea rechazado para un trabajo o se le niegue injustamente un préstamo bancario o un beneficio social.

Investigará el uso de algoritmos para filtrar solicitudes de empleo, en medio de preocupaciones de que están afectando las oportunidades de empleo para personas de minorías étnicas.

“Investigaremos las preocupaciones sobre el uso de algoritmos para filtrar las solicitudes de contratación, lo que podría tener un impacto negativo en las oportunidades de empleo de personas de diversos orígenes”, dijo el ICO.

La investigación se anuncia como parte de un plan de tres años para la ICO bajo la dirección del nuevo comisionado de información del Reino Unido, John Edwards, quien se unió a la ICO en enero después de dirigir a su contraparte de Nueva Zelanda.

En un discurso el jueves, se espera que Edwards diga que la ICO "observará el impacto que podría tener el uso de la IA en grupos de personas que no forman parte de las pruebas de este software, como personas neurodiversas o personas de minorías étnicas".

El CEO de ZipRecruiter, un sitio web de empleos, le dijo a The Guardian este año que al menos las tres cuartas partes de todos los CV presentados para trabajos en los EE. UU. son leídos por algoritmos. Una encuesta de ejecutivos de reclutamiento realizada por la firma de investigación y consultoría Gartner el año pasado encontró que casi todos informaron que usaban IA para parte del proceso de reclutamiento y contratación, por ejemplo , examinar las solicitudes antes de que una persona las vea.