Archives mensuelles: mai 2019

Uncategorized

Quand le DRH est un algorithme

Les techniques d’embauche empêchent-elles les préjugés ou les améliorent-ils? Cette question fondamentale est apparue comme un point de tension entre les partisans de la technologie et ses sceptiques, mais l’atteinte de la réponse est plus complexe qu’elle n’apparaît. L’emploi n’est guère un choix, mais plutôt l’aboutissement d’une série de décisions séquentielles plus compactes. Les algorithmes jouent différents rôles tout au long de ce processus: certains orientent les offres d’emploi vers des candidats spécifiques, tandis que d’autres signalent des candidats inactifs. Les outils prédictifs d’analyse et de pointage de crédit reprennent, et la sélection des superviseurs permet d’évaluer les compétences des candidats de nouvelles façons, en utilisant chaque norme et chaque nouvelle donnée. Nombreux sont ceux qui croient que les techniques peuvent aider les producteurs de choix humain à éviter leurs propres préjugés, en ajoutant une cohérence dans l’utilisation des services de procédure. Mais les algorithmes introduisent de nouveaux dangers qui leur appartiennent. Ils peuvent reproduire des biais institutionnels et historiques, amplifiant les désavantages cachés dans des informations telles que la fréquentation d’une université ou d’un collège ou les scores d’évaluation de la performance.

Même si la procédure de recrutement élimine une certaine subjectivité par le biais de procédures de recrutement, les êtres humains restent très impliqués dans les jugements ultimes en matière de recrutement. Les désaccords qui rendent les ensembles de règles «objectifs» plus équitables et beaucoup plus précis que des êtres humains faillibles oublient de reconnaître complètement que généralement, chacun est impliqué. Connaître les biais dans l’utilisation des algorithmes et les moyens de les atténuer nous oblige à découvrir le fonctionnement de l’innovation technologique prédictive à chaque étape de la procédure de recrutement. Bien qu’ils discutent généralement de la découverte d’équipement, les instruments utilisés précédemment dans le processus peuvent être fondamentalement différents de ceux appliqués ultérieurement. Même les équipements qui semblent effectuer exactement la même tâche peuvent dépendre de types de détails complètement différents, ou présenter des prédictions de manière sensiblement différente. Notre évaluation des instruments de prévision tout au long de la procédure d’emploi vous aide à clarifier ce que font exactement les «algorithmes de recrutement» et comment et où les préjugés peuvent entrer dans la méthode. Malheureusement, nous avons constaté que la plupart des algorithmes de recrutement dériveraient par défaut vers un biais. Bien que leur potentiel pour aider à réduire les préjugés interpersonnels ne devrait pas être réduit, seuls des outils permettant de gérer de manière proactive des disparités plus profondes donneront l’impression que l’innovation technologique prédictive pourrait aider à promouvoir la valeur nette de la maison, au lieu de l’éroder. La méthode de sélection commence bien avant qu’un demandeur d’emploi soumette une candidature.

Par le biais du «point d’achat» ou du point d’inscription, l’innovation technologique prédictive aide à commercialiser les opportunités de tâches, informe les demandeurs d’emploi de placements probablement intéressants et offre aux recruteurs une surface de travail propice à une sensibilisation proactive. Pour attirer des candidats, de nombreuses entreprises utilisent des plateformes de publicité algorithmiques et des tableaux de sélection de carrière pour trouver l’une des personnes les plus «pertinentes» à la recherche d’un emploi. Ces méthodes, qui garantissent une utilisation plus efficace des fonds de l’emploi par les employeurs, génèrent généralement des estimations remarquablement superficielles: elles ne prévoient pas ce qui conduira à la réussite de la fonction, mais qui va probablement sélectionner cette tâche dans la publicité. Ces prévisions peuvent conduire à la diffusion d’annonces de travail d’une manière qui prenne en charge les stéréotypes sexistes et raciaux, même si les entreprises n’ont aucune intention de ce type. Dans une étude récente que nous avons effectuée avec des collègues de la Northeastern University et de l’USC, nous avons notamment constaté que des publicités généralement ciblées sur Fb pour des emplois de caissière dans des magasins d’alimentation étaient présentées à un public composé de 85% de femmes, tandis que à un public qui était environ 75% sombre. C’est vraiment le cas par excellence d’une formule d’algorithme reproduisant les préjugés de la vie réelle, sans implication individuelle. Entre-temps, des groupes de travail personnalisés, tels que ZipRecruiter, ont pour objectif de déterminer automatiquement les choix des recruteurs et d’utiliser toutes ces prophéties pour solliciter des candidats connexes.

À l’instar de Facebook ou de Twitter, ces techniques de recommandation professionnelles sont conçues pour atteindre et reproduire les habitudes dans les actions des clients, en mettant à jour les estimations de manière dynamique à mesure que les employeurs et les demandeurs d’emploi se connectent. Si la méthode remarque que les recruteurs affligent se connectent plus fréquemment avec des hommes de couleur blanche, elle peut très bien localiser les mandataires pour tous ces attributs (comme se faire appeler Jared ou jouer activement à la crosse au lycée) et reproduire cette routine. Ce type d’impact négatif peut se produire sans la nécessité d’un coaching spécifique, voire pire, séminaire sans que personne ne s’en rende compte. Les techniques de recherche ne sont probablement pas une surface de pensées pour la plupart des gens une fois qu’ils pensent «à la formule de l’algorithme d’embauche». Cependant, les sélections programmées à ce stade très précoce de l’entonnoir de sélection sont très répandues. À titre d’exemple, l’outil mis au point par Amazon pour les femmes défavorisées n’était pas une ressource de sélection permettant d’évaluer de vrais candidats, mais plutôt un outil permettant de révéler les candidats indirects que les recruteurs devaient obtenir. Les algorithmes de localisation ne rejettent peut-être pas ouvertement les gens, mais comme l’a expliqué une érudite légitime, Pauline Kim, «ne pas informer les hommes et les femmes des possibilités d’emploi est vraiment un obstacle efficace» pour les personnes à la recherche d’une carrière. Ces outils peuvent bien ne pas toujours générer des lignes de force dystopiques, mais ils jouent néanmoins un rôle important pour déterminer qui peut accéder au processus de sélection par quelque moyen que ce soit.