Dans le monde entier des épicuriens, le nord de la Californie est réputé pour ses deux substances intoxicantes: le vin rouge et la marijuana. Alors que l’herbe de loisir est sur le point d’être légale au sein de la Gold Condition, certains entrepreneurs en cannabis considèrent le secteur des vins comme un produit. Sur la terrasse élégante de votre domaine viticole qui surplombe les collines occupées par les vignes de Sonoma State, au nord de San Francisco, une douzaine d’invités sirotent du pinot noir, mangent des hors-d’œuvre et sortent d’une pipe à eau normale. Ils ont cherché de la nourriture de la ferme au bureau, composée de salade de chou frisé, de légumes verts rôtis et de steaks grillés, ainsi que de vino et de certains types de cannabis. « Ce que nous avons découvert jusqu’à présent, c’est que les sativas vont bien avec les blancs et les indicas avec les rouges », affirme Sam Edwards, président de la Sonoma Cannabis Organization. Il fait partie de l’entreprise émergente «faire de la cuisine» qui a pour objectif de discuter de votre organisation de vacances de près de 2 milliards de dollars dans la vallée de Sonoma avec des événements tels que celui-ci. « Ce que nous commençons, c’est de mélanger du cannabis avec des vins et des plats dans un dîner organisé offrant le meilleur des mondes », affirme Edwards. Le cannabis à usage de loisirs a été autorisé dans huit États et dans la région de la Colombie. Mais la récompense est Cal, dans lequel la marijuana citoyenne américaine a les racines historiques, sociétales et agronomiques les plus profondes. L’état de Californie était la condition initiale pour légaliser la marijuana à des fins de soins de santé il y a 21 ans; en novembre, les électeurs ont présenté le produit écologique doux au cannabis pour le plaisir. Le célèbre triangle Emerald des régions de Humboldt, Mendocino et Trinity, en Haute-Californie, est parmi les plus recherchés au monde, juste après le pot. Ainsi, au sud du Triangle, se trouvent les fameuses zones viticoles de l’Etat, Sonoma et Napa. « Je pense que ce secteur viticole voudra véritablement faire partie du marché du cannabis, car il me semble qu’il y a de fortes chances pour que l’avenir soit sûr », déclare Domi Heckei, un enseignant particulier dépassé depuis 32 ans qui a rejoint le repas du soir vino-and-weed. Bien que la marijuana plaise à tout le monde et que le vin rouge soit partagé avec tout le monde, le vin rouge met tout en œuvre pour l’attente. Quelques organisations de l’industrie du vin contactées juste pour ce scénario ont prévu de discuter de la venue de la marijuana. Un viticulteur de longue date, Sonoma, a identifié « une certaine appréhension » entre ses amis.

Les techniques d’embauche empêchent-elles les préjugés ou les améliorent-ils? Cette question fondamentale est apparue comme un point de tension entre les partisans de la technologie et ses sceptiques, mais l’atteinte de la réponse est plus complexe qu’elle n’apparaît. L’emploi n’est guère un choix, mais plutôt l’aboutissement d’une série de décisions séquentielles plus compactes. Les algorithmes jouent différents rôles tout au long de ce processus: certains orientent les offres d’emploi vers des candidats spécifiques, tandis que d’autres signalent des candidats inactifs. Les outils prédictifs d’analyse et de pointage de crédit reprennent, et la sélection des superviseurs permet d’évaluer les compétences des candidats de nouvelles façons, en utilisant chaque norme et chaque nouvelle donnée. Nombreux sont ceux qui croient que les techniques peuvent aider les producteurs de choix humain à éviter leurs propres préjugés, en ajoutant une cohérence dans l’utilisation des services de procédure. Mais les algorithmes introduisent de nouveaux dangers qui leur appartiennent. Ils peuvent reproduire des biais institutionnels et historiques, amplifiant les désavantages cachés dans des informations telles que la fréquentation d’une université ou d’un collège ou les scores d’évaluation de la performance.

Même si la procédure de recrutement élimine une certaine subjectivité par le biais de procédures de recrutement, les êtres humains restent très impliqués dans les jugements ultimes en matière de recrutement. Les désaccords qui rendent les ensembles de règles «objectifs» plus équitables et beaucoup plus précis que des êtres humains faillibles oublient de reconnaître complètement que généralement, chacun est impliqué. Connaître les biais dans l’utilisation des algorithmes et les moyens de les atténuer nous oblige à découvrir le fonctionnement de l’innovation technologique prédictive à chaque étape de la procédure de recrutement. Bien qu’ils discutent généralement de la découverte d’équipement, les instruments utilisés précédemment dans le processus peuvent être fondamentalement différents de ceux appliqués ultérieurement. Même les équipements qui semblent effectuer exactement la même tâche peuvent dépendre de types de détails complètement différents, ou présenter des prédictions de manière sensiblement différente. Notre évaluation des instruments de prévision tout au long de la procédure d’emploi vous aide à clarifier ce que font exactement les «algorithmes de recrutement» et comment et où les préjugés peuvent entrer dans la méthode. Malheureusement, nous avons constaté que la plupart des algorithmes de recrutement dériveraient par défaut vers un biais. Bien que leur potentiel pour aider à réduire les préjugés interpersonnels ne devrait pas être réduit, seuls des outils permettant de gérer de manière proactive des disparités plus profondes donneront l’impression que l’innovation technologique prédictive pourrait aider à promouvoir la valeur nette de la maison, au lieu de l’éroder. La méthode de sélection commence bien avant qu’un demandeur d’emploi soumette une candidature.

Par le biais du «point d’achat» ou du point d’inscription, l’innovation technologique prédictive aide à commercialiser les opportunités de tâches, informe les demandeurs d’emploi de placements probablement intéressants et offre aux recruteurs une surface de travail propice à une sensibilisation proactive. Pour attirer des candidats, de nombreuses entreprises utilisent des plateformes de publicité algorithmiques et des tableaux de sélection de carrière pour trouver l’une des personnes les plus «pertinentes» à la recherche d’un emploi. Ces méthodes, qui garantissent une utilisation plus efficace des fonds de l’emploi par les employeurs, génèrent généralement des estimations remarquablement superficielles: elles ne prévoient pas ce qui conduira à la réussite de la fonction, mais qui va probablement sélectionner cette tâche dans la publicité. Ces prévisions peuvent conduire à la diffusion d’annonces de travail d’une manière qui prenne en charge les stéréotypes sexistes et raciaux, même si les entreprises n’ont aucune intention de ce type. Dans une étude récente que nous avons effectuée avec des collègues de la Northeastern University et de l’USC, nous avons notamment constaté que des publicités généralement ciblées sur Fb pour des emplois de caissière dans des magasins d’alimentation étaient présentées à un public composé de 85% de femmes, tandis que à un public qui était environ 75% sombre. C’est vraiment le cas par excellence d’une formule d’algorithme reproduisant les préjugés de la vie réelle, sans implication individuelle. Entre-temps, des groupes de travail personnalisés, tels que ZipRecruiter, ont pour objectif de déterminer automatiquement les choix des recruteurs et d’utiliser toutes ces prophéties pour solliciter des candidats connexes.

À l’instar de Facebook ou de Twitter, ces techniques de recommandation professionnelles sont conçues pour atteindre et reproduire les habitudes dans les actions des clients, en mettant à jour les estimations de manière dynamique à mesure que les employeurs et les demandeurs d’emploi se connectent. Si la méthode remarque que les recruteurs affligent se connectent plus fréquemment avec des hommes de couleur blanche, elle peut très bien localiser les mandataires pour tous ces attributs (comme se faire appeler Jared ou jouer activement à la crosse au lycée) et reproduire cette routine. Ce type d’impact négatif peut se produire sans la nécessité d’un coaching spécifique, voire pire, séminaire sans que personne ne s’en rende compte. Les techniques de recherche ne sont probablement pas une surface de pensées pour la plupart des gens une fois qu’ils pensent «à la formule de l’algorithme d’embauche». Cependant, les sélections programmées à ce stade très précoce de l’entonnoir de sélection sont très répandues. À titre d’exemple, l’outil mis au point par Amazon pour les femmes défavorisées n’était pas une ressource de sélection permettant d’évaluer de vrais candidats, mais plutôt un outil permettant de révéler les candidats indirects que les recruteurs devaient obtenir. Les algorithmes de localisation ne rejettent peut-être pas ouvertement les gens, mais comme l’a expliqué une érudite légitime, Pauline Kim, «ne pas informer les hommes et les femmes des possibilités d’emploi est vraiment un obstacle efficace» pour les personnes à la recherche d’une carrière. Ces outils peuvent bien ne pas toujours générer des lignes de force dystopiques, mais ils jouent néanmoins un rôle important pour déterminer qui peut accéder au processus de sélection par quelque moyen que ce soit.