> Blog Manageris
Comment éviter de transmettre des biais discriminatoires à ses algorithmes ?

Comment éviter de transmettre des biais discriminatoires à ses algorithmes ?

En 2023, huit entreprises sur dix ont planifié d’investir dans l’apprentissage automatique (machine learning). Ce sous-domaine de l’intelligence artificielle permet de repérer les schémas récurrents dans les données pour guider la prise de décision.

De nombreuses décisions peuvent ainsi être déléguées à des algorithmes : sélection des candidats pour un recrutement, pour un crédit… Mais comment éduquer son algorithme de façon à éviter les biais, et en particulier les biais discriminatoires ? Les expérimentations montrent en effet que l’IA risque d’amplifierles discriminations déjà à l’œuvre. Cela résulte du fait qu’elle s’appuie sur des historiques de sélection pour effectuer son apprentissage – or ces historiques sont souvent biaisés et aboutissent à une sous-représentation de certaines populations.

De façon assez contre-intuitive, une étude sur un algorithme de gestion des crédits suggère que lui faire part des données personnelles sensibles, plutôt que de les masquer lors de l’apprentissage, permet de réduire notablement le risque de discrimination. Cerise sur le gâteau : la profitabilité des crédits accordés par cet algorithme a aussi augmenté de 8 %. Lorsqu'il n'est pas possible d'inclure directement ces données lors de la phase d’apprentissage de l'algorithme, on peut alors appliquer des facteurs de correction pour rééquilibrer les échantillons qu'on lui transmet, par exemple en augmentant la part des populations traditionnellement sous-représentées.


Source : Removing Demographic Data Can Make AI Discrimination Worse, Stephanie Kelley, Anton Ovchinnikov, Adrienne Heinrich, David R. Hardoon, Harvard Business Review, mars 2023.

IA contre IA, le match du siècle ?

IA contre IA, le match du siècle ?

Le développement des intelligences artificielles augmente fortement les menaces en matière de cybersécurité. Leur utilisation par les hackers pourrait permettre de combiner des attaques ultra-personnalisées exploitant les informations spécifiques de l’entreprise. Par exemple, imaginez un appel de phishing avec une voix générée par IA imitant à s’y méprendre le ton et le style conversationnel de votre patron – un scénario de science-fiction qui va bientôt devenir réalité…

Et si vous utilisiez la puissance de l’IA pour vous prémunir contre ce risque ? Des entreprises travaillent déjà à la conception de logiciels, comme ZeroGPT, permettant de détecter des contenus générés par IA. L’IA permet aussi d’améliorer ses capacités de détection des cyber-risques. Par exemple, une IA personnalisée pourra facilement détecter des changements suspects dans le comportement en ligne d’un collaborateur – augmentation soudaine de la masse de données consultées, variation importante de la structure de mailing, etc. – et lancer une alerte, le cas échéant.  Bien sûr, ces nouveaux outils n’iront pas sans soulever des questionnements éthiques autour de la protection des données personnelles – mais ils deviendront rapidement incontournables. Un nouveau chantier à surveiller de près.


Source :  From ChatGPT to HackGPT: Meeting the Cybersecurity Threat of Generative AI, Karen Renaud, Merrill Warkentin, George Westerman, MIT Sloan Management Review, avril 2023.

Et si vous systématisiez les dispositifs « Vis ma vie » ?

Et si vous systématisiez les dispositifs « Vis ma vie » ?

De plus en plus d’entreprises permettent à un collaborateur de vivre le temps d’une journée la réalité d’un autre poste. Ces expériences immersives invitent à la prise de recul et stimulent l’empathie. En effet, elles permettent de voir l’envers du décor d’autres services, de prendre la mesure des difficultés rencontrées et des efforts déployés par ses collègues pour produire les résultats attendus. Cet exercice est intéressant à tout niveau hiérarchique – aussi bien pour l’employé fraîchement arrivé, qui découvre la diversité des rôles au sein de l’entreprise, que pour le dirigeant désireux de se confronter à la réalité du terrain.

Si l’idée n’est pas nouvelle, il peut être intéressant de la systématiser. La Banque Populaire Auvergne Rhône Alpes a par exemple expérimenté le dispositif « TestUnMétier ». Il permet aux personnes détectées pour une mobilité ou une évolution interne d’entrer en contact avec des salariés qui occupent actuellement le poste visé. Ce type de dispositif gagne aussi à être utilisé pour permettre aux profils « experts » de tester une variété d’évolutions possibles au-delà de la prise de responsabilités managériales. On peut même l’envisager pour inciter ses collaborateurs à se former à de nouveaux métiers émergents du secteur et faciliter les mutations à venir.

Un autre levier de fidélisation à explorer ?


Source : Vis ma vie : l'expérience de cohésion d'équipe rêvée ?, Welcome to the Jungle, juin 2023.

 

Entrez dans la tête de vos concurrents

Entrez dans la tête de vos concurrents

D’après une étude menée par John Horn, auteur du livre Inside the Competitor’s Mindset, entre 30 et 40 % des dirigeants jugent que leurs concurrents agissent de façon irrationnelle plus de la moitié du temps. Bien souvent, cette perception d’irrationalité masque en fait une difficulté à se mettre à la place du concurrent. Or cette compétence est essentielle pour augmenter sa capacité à anticiper les mouvements de ses concurrents au lieu de les subir.

Pour cela, deux pistes méritent d’être creusées. La première consiste à pratiquer activement ce que l’on appelle l’empathie cognitive. Concrètement, il s’agit de suspendre son jugement et de se mettre à la place du concurrent, en essayant de comprendre pourquoi il pense ce qu’il pense et décide ce qu’il décide, avec les informations dont il dispose et son positionnement sur le marché. La clé est de partir du principe que ce qu’il fait est parfaitement rationnel de son point de vue et de reconstituer la logique de ses actions.

Une seconde piste, complémentaire, consiste à s’aider des outils d’intelligence artificielle pour créer des analyses prédictives. En regardant les données, peut-on cerner comment ce concurrent a répondu par le passé quand les prix ont monté ? Y-a-t-il un schéma récurrent qui pourrait nous renseigner sur sa réponse potentielle à la mise sur le marché de notre prochaine offre ?  Une excellente façon de stimuler une vision dynamique du jeu concurrentiel et de garder une longueur d’avance.


Source :  Author Talks: How cognitive empathy can help you predict the competition’s next steps,  interview de John Horn par David Schwartz, McKinsey, juin 2023.

Des défis pour renforcer la confiance ?

Des défis pour renforcer la confiance ?

Et si vous soumettiez des défis à vos équipes pour renforcer leur cohésion ? Des recherches en neurosciences montrent que l’effet est bien réel.  Une équipe du Center for Neuroeconomics Studies travaille depuis des années sur cette question centrale : qu’est-ce qui amène des personnes à se faire confiance ? Elle a commencé par montrer que la confiance est liée à la production d’ocytocine : cette hormone incite les individus à interagir et à se fier les uns aux autres. Elle s’est ensuite intéressée aux comportements managériaux qui favorisent cette production d’ocytocine. Sans surprise, on retrouve le fait de reconnaître les qualités des collaborateurs et de leur laisser des marges de manœuvre, mais aussi le fait de proposer régulièrement à ses équipes des « micro-défis ». Comment cela fonctionne-t-il ? Lorsque l’on confie à une équipe un objectif difficile mais atteignable, le stress modéré de la tâche libère des substances neurochimiques, notamment la fameuse ocytocine, mais aussi l'adrénocorticotrophine. Celles-ci intensifient la concentration, renforcent les liens sociaux et aident les personnes à mieux coordonner leurs actions. Attention toutefois : cela ne fonctionne que si les objectifs semblent réalistes et ont une finalité concrète. Un excellent levier pour créer une culture combinant efficacité collective et confiance.


Source : The Neuroscience of Trust, Paul J. Zak, Harvard Business Review, janvier-février 2017.

Essai gratuit

Découvrez des Synthèses Manageris gratuitement et sans engagement !

Essayer

Toutes les publications

Explorer

×

Essai gratuit

Découvrez des Synthèses Manageris gratuitement et sans engagement !

Je découvre

(1) Cochez cette option pour laisser une trace sur votre ordinateur afin de ne plus afficher cette fenêtre. Ce système de trace est basé sur les cookies. Ces fichiers ne peuvent en aucun cas endommager votre ordinateur, ni l'affecter d'aucune façon, vous pourrez les supprimer à tout moment dans les options de votre navigateur.