Les décisions qui s’appuient sur l’intelligence artificielle (IA) ont pour particularité que l’on ne connaît pas l’enchaînement logique qui a conduit à la solution préconisée. À cela s’ajoute le recours aux méthodes d’apprentissage statistique : le deep learning repose sur des corrélations entre des millions, voire des milliards de paramètres, que l’on ne peut pas traduire en liens de causalité explicites.

Or, pour faire confiance, nous avons besoin d’explications. Isabelle Bloch, professeure à Sorbonne Université, souligne le rôle essentiel de l’humain à cet égard. Il s’agit en effet d’identifier comment pallier judicieusement l’opacité de l’algorithme, selon chaque cas de figure. L’enjeu est avant tout de choisir le type d’explication à donner, en fonction du besoin et des personnes à qui l’on s’adresse. Est-on avant tout face à un enjeu de confiance, d’éthique, de responsabilité ? Quel est le niveau de compréhension de l’IA des interlocuteurs ? On pourra ainsi choisir d’expliquer quelles sont les données utilisées, les principes de fonctionnement de l’IA employée, les précautions à prendre en utilisant ses résultats, etc. Ainsi, plus l’IA se développera, plus nous devrons développer notre capacité à communiquer sur ses résultats et à en discuter. Un nouveau pan de compétences à explorer.

Source : Il faut justifier les décisions prises par un algorithme, interview d’Isabelle Bloch par Sophy Caulier, Polytechnique Insights, décembre 2021.