L’informatique est une science exacte. Le processeur exécute les instructions identifiées dans le programme. Ni plus, ni moins. Bien évidemment des erreurs peuvent se présenter. C’est au concepteur du logiciel d’anticiper ces cas et de proposer des contre-mesures.
Il existe cependant une branche de l’informatique où le programme est défini non par un développeur mais par un autre programme. Cette branche est nommée (à tort) intelligence artificielle (IA). En fait, une organisation du programme en ‘réseau de neurones’ et le passage par une phase d’apprentissage permettent au programme de définir de lui-même les paramètres appropriés à la résolution d’un problème.
Ces IA sont donc conditionnées par l’algorithme mis en place pour définir leurs structures (structure des neurones, spécialisation des couches de traitement, …), par les données en entrée et leurs définitions lors de la phase d’apprentissage.
Pourtant, le résultat en sortie peut ne pas être à la hauteur. Pour qu’une IA reconnaisse une tortue, il aura fallu lui montrer des milliers d’images de tortues et lui indiquer à chaque fois le nom de l’animal. Deux dessins de tortues sont suffisants pour qu’un bébé reconnaisse une tortue dans tous les cas, mais passons.
Les erreurs sont possibles. Ainsi, l’IA de Facebook chargée d’écarter les images pornographiques a confondu un oignon et un sein. De cette histoire, je plaisantais en écrivant que, traumatisée par les milliers de photographies osées, l’IA devait avoir l’esprit tordu. Je sous-entendais qu’elle devrait consulter un psychologue pour évacuer ce traumatisme.
Ce qui me semblait être une blague est en train de devenir réalité. Le psychologue pour IA est désormais considéré comme un métier d’avenir. L’objectif de ce poste est de déterminer les biais cognitifs des IA et d’apporter des solutions pour corriger les réponses.
Prenons un cas récent. Une IA spécialisée dans la détection des cancers de la peau semble présenter des préjugés raciaux. Pourtant cet article n’est pas issu du Gorafi mais d’un rapport du institut technologique américain, le NIST. La conclusion est que l’IA présente des biais raciaux.
Si maintenant même les IA sont racistes, où va-t’on ? Plus sérieusement, les chercheurs explorent plusieurs pistes. Choix 1, la phase d’apprentissage a été biaisée. Les images qui ont services à l’apprentissage de l’IA montraient trop d’hommes de type caucasien. Ils ont donc refait l’apprentissage avec plus de photos de populations africaines. Rien n’y fait. L’IA a plus de mal à détecter les cancers avec la population du second groupe.
Deuxième hypothèse, nos psychologues ont mis en cause la structuration des neurones et des réseaux. Les algorithmes qui les décrivent ont dû être écrits par des caucasiens. Pour autant que je sache, en informatique seul le code est important. Les idées sont partagées à travers le monde. Ce biais est difficilement invocable, à moins qu’un informaticien du Wakanda ne propose une nouvelle logique plus performante, ce biais n’est pas réel.
Pourtant à coup d’études statistiques, les rédacteurs de l’article semblent affirmer le biais raciste des IA. Et si le biais était dans le problème. Une carnation plus claire est plus facilement observable parce qu’elle filtre moins de lumière. Je dois me tromper. Cet article, sous couvert de science, ne serait-il qu’idéologique ?
Étudier les biais potentiels d’une IA pour en améliorer son efficacité a sûrement un avenir. Mais ce n’est pas dans le domaine de la psychologie que la réponse se situe. C’est plutôt un travail d’enquêteur. En informatique, on parle plutôt de logicien. Ce nom est trop court et français. Ce n’est pas vendeur sur un CV. Isaac Asimov proposait le terme de ‘robopsychologue’.
Je ne sais pas ce qui me choque le plus. Parler de psychologie comme si un logiciel est un être humain ou vouloir reconfigurer les paramètres d’un logiciel avec une approche idéologique. Modifier le calcul d’indicateurs qui évaluent le chômage ne permet pas de créer de nouveaux postes.
En tout cas, le Docteur Susan Calvin va avoir du travail, et ses confrères spécialisés dans les humains aussi …