Tous psy pour soigner Norman, l’IA psychopathe ?

Non mais on m’aurait dit en 1984 que Schwarzi pourrait illustrer un futur plus que possible, j’aurais rigolé. Et bien non, le MIT a mis un pied dans le pire en créant Norman, la première IA psychopathe, nourrie avec des données pourries. Mais peut-on soigner Norman ?

Le MIT a donc tenté l’expérience : éduquer Norman (entendez le Norman Bates du Psychose d’Hitchcock), une intelligence artificielle destinée à la description d’images, avec des images de violences et de mort avant de lui faire passer le test de Rorschach. Résultat : Norman est un psychopathe accompli. Et ce test a été fait en parallèle avec une IA standard qui voyait un bouquet de fleurs là où Norman voyait un meurtre.

Ce que le MIT a voulu prouver, c’est l’influence des données utilisées en machine learning pour entraîner et développer une intelligence artificielle. Le coupable ne serait donc pas l’algorithme, mais les données utilisées : les résultats proposés par une intelligence artificielle peuvent être détournés, biaisés pour apporter des réponses orientées.

Cette expérience, et merci aux chercheurs ! renforce de précédentes études sur les risques liés à la présence de biais dans les données servant à l’entrainement des algorithmes. Mais je vais la faire courte : elle pointe du doigt de vrais risques éthiques : de COMPAS à TAY, preuve est faite que l’IA amplifie nos biais et nos erreurs, alors que nous comptons sur elle pour être plus neutre et impartiale.

Peut-on soigner Norman ? Ses créateurs vous proposent de participer à un Google Doc en apportant à Norman vos propres réponses au test de Rorschach… À quand l’IA psychiatre pour réparer les IA déviantes et éviter de nous retrouver dans le bazar de 2029 ?

 

Pour tout comprendre et aider Norman à guérir : http://norman-ai.mit.edu/