sexisme - Business-Digest https://business-digest.eu/tag/sexisme/ Slogan de Business Digest Fri, 01 Jul 2022 08:57:24 +0000 fr-FR hourly 1 https://wordpress.org/?v=7.0.2 https://business-digest.eu/wp-content/uploads/2021/01/cropped-Favicone-32x32.png sexisme - Business-Digest https://business-digest.eu/tag/sexisme/ 32 32 Sexistes ou racistes, les algorithmes ? Ça se corrige ! https://business-digest.eu/sexistes-ou-racistes-les-algorithmes%e2%80%af-ca-se-corrige%e2%80%af/?utm_source=rss&utm_medium=rss&utm_campaign=sexistes-ou-racistes-les-algorithmes%25e2%2580%25af-ca-se-corrige%25e2%2580%25af Mon, 05 Jul 2021 08:30:00 +0000 https://business-digest.eu/?p=27857 Mauvaise nouvelle : les algorithmes, omniprésents, sont potentiellement discriminatoires. Bonne nouvelle : l'intelligence artificielle peut aussi repérer les variables à l'origine de biais injustes.

L’article Sexistes ou racistes, les algorithmes ? Ça se corrige ! est apparu en premier sur Business-Digest.

]]> Le terme « algorithme » est auréolé d’une rassurante objectivité technique, mais ne croyez pas que les décisions prises par des programmes sont plus neutres que les choix humains. Elles peuvent être tout aussi subjectives. Christophe Pérignon, professeur à HEC, relate un exemple d’algorithme attribuant à un célèbre développeur une limite de crédit bancaire 20 fois supérieure à celle de son épouse, au profil financier pourtant identique. En effet, l’intelligence artificielle est basée sur des données sélectionnées par des humains, donc potentiellement biaisées. Et allez retrouver la variable incriminée parmi les milliers utilisées pour fabriquer l’algorithme – une véritable boîte noire ! Glaçant, quand on connait le rôle crucial des algorithmes dans nos vies, de la reconnaissance faciale à la sélection de CV.  

Mais Christophe Pérignon et ses co-auteurs ont trouvé une parade. Ils ont conçu un test statistique qui détermine si un algorithme est équitable ou non, et ont réussi à trouver comment repérer la variable à l’origine du biais injuste. Ne reste plus qu’à espérer que les institutions adoptent l’outil.  

Pour aller plus loin

“A $%^* Sexist Program: Detecting and Addressing AI Bias”

(Christophe Pérignon, HEC, décembre 2020).  

L’article Sexistes ou racistes, les algorithmes ? Ça se corrige ! est apparu en premier sur Business-Digest.

]]> Les IA conversationnelles sont des mecs (en fait) https://business-digest.eu/les-ia-conversationnelles-sont-des-mecs-en-fait/?utm_source=rss&utm_medium=rss&utm_campaign=les-ia-conversationnelles-sont-des-mecs-en-fait Sun, 01 Mar 2020 23:00:00 +0000 https://business-digest.eu/les-ia-conversationnelles-sont-des-mecs-en-fait/ Les assistantes polies comme Alexa ou Siri sont présentées ou perçues comme des femmes. Mais le champion Watson correspond bien aux modèles de discours masculins. Et ce qui est surprenant, c’est que les préjugés touchant les IA vont bien au-delà des stéréotypes sexistes …

L’article Les IA conversationnelles sont des mecs (en fait) est apparu en premier sur Business-Digest.

]]> En 2019 l’Unesco a publié un rapport mettant en garde contre les dégâts collatéraux d’IA sexuées. Les auteurs critiquent le fait que la plupart des IA conversationnelles ont un prénom et une voix féminine alors même qu’ils se targuent d’être sans genre. Ils mettent aussi en garde contre le danger de limiter le biais à la voix ou au pronom.   

Car l’essentiel des codeurs sont des mâles plutôt de type occidental. Seuls 15% et 10% des effectifs de Facebook et de Google en IA, respectivement, sont des femmes. Les chiffres sont encore plus sombres en ce qui concerne la diversité raciale. Si le premier biais est le talent qui développe le code, un second biais est le manque de transparence algorithmique (car en l’absence de contrôle, les préjugés, les hypothèses et les stéréotypes personnels sont intégrés dans les algorithmes).  

C’est ainsi que le biais des genres est très largement dépassé par des considérations éthiques plus larges, auxquelles les concepteurs devraient accorder beaucoup plus d’attention, et même rompre avec la simple dichotomie binaire des genres. Car à y regarder de près, l’IA conversationnelle pourrait avoir des impacts dans le changement social bien au-delà de la dichotomie homme / femme. 

  

Pour en savoir plus :« Conversational AI Can Propel Social Stereotypes » de Sharon Horowitt-Hendler et James Hendler, (Wired janvier 2020)

 

L’article Les IA conversationnelles sont des mecs (en fait) est apparu en premier sur Business-Digest.

]]>