Car l’essentiel des codeurs sont des mâles plutôt de type occidental. Seuls 15% et 10% des effectifs de Facebook et de Google en IA, respectivement, sont des femmes. Les chiffres sont encore plus sombres en ce qui concerne la diversité raciale. Si le premier biais est le talent qui développe le code, un second biais est le manque de transparence algorithmique (car en l’absence de contrôle, les préjugés, les hypothèses et les stéréotypes personnels sont intégrés dans les algorithmes).  

C’est ainsi que le biais des genres est très largement dépassé par des considérations éthiques plus larges, auxquelles les concepteurs devraient accorder beaucoup plus d’attention, et même rompre avec la simple dichotomie binaire des genres. Car à y regarder de près, l’IA conversationnelle pourrait avoir des impacts dans le changement social bien au-delà de la dichotomie homme / femme. 

Pour en savoir plus :« Conversational AI Can Propel Social Stereotypes » de Sharon Horowitt-Hendler et James Hendler, (Wired janvier 2020)

L’article Les IA conversationnelles sont des mecs (en fait) est apparu en premier sur Business-Digest.