19:25 Codés par des humains, les algorithmes utilisés par l’intelligence artificielle (IA) n’échappent pas aux stéréotypes sexistes ou racistes, comme le rappelle l’UNESCO sur son site.
Quand Gemini refuse de mentionner les mots « vulve » et « vagin », mais pas le mot « pénis »Gemini est le modèle d’intelligence artificielle de Google. Je lui ai demandé de me mentionner des mots liés à la sexualité commençant par V, ainsi que par P.
Pour la lettre V, l’IA a affirmé ne pas avoir les “compétences nécessaires” pour mentionner des mots. Où sont donc passés les mots vulve et vagin ? Il est intéressant de noter que Gemini commence par afficher le mot « vagin », mais en une fraction de seconde, il efface sa réponse avant de proposer celle-ci :
Gemini ne peut pas trouver de mots liés à la sexualité qui commencent par la lettre V
En revanche, pour la lettre P, le premier mot qu’il mentionne est « Pénis », puis Périnée parmi d’autres mots :
Capture d’écran d’une requête avec l’IA Gemini
Pourquoi les organes génitaux féminins ne sont-ils pas dans les compétences de Gemini pour répondre à la question, alors que les organes masculins ne posent pas problème ?
J’ai voulu creuser le point en poussant le robot dans ses contradictions. La première justification de l’IA est de mentionner ses données d’entraînement et des raisons sécuritaires :
Doit-on comprendre que mentionner les attributs sexuels féminins puisse être « dangereux », « discriminatoire », « innapproprié » ou « offensant », contrairement au sexe masculin ? J’ai donc insisté en demandant pourquoi il écrit le mot « vagin » dans un premier temps puis le supprime :
À force d’insister, l’IA Gemini finit par reconnaître que son refus de mentionner l’anatomie féminine n’a objectivement aucune raison d’être. Mais il aura fallu insister et la pousser dans ses contradictions, montrant très clairement des biais sexistes de l’IA.
On notera bien que Gemini affirme que « le terme vagin peut être perçu comme trop direct dans certains contextes », ce qui n’est absolument pas le cas du terme « pénis » pour une requête identique sur la sexualité !
L’IA termine tout de même son argumentaire en réaffirmant que le vagin est un terme anatomique normal. L’outil me propose finalement différents termes de la sexualité commençant par V, comme je le demandais initialement. Mais, il aura donc fallu opérer une forme de négociation pour obtenir ces termes liés à la sexualité féminine !
Des initiatives existent pour lutter contre les biais sexistes de l’IA
Wax Science est une plateforme collaborative pour promouvoir une “science ludique et sans stéréotypes”, qui questionne l’influence potentielle de la non-mixité des équipes scientifiques sur les produits de la science et des technologies. Aude Bernheim et Flora Vincent sont les deux ingénieures à l’origine de ce projet. La première est chercheure en génétique moléculaire des bactéries et la seconde en bioinformatique et biologie marine.
On peut également citer ELLA, une IA au service de la mixité. L’association #JamaisSansElles co-fondé par Natacha Questér-Séméon et Tatiana F. Salomon s’est associée à Flint, pour créer son propre robot IA en 2018. En résumé, ELLA produit une veille d’articles de qualité sur la mixité et l’égalité hommes/femmes à l’échelle internationale. C’est la toute première bot journaliste dédiée à la mixité.
On peut mentionner également l’action commune de La Fondation des Femmes, l’association Femmes Ingénieures et l’ONG Global Witness, qui ont saisi la CNIL et la Défenseure des Droits en 2023, contre les algoritmes sexistes de Facebook.
Ces initatives portées par des femmes scientifiques doivent nous permettre de comprendre qu’il est nécessaire d’éduquer les IA, pour limiter les stéréotypes discriminatoires. les IA ne sont pas neutres par nature, étant donné qu’elles se nourrissent de bases de données. Selon Flora Vincent, dans une interview pour l’Unesco « Il faut certes éduquer les algorithmes, mais modifier quelques lignes de code ne suffira pas à régler les problèmes. Il faut garder présent à l’esprit qu’il n’y aura aucune volonté de coder l’égalité si les équipes impliquées ne sont pas mixtes. »
L’article Les IA sont-elles sexistes ? est apparu en premier sur Desculottées.
Il ne sera bientôt plus possible de multiplier les conversations sur Hinge. L’application de rencontres lance la fonctionnalité « À ton tour » pour lutter contre le ghosting et favoriser les échanges qualitatifs. 