{"id":713,"date":"2023-05-06T12:30:39","date_gmt":"2023-05-06T10:30:39","guid":{"rendered":"https:\/\/chicane-lemag.fr\/15\/?p=713"},"modified":"2023-05-07T15:32:05","modified_gmt":"2023-05-07T13:32:05","slug":"resoudre-les-biais-sexistes-de-chat-gpt-action-reaction","status":"publish","type":"post","link":"https:\/\/chicane-lemag.fr\/15\/2023\/05\/06\/resoudre-les-biais-sexistes-de-chat-gpt-action-reaction\/","title":{"rendered":"R\u00e9soudre les biais sexistes de Chat GPT : action, r\u00e9action !"},"content":{"rendered":"\n

En 2016, Tay, un bot conversationnel lanc\u00e9 par Microsoft, \u00e9crit sur Twitter : \u00ab Je d\u00e9teste ces putain [sic] de f\u00e9ministes, elles devraient mourir et aller en enfer.<\/em> \u00bb Quelques heures apr\u00e8s son lancement et suite \u00e0 de nombreux \u00ab d\u00e9rapages \u00bb<\/a>, son compte est ferm\u00e9. Comme Tay en 2016, les r\u00e9ponses sexistes de ChatGPT interrogent : comment r\u00e9soudre ces biais ? Ses programmeurs l\u2019assurent : l\u2019IA bloque les contenus discriminants. Pourtant, pour Daphn\u00e9 Marnat, CEO d\u2019Unbias<\/a>, une entreprise traitant les biais des algorithmes de traitement de langage, il s\u2019agit d\u2019une fausse promesse. <\/p>\n\n\n\n

Selon elle, \u00ab les corpus sur lesquels ChatGPT est entra\u00een\u00e9, c\u2019est-\u00e0-dire du Common Crowl, 60% du web et en majorit\u00e9 du Wikip\u00e9dia, sont charg\u00e9s de repr\u00e9sentations pass\u00e9es sur les femmes. \u00bb<\/em> Il est donc primordial d\u2019emp\u00eacher la machine de r\u00e9pliquer voire amplifier ces repr\u00e9sentations. Elle identifie deux probl\u00e8mes : les mots en eux-m\u00eames sexistes, comme le terme \u00ab m\u00e9g\u00e8re \u00bb<\/em>, et \u00ab les repr\u00e9sentations implicites<\/em> \u00bb associant un domaine particulier \u00e0 un genre. Par exemple, les math\u00e9matiques vont, suivant ces repr\u00e9sentations, \u00eatre associ\u00e9es au masculin par la machine. <\/p>\n\n\n\n

Open AI, pas si \u00ab open \u00bb que \u00e7a<\/strong><\/h2>\n\n\n\n

La CEO d\u2019Unbias souligne que le processus d\u2019apprentissage de ChatGPT a plut\u00f4t tendance \u00e0 amplifier ces biais. ChatGPT est parfois utilis\u00e9 pour r\u00e9diger des offres d\u2019emploi. Le probl\u00e8me, c\u2019est que l\u2019IA s\u2019attache plus \u00e0 la coh\u00e9rence de l\u2019offre d\u2019emploi qu\u2019\u00e0 l\u2019adoption d\u2019un langage non sexiste. \u00c9tant donn\u00e9 que la machine a appris qu\u2019en fran\u00e7ais l\u2019annonce est r\u00e9dig\u00e9e au masculin neutre et que sa base de donn\u00e9es identifie comme bons candidats les hommes de moins de 40 ans, pour Daphn\u00e9 Marnat \u00ab tout le monde y perd y compris les employeurs, il n\u2019y a pas de transparence pour les services de ressources humaine. \u00bb<\/em><\/p>\n\n\n\n

Cette situation s\u2019explique selon elle par un choix strat\u00e9gique d\u2019Open AI : \u00ab Pour r\u00e9soudre les biais sexistes de l\u2019IA, soit vous travaillez sur l\u2019algorithme et vous lui interdisez d\u2019amplifier ces biais ; soit vous faites comme Open AI : de l\u2019apprentissage par renforcement, c\u2019est-\u00e0-dire que vous lui dites au cas par cas ce qui est bien et ce qui ne l\u2019est pas. \u00bb <\/em>Le probl\u00e8me r\u00e9side dans le manque de transparence des principes fondateurs de cet apprentissage. \u00ab Je suppose qu\u2019ils l\u2019ont fait avec leurs valeurs. \u00c7a reste les id\u00e9es californiennes mais il y a tout de m\u00eame une id\u00e9ologie sous-jacente. Open AI doit prendre la responsabilit\u00e9 de ce qu\u2019ils mettent entre les mains des gens \u00bb<\/em>, ainsi l\u2019entrepreneure plaide pour une documentation pr\u00e9cise de ces choix, au vu et su de l\u2019utilisateur. <\/p>\n\n\n\n

A probl\u00e8me matriciel, initiatives plurielles <\/strong><\/h2>\n\n\n\n

Cet enjeu de la transparence du processus d\u2019apprentissage est \u00e9galement dans le viseur des autorit\u00e9s. Le Digital Service Act<\/a>, adopt\u00e9 en juillet 2022 par le Parlement europ\u00e9en, impose aux plateformes num\u00e9riques une obligation de transparence sur leurs mod\u00e8les. Pour Daphn\u00e9 Marnat, <\/em>cette initiative est cruciale \u00ab c\u2019est comme les quotas pour la parit\u00e9. S\u2019il n\u2019y a pas d\u2019obligation, malheureusement personne ne fait rien. \u00bb<\/em><\/p>\n\n\n\n

L\u2019exp\u00e9rience de l\u2019entrepreneure dans ce milieu soul\u00e8ve un autre probl\u00e8me \u00ab quand vous arrivez dans ces m\u00e9tiers, vous faites face \u00e0 des \u00e9quipes sexistes et une ambiance masculiniste aliment\u00e9e par l’univers des jeux vid\u00e9o, de la science-fiction et par l\u2019imaginaire de l\u2019homme ultra viril. \u00bb <\/em>Au-del\u00e0 de la f\u00e9minisation des m\u00e9tiers, c\u2019est donc l\u2019environnement professionnel des m\u00e9tiers de l\u2019IA qu\u2019il \u00ab convient de repenser \u00bb.<\/em><\/p>\n\n\n\n

Du travail reste encore \u00e0 faire car en plus d\u2019\u00eatre potentiellement sexiste ChatGPT v\u00e9hicule aussi des biais racistes et grossophobes. La machine sera-t-elle un jour \u00e9galitaire ?  <\/p>\n\n\n\n

         Astrid Nobre<\/p>\n","protected":false},"excerpt":{"rendered":"

Face aux risques de d\u00e9rapages sexistes, racistes ou grossophobes, les chercheurs s\u2019interrogent sur la capacit\u00e9 de l\u2019algorithme \u00e0 censurer ses r\u00e9ponses biais\u00e9es. <\/p>\n","protected":false},"author":4,"featured_media":714,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-713","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-non-classe"],"acf":[],"_links":{"self":[{"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/posts\/713","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/comments?post=713"}],"version-history":[{"count":0,"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/posts\/713\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/media\/714"}],"wp:attachment":[{"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/media?parent=713"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/categories?post=713"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/chicane-lemag.fr\/15\/wp-json\/wp\/v2\/tags?post=713"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}