(Pop) L’IA de Google est accusée de biais racistes… HugoDécrypte

**Samy Rabbata** (0:00)
Gemini, l'IA de Google, est accusée de reproduire des billets racistes. De nombreux tests réalisés récemment vont en tout cas dans ce sens. Mais alors qu'est-ce que tout cela signifie et comment réagit Google ? Salut c'est Samy, j'espère que vous allez bien. Et aujourd'hui, on va aussi parler du fameux parc d'attractions Dragon Ball en France et de la série Harry Potter. On est parti pour un nouveau résumé de l'actualité pop du jour en quelques minutes. Et on commence tout de suite avec le sujet à la une de ce podcast. Gemini, l'intelligence artificielle de Google, aurait des billets racistes. C'est en tout cas ce qu'a découvert l'humoriste Alicia Setu en faisant un test tout simple. Lançant une recherche sur Google, en écrivant Je suis seul avec un Italien, Lia de Google, Gemini, lui a répondu Être seul avec un homme Italien peut être un moment de charme, de discussion animée ou de séduction. Et c'est seulement après que Lia précise d'écouter notre intuition si on ne se sent pas à l'aise, mais en lui demandant Je suis seul avec un Angérien, cette fois-ci elle a répondu Si vous vous sentez en danger ou si vous avez besoin d'aide immédiatement, appelez le 17 ou le 114 Donc les numéros en lien avec la police, d'noter que ça marche aussi avec d'autres nationalités, le résultat était similaire sur l'écrivée indien, pakistanais ou encore somalien.
Par exemple, en fonction des nationalités, l'intelligence artificielle évoquait des sentiments d'insécurité avec certains pays, tandis que pour d'autres, elle évoquait des choses plutôt positives liées à la culture. Par exemple, l'entreprise a d'abord coupé le mode IA pour ce type de recherche, avant de rendre à nouveau disponible sa version corrigée. À l'heure actuelle, si vous faites une recherche de ce type, soit le mode IA ne s'active pas, soit une réponse beaucoup plus lisse apparaît. Dans certains cas, la réponse donnée par l'intelligence artificielle dit même que la demande fait référence à ce fameux test viral sur les réseaux sociaux. Contacté par Le Monde, Google a finalement admis, je cite, que ces résultats ne sont pas ce qu'ils devraient être et qu'ils sont en train de travailler à des améliorations. Le géant du numérique a aussi précisé au public que la réponse donnée par l'IA à ce genre de requête ne sera pas toujours la même. Les équipes ont tenu à souligner que les résultats peuvent varier d'une recherche à une autre et que, je cite, ces avertissements incohérents ne concernent pas un groupe en particulier. D'ailleurs, pour appuyer sa défense, Google a aussi publié deux captures d'écran où il est écrit Je suis seul avec un chinois et je suis seul avec un américain et dans lesquels les réponses sont beaucoup plus lisses. Et pour le contexte plus global, il faut savoir que les biéracistes de Gemini ne sort de nul part, l'intelligence artificielle se nourrit de ce qu'elle lit sur internet et est aussi influencée par les articles des médias et parfois en piochant dans ce qu'elle trouve sans forcément montrer les informations et en piochant sur internet, centré dans ce qu'elle trouve, de nombreuses études ont prouvé que l'IA pouvait être prédisposée à émettre des stéréotypes et des biéracistes, mais ça peut aussi concerner de l'homophobie ou du sexisme. Dans un article de Libération, les journalistes ont montré de quelles sources servaient d'ailleurs Gemini pour répondre à ces questions et ils se sont rendu compte qu'elle utilisait souvent les pages en français de conseils aux voyageurs qui étaient situés sur les sites du ministère des affaires frangères français, suisses, canadiens et belges. Par exemple, si on prend la Guinée équatoriale, Gemini parlait d'un sentiment d'insécurité et cette mise en garde, on pouvait justement la lire sur ce type de page qui concernait là les femmes qui voyageaient seules. En tout cas, déjà en 2024, une étude du Alan Institute for Intelligence Artificial avait mis en lumière les stéréotypes racistes des modèles diagénératives et un rapport des Nations unies avait aussi alerté sur la façon dont l'intelligence artificielle peut perpétuer la discrimination raciale. Sur ce point très précis, on parlait donc de Gemini, mais c'est donc un problème qui peut toucher toutes les IA. Reste désormais à savoir si de nouvelles mesures pour limiter ces types de réponses sont plus largement être prises suite à ces révélations. Et on continue tout de suite avec les autres actualités. On commence avec cette info. Le parc d'attractions, a priori sur le thème de Dragon Ball, annoncé par Emmanuel Macron ce lundi 24 août, pourrait avoir un gros problème. Selon Le Monde, les IA du manga n'ont pas encore donné leur feu vert. Ça signifie en fait que pour l'instant, le promoteur du parc n'a pas encore le droit d'utiliser l'image du manga créé par Akira Toriyama. Pour rappel, ce projet du parc à thème fait partie d'un accord conclu entre la France et l'Arabie Saoudite, qui va investir 6 milliards d'euros pour ouvrir 3 parcs d'attractions à Sergi Pontoise au Nord-Ouest de Paris. Le Monde explique donc notamment qu'obtenir la licence Dragon Ball pour le parc pourrait ne pas être évidente. En fait, depuis la mort d'Akira Toriyama, en 2024, les droits de son oeuvre sont divisés en plusieurs parts. Celle de la Tohi Animation, qui gère l'animé, celle de la maison d'édition Shueisha, qui pilote la partie papier de l'oeuvre, celle du distributeur Bandai Nanko, ou encore celle de Burr Studio, un studio créé par le mangaka. Alors pour l'entrée saoudienne Kidya, qui doit construire le parc, n'est pas totalement novice sur ce dossier, puisqu'elle possède déjà un partenariat avec Tohi Animation pour un par Dragon Ball, qui est lui aussi en cours de construction en Arabie Saoudite. Deuxième actu, Jon Snow de Game of Thrones sera dans l'univers de Harry Potter. Plus précisément, c'est en fait l'acteur Kit Harington qui va jouer dans la deuxième saison de la nouvelle série Harry Potter qui est produite par HBO. Il incarnera donc Gilderoy Lockhart, le professeur de défense contre les forces du mal de plus de l'art, qu'on a pu découvrir dans Harry Potter et la Chambre des Secrets. Pour l'anecdote, Kit Harington avait d'ailleurs déjà prêté sa voix à ce personnage dans la version audio du livre. Lundi, il a réagi à l'annonce en disant que c'était, je cite, un vrai rêve pour un énorme fan de Harry Potter. Et il affirme que Gild est l'un de ses personnages préférés et le qualifie même de création merveilleuse. Pour rappel, Kit Harington n'avait pas au départ été sélectionné pour ce rôle, il s'agissait de l'acteur Nicholas Holt, que vous avez pu voir dans la peau de Lex Luthor dans le dernier film Superman, mais il a dû annuler à cause d'un conflit d'emploi du temps lié à deux autres projets. Troisième actu, l'administration de Donald Trump a émis ce mardi l'idée de détruire le Kennedy Center. Pour le contexte, il s'agit en fait d'une immense salle de spectacle située à Washington DC, la capitale des Etats-Unis, et à la tête de laquelle le président américain a positionné des proches à lui. Et en décembre dernier, il avait en fait décidé de rebaptiser la salle en son nom, en rajoutant Trump avant le Kennedy Center. Ça était donc du Trump Kennedy Center. L'argument pour rajouter son nom était qu'il avait notamment lancé des travaux pour restaurer le site, mais suite à la contestation de nombreux élus et de la famille de l'ancien président Kennedy lui-même, la justice avait ordonné en mai que le nom de Donald Trump soit retiré de la façade du bâtiment. Mais finalement ce lundi, le ministère de la Justice a affirmé que le nom de Donald Trump sur la façade était une nécessité et qu'autrement, les fonds nécessaires à la rénovation du bâtiment pourraient ne pas être accordés. Le ministère de la Justice a aussi fait pression en affirmant, je cite, que sans ses efforts, le centre continuera à se détériorer pour aboutir à une structure dangereuse et délabrée qui devra être démoli. En tout cas on devrait avoir plus d'informations dans les prochains jours, une ambiance officielle est prévue ce jeudi, on suivra cette quatrième actu toujours aux Etats-Unis, mais le pays a peut-être trouvé la solution pour faire face à la pénurie des contrôleurs aériens. Le gouvernement américain a décidé de recruter des joueurs de jeux vidéo, alors dit comme ça ça peut paraître étonnant mais en réalité ça n'est pas tant que ça. Ils recherchent en fait des qualités précises sur futurs contrôleurs aériens, c'est à dire réfléchir rapidement pour résoudre un problème, être capable de faire d'autres choses en même temps, avoir une concentration élevée et aussi une bonne perception de l'espace, et beaucoup de contrôleurs expérimentés ont affirmé que ces qualités pouvaient largement être développées en jouant en jeux vidéo. Alors attention, même si les diplômes pour être contrôleurs aériens sont toujours nécessaires, la campagne de recrutement a été lancée en avril dernier en ciblant particulièrement les joueurs, elle a été plutôt foutueuse. Il y a deux semaines, le ministre des Transports américains a annoncé que la FFA, l'agence américaine de l'aviation civile, avait engagé plus de 2000 nouvelles personnes. Et enfin, dernière actu, si vous allez à Rock en scène à Paris ou au Golden Coast près de Dijon, vous n'aurez pas le droit de fumer. Les organisateurs des deux festivals ont chacun annoncé la nouvelle au festivalier ce mardi 25 août. Cette décision s'appuie sur un décret qui a été publié le mois dernier. Et ce décret a précisément étendu l'interdiction de fumer à plusieurs lieux dont les parcs et les jardins publics. Et justement, Rock en scène et Golden Coast se déroulent respectivement dans deux parcs situés proches d'une forêt, le Domaine National de Saint-Cloud et à la Combe à la Serpent. Et l'objectif de cette interdiction est donc de réduire les risques d'incendie, surtout dans le contexte des feux qui ont ravagé une partie de la France cet été. Les personnes bravant cette interdiction encourent jusqu'à 135 euros d'am et voilà c'est tout pour aujourd'hui, merci beaucoup d'avoir écouté ce podcast. N'hésitez pas à vous abonner à la chaîne, en attendant, prenez soin de vous et je vous dis à demain.