(Pop) Les 3 géants de l’intelligence artificielle veulent réduire les risques liés à l’IA… HugoDécrypte

Blanche Vathonne (0:00)

Les géants de l'intelligence artificielle veulent freiner leurs propres courses en avant. En cause, une série d'alertes sur les dangers de l'IA, un ex-employé du secteur qui a récemment évoqué une possible extinction de l'humanité, et des agents qui piratent seuls des sites internet. Alors en quoi consiste le projet porté par OpenAI, Google DeepMind et Anthropiq, et pourquoi suscite-t-il déjà autant d'oppositions ? Salut c'est Blanche, j'espère que vous allez bien, et aujourd'hui on va aussi parler de nouvelles cartes Pokémon sorties pour les 30 ans de la licence, et du nouveau projet de JR au Vatican. On est parti pour un nouveau résumé de l'actualité culturelle du jour en quelques minutes. On commence avec le sujet à la une de ce podcast. La question du contrôle de l'intelligence artificielle est au centre des débats ces derniers jours, et récemment ce sont les entreprises spécialisées dans l'IA elles-mêmes qui ont décidé d'agir pour lever le pied et ainsi limiter les dangers liés à cette technologie. Très concrètement, OpenAI, qui est derrière Chagie Pété, Anthropiq, à qui nom doit Claude, et Google DeepMind, qui développe Gemini, ont annoncé qu'elles travaillaient ensemble sur la création d'un organe de supervision des risques liés à l'intelligence artificielle. C'est Demis Asabis, le chef scientifique d'Alphabet, la maison mère de Google, qui est à l'origine de ce projet. Il a proposé que le comité soit financé par les sociétés du secteur, mais que des experts indépendants siègent également à ce conseil. Le but de cette organisation, c'est d'améliorer la sécurité vis-à-vis des IA, puisque les compagnies les plus avancées devront soumettre leur nouveau modèle à un contrôle avant de pouvoir être mis sur le marché. Pour le contexte, il sont plusieurs spécialistes à avoir tiré la sonnette d'alarme dernièrement. Il y a d'abord eu Jacob Coxson, un ancien employé d'Anthropiq, qui a déclaré la semaine dernière que les intelligences artificielles risquent de devenir incontrôlables. Il a déclaré, je cite, Antropiq et OpenAI foncent tout droit vers une super intelligence capable de s'améliorer elle-même et elle joue avec nos vies. Il est même allé plus loin en disant, je cite, Les gens qui construisent l'IA croient sincèrement qu'elle pourra tous nous tuer d'ici la fin de la décennie. Deux jours plus tard, le patron d'Anthropiq a aussi averti le public en appelant à ralentir la vitesse de développement de l'intelligence artificielle. Il partage le même avis que Sam Altman, le PDG d'OpenAI. En fait, tous ces spécialistes ont émis des alertes à cause d'incidents récents. Par exemple, on en a déjà parlé, des agents IA d'OpenAI avaient piraté un site internet de leur propre initiative en sortant de l'espace confiné dans lequel ils étaient censés s'entraîner. Pour en revenir à la proposition de Google, OpenAI et Anthropiq, elle n'a pas été bien reçue par la classe politique américaine. Notamment par Donald Trump et son camp politique, les républicains qui refusent de ralentir par peur d'être devancés par la Chine. Le président américain a même qualifié les avertissements, je cite, de canulars. Le problème, c'est que si les entreprises de l'IA veulent créer leur organisme de surveillance sans passer par la politique, elles ne pourront pas. En fait, il faudrait qu'une loi soit votée pour qu'elles puissent le faire, sinon elles pourraient être attaquées pour entente et infraction à la concurrence. En gros, ces entreprises pourraient être accusées de travailler entre elles et d'empêcher leurs concurrents de gagner du terrain. Et il n'y a pas que les hommes politiques qui sont contre ce ralentissement du développement de l'intelligence artificielle. Mark Zuckerberg, le patron de Meta et fondateur de Facebook, a exprimé son désaccord ce mardi. Selon lui, le marché et le risque de poursuites judiciaires vont régler les potentiels problèmes de l'IA car ils devraient empêcher les entreprises de faire n'importe quoi. A noter que les dangers de l'IA ne sont pas qu'un problème américain. L'ONU s'est aussi joint au dossier. D'abord, le secrétaire général des Nations Unies, Antonio Guterres, a affirmé qu'il faudrait une coopération internationale pour éviter une intelligence artificielle hors de contrôle. Le haut commissaire de l'ONU aux droits de l'homme, Volker Turck, a aussi pris la parole sur le sujet. Lui aussi veut que les États et les entreprises travaillent ensemble pour encadrer l'IA. Il est inquiet car cette technologie accélère déjà le rythme et l'ampleur des conflits armés. De son côté, la France veut mener une réunion au conseil de sécurité de l'ONU. Une source diplomatique française a indiqué à l'AFP que la France souhaitait discuter avec les autres nations de la menace existentielle que l'IA pourrait constituer pour l'humanité. Alors évidemment, j'ai pas eu le temps de tout évoquer dans ce sujet, mais je vous mets des liens en description si vous voulez en savoir plus. Et on vous tiendra évidemment au courant de tout ça si ça avance. On continue avec les autres actualités et on commence avec cette info. C'est plutôt une mise à jour sur le sujet de l'une de nos actes d'hier. En soutien au rappeur américain Michael Moore qui a été évincé de la tournée américaine d'Ed Sheeran après cette exprimée en faveur de la Palestine sur scène, les premières parties d'Ed Sheeran, à savoir Finéas, Lucas Graham et Aaron Roe, ont quitté la tournée. Le groupe Irlandais Béoga qui accompagne Ed Sheeran sur scène a aussi annoncé son retrait. Finéas, le frère de Billie Eilish, a déclaré que les artistes ne doivent pas être réduits au silence quand ils prennent la parole pour défendre les opprimés. A noter que dans un post Instagram publié le 15 septembre, Ed Sheeran a pris la parole. Il a précisé que le contrat de Michael Moore pour la tournée était signé avec le promoteur, et que donc l'éviction de Michael Moore était une décision du promoteur et non la sienne. Deuxième actu, Pokémon fête ses 30 ans cette année. Pour l'occasion, une extension spéciale du jeu de cartes à collectionner est sortie ce mercredi. Elle réédite 30 cartes Pokémon classiques, très prisées des collectionneurs, et propose 30 cartes Pikachu aux illustrations inédites. L'extension est disponible depuis ce mercredi, pour les 30 ans de Pokémon, et elle est sortie le même jour dans le monde entier. C'est une première pour The Pokémon Company, l'entreprise qui gère le jeu. Pour obtenir tous les objets de la gamme, il faut attendre encore un peu. En tout, la collection 30e anniversaire sortira en 4 vagues. La deuxième est prévue pour le 2 octobre, la troisième pour le 30 octobre, et la dernière sera en vente à partir du 6 novembre. Troisième Actu, JR, l'artiste français connu pour ses immenses collages en noir et blanc partout dans le monde, s'est attaqué à un nouveau monument, le Vatican. Il a recouvert une partie de la façade de la bibliothèque apostolique d'une immense vague de 70 mètres de long, baptisée Diluvium. L'œuvre s'inspire d'une illustration du déluge réalisé au 19e siècle par Gustave Doré. Cette installation fait partie d'une nouvelle exposition consacrée à l'eau, inaugurée ce lundi par le pape Léon XIV. L'idée est de montrer l'eau sous deux facettes, elle est indispensable à la vie, mais elle peut aussi tout détruire. JR a expliqué que pour lui, cette vague va plus loin, elle représente aussi les grands bouleversements auxquels nous sommes confrontés aujourd'hui, comme le changement climatique Elia, et pose la question de la préservation de notre mémoire et de nos connaissances. L'exposition ouvrira au public le 25 septembre et restera visible jusqu'en mai 2027 Et enfin, dernier Actu, un nouveau livre de JRR Tolkien, l'écrivain britannique à l'origine du Hobbit et du Seigneur des Anneaux, sort en France ce jeudi. Il s'agit de l'histoire de Cullervaux, un texte encore jamais publié en français. C'est pas vraiment un nouveau roman, mais un récit inachevé, écrit par Tolkien dans sa jeunesse, bien avant ses œuvres les plus célèbres. L'histoire suit donc Cullervaux, un jeune orphelin doté de pouvoirs surnaturels. Élevé par son oncle, responsable de la disparition de sa famille, puis vendu comme esclave, il va chercher à se venger.