(Pop) Un ex-chercheur d’OpenAI et Anthropic alerte sur les risques du développement de l’IA.… HugoDécrypte

**Enzo Bruillot** (0:00)
Les gens qui construisent l'IA pensent qu'elles pourraient tous nous tuer d'ici la fin de la décennie. C'est ce qu'a affirmé un ancien chercheur d'OpenAI et Anthropik qui a décidé de quitter l'industrie de l'IA. Mais à l'heure de quoi accusent-ils les géants du secteur et comment les entreprises pointées du doigt ont-elles réagi ? Salut, c'est Enzo, j'espère que vous allez bien. Aujourd'hui, on va aussi parler de l'appel aux dons lancé par la Bibliothèque nationale de France pour récupérer un livre datant du 16ème siècle et du défi que s'est lancé une créatrice de contenu avant d'assister à l'un des concerts de Céline Dion. On est parti pour un nouveau résumé de l'actualité culturelle du jour en quelques minutes. On commence avec le sujet à la une de ce podcast et dans une série de messages publiés mardi sur les réseaux sociaux que Jacob Coxon, un chercheur en intelligence artificielle de 27 ans, a dénoncé les pratiques imprudentes des géants du secteur de l'IA. Avant d'aller plus loin, il faut savoir que le chercheur britannique a travaillé pendant 3 ans sur l'entraînement des modèles d'IA, d'abord chez OpenAI, la maison mère de ChadGPT, puis chez Anthropic, la maison mère de Claude. Il avait rejoint Anthropic parce qu'il pensait à l'entreprise plus prudente sur les questions de sécurité mais il estime aujourd'hui qu'aucune des deux sociétés agit de manière suffisamment responsable. Dans sa série de tweets dont le premier cumulait plus de 150 millions de vues jeudi en fin de journée, il a donc accusé OpenAI et Anthropic de, je cite, jouer avec nos vies, avec la course au développement de l'IA. Sa principale inquiétude concerne la course vers la super-intelligence auto-améliorante, autrement dit une IA suffisamment avancée pour participer elle-même à la création de modèles encore plus puissants et donc sans l'intervention d'un humain. Dans le détail, il craint que de tels systèmes puissent devenir extrêmement difficiles à contrôler, notamment grâce à leur capacité en programmation, en piratage informatique ou en recherche. Selon le chercheur britannique, certains chercheurs qui développent ces IA prennent d'ailleurs très au sérieux le risque qu'elle puisse provoquer une catastrophe allant jusqu'à l'extinction humaine. Mais ce n'est pas tout, pour Jacob Coxon, le problème est aussi celui de la course entre les entreprises. Même lorsque Anthropic reconnaît les dangers, elle aurait intérêt à continuer d'accélérer par peur qu'un concurrent arrive le premier à une IA très puissante et soit encore moins prudent. Il considère d'ailleurs qu'on ne peut pas laisser quelques entreprises privées décider seules du niveau de risque acceptable pour toute la société. L'ex-employé d'OpenAI et Anthropic a donc appelé à une intervention des États et à une coordination entre les laboratoires, pouvant aller jusqu'à une pause temporaire dans le développement des capacités les plus avancées. Maintenant qu'on sait tout ça, quelle a été la réaction du côté des entreprises concernées ? Et bien Evan Ubinger, responsable de la sûreté chez Anthropic, a pris la parole sur X pour donner raison à Jacob Coxon. Nous pensons sincèrement que l'IA pourrait tuer tous les humains, a-t-il écrit. A titre personnel, il estime à plus de 10 % le risque que cela se produise dans les dix prochaines années. Il a également précisé qu'Anthropic faisait de son mieux mais n'a pas encore de plan pour garantir qu'une IA plus intelligente que les humains continue d'obéir à ses concepteurs. Le risque reste toutefois faible avec les modèles actuels selon lui. A noter que face à la situation, certains acteurs du secteur demandent de ralentir le développement de l'IA depuis maintenant plusieurs mois. Fin juillet, plus de 1000 personnes travaillant dans le secteur dont le patron d'Anthropic est Dario Amodei, ont demandé aux Etats-Unis de mettre en place un système pour ralentir le développement de l'IA si nécessaire. En fait, aux Etats-Unis, il n'existe aucune loi fédérale qui réglemente directement ces modèles car l'administration Trump privilégie une réglementation limitée. Au début du mois de septembre, le sénateur Bernie Sanders et le démocrate Greg Kazar ont proposé une loi visant à suspendre le développement d'IA jusqu'à la création d'un organisme chargé de les réguler. De son côté, le haut-commissionnaire de l'ONU au droit de l'homme a appelé lundi à mettre rapidement en place des règles pour encadrer l'intelligence artificielle. Bref, je vous mets des liens en description si vous souhaitez en savoir plus sur le sujet. On continue avec les autres actualités et on commence avec cette info. La Bibliothèque nationale de France a lancé un appel aux dons pour acquérir pour 500 euros un manuscrit d'Anne De France, la fille de Louis XI et ancienne région du Royaume de France. Ce manuscrit, destiné à sa fille Suzanne de Bourbon, date du début du XVIème siècle. On y retrouve deux textes où Anne De France partage ses réflexions sur le pouvoir et la place des femmes dans un monde dominé par les hommes. Considéré comme perdu depuis 1930, il a été retrouvé en 2025 dans une collection privée. Le manuscrit a ensuite été classé trésor national pour l'empêcher de quitter la France. Si la bibliothèque de France arrive à acquérir le manuscrit vendu par la Maison Christise, elle le restaurera avant de le numériser et de l'exposer en physique et sur la bibliothèque numérique Gallica, accessible à tous. Deuxième actu, le chanteur britannique Harry Styles a annoncé deux dates à la plénitude Arena les 16 et 17 juillet 2027 Il a prolongé sa tournée mondiale 2Gator 2Gator en 2027, alors qu'elle devait initialement s'achever fin 2026 Harry Styles a expliqué avoir été surpris par l'ampleur prise par la tournée, et reconnaît avoir d'abord hésité à ajouter ses 25 nouvelles dates. Il a également confié ne pas savoir ce qu'il fera après cette tournée, laissant donc planer la possibilité d'une pause dans sa carrière. Une prévente pour les détenteurs d'une American Express est prévue le 14 septembre à 9h, avant la vente générale à 16h. Troisième actu, les avocats de Patrick Bruel ont porté plainte contre Paris Match pour violation du secret de l'instruction, après la publication d'extrait de son audition avec les enquêteurs. Dans un article sur les vraies raisons de l'annulation de sa tournée, le magazine Paris Match affirme que Patrick Bruel a déclaré à des proches à la mi-mai que je cite ce ne sont pas 30 pleureuses qui vont foutre ma carrière en l'air. Cette phrase aurait été prononcée par le chanteur deux mois après la publication d'une enquête de Mediapart basée sur les témoignages de huit femmes pour des faits couvrant la période de 1991 à 2019 Les avocats de Patrick Bruel ont dénoncé des propos faussement attribués au chanteur mis en cause par une trentaine de femmes pour des faits de viol et d'agression sexuelle. A ce jour, l'artiste de 67 ans a été mis en examen dans quatre dossiers, notamment pour viol et tentative de viol, et a été placé sous le statut plus favorable de témoin assisté dans quatre dossiers. Il a annulé le 2 septembre dernier la tournée et il devait entamer début octobre. Et enfin, dernière actu, la créatrice de contenu running, Caroline Branaa s'est lancé le défi de parcourir les 750 km qui séparent Haussegorre dans les Landes de Paris en courant pour assister au concert de Céline Dion le 3 octobre. Après avoir vu sur Instagram une influenceuse dire qu'elle avait déjà ses places pour le concert de Céline Dion, alors que la billetterie n'était pas encore ouverte, Caroline Branaa s'est lancé un défi en vidéo, celui de relier Haussegorre à Paris en parcourant le trajet à pied. La vidéo a rapidement fait le buzz car dans les 24 heures qui ont suivi, elle a été contactée par RTL, une radio partenaire de l'événement qui lui a offert une place pour le concert. Son défi débutera ce samedi 12 septembre et pendant 21 jours, elle parcourra 40 à 52 kilomètres en moyenne. Une équipe la suivra en vanne avec notamment un cameraman qui réalisera un film sur ce projet et des abonnés devraient aussi la rejoindre. Elle doit arriver à Paris le 2 octobre, soit un jour avant le concert de Céline Dion. C'est tout pour aujourd'hui, merci beaucoup d'avoir écouté ce podcast. N'hésitez pas à vous abonner à la chaîne. En attendant, prenez soin de vous et je vous dis à demain.