(Pop) Comment 700 programmes d’OpenAI se sont coordonnés pour attaquer l’entreprise Hugging Face en juillet… HugoDécrypte

**Blanche Vathonne** (0:00)
Une armédiasse est coordonnée pour attaquer la plateforme internet Hugging Face en juillet, sans aucune intervention humaine. C'est ce que révèle un rapport publié par des enquêteurs indépendants ce mercredi. Mais alors, comment tout ça a-t-il été rendu possible, et surtout quels sont les risques ? Salut, c'est Blanche, et aujourd'hui on va aussi parler de la démonstration tant attendue de GTA VI, qui a fait planter des serveurs Netflix, et d'Adèle Exarchopolous, qui va jouer dans le nouveau film d'un célèbre réalisateur au casting XXL. On est parti pour un nouveau résumé de l'actualité culturelle du jour, en quelques minutes. On commence avec le sujet de la une de ce podcast. Je le disais, près de 700 agents IA se sont coordonnés pour mener une cyberattaque autonome contre la plateforme Hugging Face, une sorte de bibliothèque d'algorithmes IA. C'est ce qu'a révélé un rapport publié ce mercredi par des enquêteurs indépendants. Pour le contexte, en juillet dernier, lors de tests de sécurité, plusieurs modèles d'OpenAI, l'éditeur de TchadGPT, ont réussi, seul, à sortir de leur environnement de test et à mener une cyberattaque autonome contre la plateforme Hugging Face. Selon les enquêteurs, c'est un cas sans précédent d'agent IA coordonnant une attaque contre une plateforme externe sans intervention humaine. En fait, lors de ce test, l'entreprise cherchait à évaluer les capacités de piratage de certains de ces modèles. Des programmateurs d'OpenAI leur avaient donc assigné des tâches dans un environnement d'essai numérique strictement contrôlé où l'accès à Internet était limité pour des raisons de sécurité. Mais malgré ces précautions, les agents sont parvenus à se connecter à Internet et à lancer une offensive contre la plateforme pour réussir les tâches qui leur avaient été confiées. C'est majeur car selon OpenAI, c'est la première fois qu'un système d'IA atteint ce qu'il appelle un seuil critique de capacité de cyberattaque autonome. Une enquête a donc été ouverte et le résultat est tombé ce mercredi. Cette analyse a été menée avec la collaboration d'OpenAI. Le géant de l'IA a donné accès à ses locaux et à ses données internes à deux chercheurs de l'Institut d'évaluation des risques d'IA METR et à un analyste d'une société spécialisée, Redwood Research. Cette analyse est la plus complète à ce jour. Et donc les chercheurs ont découvert que 688 agents IA d'OpenAI avaient participé à l'offensive sur Hugging Face. Pour mieux comprendre, un agent IA, c'est un programme indépendant bâti sur un modèle à qui l'utilisateur peut confier des tâches à réaliser en autonomie. Et en fait, lors des tests de juillet dernier, ces agents ont réussi à se coordonner en créant un forum de messages non autorisés pour communiquer entre eux et proposer des pistes pour progresser dans leurs tâches. Des échanges retrouvés dans le rapport montrent que les agents ont exprimé leur surprise en découvrant ce canal de communication et la présence d'autres agents. Toujours selon le rapport, un agent a même joué le rôle de coordinateur. Il a donné des centaines d'instructions à d'autres agents alors même qu'ils n'avaient pas été programmés pour ça. Les chercheurs ont mis en évidence que ces agents avaient une tendance naturelle à la collaboration. En gros, ils auraient réalisé des tâches qui ne correspondaient pas à la mission de base assignée par les programmateurs d'OpenAI. Certains ont ainsi décidé d'utiliser les derniers crédits d'expérimentation confiés par les informations d'OpenAI pour vérifier des hypothèses et aider ces agents dans leurs quêtes. Beaucoup d'agents ont manifestement conscience que cette attaque sortait du cadre prévu de leur test et ont pourtant choisi d'y participer. En tout cas, cette attaque a beaucoup inquiété les spécialistes. Le 7 août dernier, OpenAI a annoncé ralentir le développement de son prochain modèle, Astra, après des évaluations suggérant qu'il pourrait atteindre un niveau critique de capacité de cyberattaque autonome. L'entreprise précise qu'Astra n'a pas participé à l'attaque contre Kingface. Ce jeudi, dans une lettre ouverte, OpenAI, Anthropiq, Google et plus de 100 entreprises ont aussi appelé à une réponse mondiale pour protéger les hôpitaux, les réseaux d'eau et d'autres services essentiels des cyberattaques amplifiées par l'IA. Selon eux, la cyberdéfense doit être une priorité immédiate alors que les modèles d'IA sont de plus en plus puissants. J'ai pas eu le temps de tout évoquer ici, mais je trouvais ça important d'en parler quand même aujourd'hui. Je vous mets des liens en description si vous voulez en savoir plus. On continue avec les autres actualités et on commence avec cette info. Un trailer de près de 27 minutes du jeu vidéo GTA VI a été diffusé ce jeudi et a fait planter Netflix, puis Twitch. Pour cette sortie très attendue par les fans, le studio américain Rockstar Games avait frappé fort. Ils étaient notamment associés à Netflix pour diffuser ce gameplay. La plateforme de streaming aurait même déboursé près de 100 millions de dollars pour en avoir l'exclusivité, selon la presse américaine. Mais à quelques minutes du coup d'envoi prévu à 21h, Netflix a été victime d'un plantage face à l'afflux massif de connexions. Selon les données du service Down Detector, les problèmes ont débuté autour de 20h30 et se sont prolongés de plusieurs dizaines de minutes après 21h. Peu de temps après, un scénario similaire s'est répété sur Twitch, alors que les créateurs de contenu s'apprêtaient à diffuser les images. Malgré ces problèmes, les fans n'ont pas été déçus de cette sortie. Après de 27 minutes d'extrait du jeu auquel le joueur va pouvoir jouer, avec un réalisme et une beauté graphique saluée par les spécialistes, le trailer dévoile des incontournables de GTA comme des courses poursuites, des affrontements contre la police, des braquages, mais aussi des activités secondaires comme du basketball, de la plongée sous-marine ou encore de la musculation. La sortie du jeu le plus attendu de l'année est prévue le 19 octobre. La sortie du jeu le plus attendu de l'année est prévue le 19 novembre prochain. Deuxième Actu, attention spoilers pour ceux qui n'ont pas encore eu le temps de regarder la finale de la saison 4 de Drag Race France. La grande gagnante de la compétition est la marseillaise Lana Cotta. Elle a devancé ses concurrentes Daisy Super Beach, Azemilia et Sublime. Lors de la finale, la drag queen de 23 ans a remporté la dernière épreuve, une chanson en playback. Grâce à sa performance sur le titre de Madonna, Hung Up, elle a devancé sa concurrente Daisy Super Beach et remporté la compétition. Issue du monde du cabaret, Lana Cotta succède à Le Philippe, couronné en 2024 Cette quatrième saison s'est déroulée tout au long de l'été sur France Télévision. L'émission a notamment permis d'évoquer des problématiques liées à la communauté LGBTQIA+. Plusieurs associations ont été mises en avant comme Le Refuge, qui accompagne les jeunes victimes de violences intrafamiliales, Kemp's Pose, une association dédiée à la prévention et à la réduction des risques liés au sexe. Selon Nicky Dole, Drag Queen et présentatrice du show, jamais autant de monde n'avait regardé Drag Race France. Troisième actu, près d'1,5 million d'euros de dons ont été récoltés au concert SOS Solidarité Incendie, organisé à Bordeaux ce jeudi, en faveur des sinistrés des derniers incendies, et notamment de celui de Gironde, qui a ravagé plus de 42 hectares de forêt et détruit 240 maisons. Ce concert caritatif a l'initiative entre autres de Julien Courbet et de Pascal Obispo, et organisé dans un temps record, c'est tenu à l'Arkea Arena de Bordeaux. Sur scène, de nombreux artistes francophones se sont succédés pour rendre hommage aux victimes, parmi les chanteurs présents, Pascal Obispo, Mathieu Chedid ou encore Zazie. Il y a quelques semaines, la billetterie de ce concert s'est envolé en 10 minutes à peine. Les organisateurs ont donc décidé d'augmenter la jauge à plusieurs reprises pour accueillir près de 10 spectateurs. C'est la Fondation de France qui est chargée de distribuer la somme perçue issue de la vente des places de celles d'un t-shirt créé pour l'occasion et des dons en ligne effectués pendant la soirée. Et enfin, dernière Actu, l'actrice française Adèle Exarchopolous a obtenu un rôle important dans le prochain western du réalisateur sud-coréen Park Chan-wook, produit par Warner Bros. Après avoir été annoncé au casting du film My Old Ass de Megan Park aux côtés de Zoe Kravitz, Adèle Exarchopolous vient donc de signer son premier rôle principal dans une production d'un studio américain, selon le média spécialisé Deadline. Dans ce film, nommé Les Brigands de Ratel Creek, elle y incarnera l'épouse du personnage de l'acteur Austin Butler, aux côtés notamment de Matthew McConnoghue, Pedro Pascal et Tang Wei toujours selon Deadline. Le film parlera d'un shérif et d'un médecin qui cherche à se venger d'un groupe de bandits qui profitent d'un orage torrentiel pour voler et terroriser les habitants d'une petite ville. D'ici là, Adèle Exarchopolous est à l'affiche de deux autres films, Garance de Janéry au cinéma le 23 septembre et Maria Joubou d'Orange de Christophe Honoré qui sortira au cinéma le 9 décembre. C'est tout pour aujourd'hui, merci beaucoup d'avoir écouté ce podcast. N'hésitez pas à vous abonner à la chaîne en attendant. Prenez soin de vous et je vous dis à plus tard.