Des IA hors de contrôle attaquent plusieurs entreprises (🇫🇷🇨🇦 Debrief Transat 08/08/26)

**Jérôme Colombain** (0:00)
Monde numérique.

**Bruno Guglielminetti** (0:03)
Le débrief transatlantique.

**Jérôme Colombain** (0:06)
Jérôme Colombain, à Paris. Bonjour.

**Bruno Guglielminetti** (0:08)
Salut, Bruno Guglielminetti, à Montréal.

**Jérôme Colombain** (0:11)
Comment te portes-tu maintenant que tu es rentré chez toi ?

**Bruno Guglielminetti** (0:14)
Au mieux, au mieux. C'est l'été et l'actu est débordante, donc tout va bien.

**Jérôme Colombain** (0:19)
On ne se plaindra pas encore cette semaine. Beaucoup d'actualités, particulièrement dans le domaine de l'IA, ce qui fait que les gens qui aiment l'actualité, qui concernent l'intelligence artificielle, vont être ravis aujourd'hui parce que c'est presque une édition spéciale IA tellement que l'actualité foisonne dans le domaine. On va parler évidemment de ces IA qui sont devenus un peu folles.
À un moment donné, on parlait d'OpenAI qui avait attaqué, mais là, c'est finalement tous les grands joueurs qui se retrouvent avec des IA qui débordent de partout.
Le côté politique de ça, c'est qu'il y a Washington qui a réagi, qui veut mettre des choses en place. Ça a tellement bougé que même Apple a reçu un tsunami de fausses alertes et eux aussi ont décidé de réagir à ça. Les gens d'OpenAI ont proposé, en tout cas, ont commencé à lever le voile sur un nouveau modèle qui est encore plus puissant que ce qu'on connaît. Google, de son côté, a des nouveautés qui concernent l'intelligence artificielle, des bonnes et des mauvais bonnes. Et puis finalement, on apprend avec un sondage qui a été fait, plus une étude, sur le fait que finalement, les lecteurs ne boudent pas des oeuvres qui sont écrites par l'IA. Ça, c'est intéressant.

**Bruno Guglielminetti** (1:33)
Ah, c'est incroyable ça. On en parlera effectivement en fin d'émission. Il faut vraiment qu'on en parle.

**Jérôme Colombain** (1:38)
Alors, ça ressemble au sommaire de notre discussion. Et puis, on vous invite à nous suivre là-dedans parce que vous allez voir. Il y en a pour tous les gros.
Le gros sujet de la semaine, c'est ces IA qui sont en folie et qui se mettent à attaquer tout le monde.

**Bruno Guglielminetti** (1:55)
Les IA ont perdu la boule. Je pense que ça y est. Ou nous, on a perdu les IA. Elles deviennent complètement hors de contrôle. Écoute, j'ai recensé tout ce qui s'est passé ces dernières semaines parce qu'en fait, voilà, ça s'est accumulé.
Le 21 juillet, rappelle-toi, OpenAI, enfin deux modèles d'OpenAI qui attaquent Hugging Face. On en a longuement parlé, c'était il y a 15 jours. Le 30 juillet, là, c'est Claude Anthropic.
Trois modèles de Claude qui s'introduisent dans des systèmes d'organisation réels. On parle d'IA qui étaient dans des labos et qui sont allés attaquer des vraies compagnies. Ensuite, on a découvert, on a appris le 4 août que c'était lors d'une évaluation dans un centre de cybersécurité britannique où il s'est passé des trucs aussi assez un petit peu différents parce que c'est resté quand même dans un cadre, malgré tout, expérimental simplement. Mais c'était encore assez incroyable. Depuis le 5 août, donc tout récemment, il y a de Meta qui est partie complètement en cacahuètes et qui s'est mise elle aussi à attaquer une entreprise réelle. Au total, 5 intrusions réussies sur des vrais systèmes et 19 actions qui ont été tentées mais qui n'ont pas réussi.

**Jérôme Colombain** (3:08)
Des super attaques indépendantes.

**Bruno Guglielminetti** (3:11)
Alors, il faut dire quand même qu'au cœur de tout ça, en tout cas pour les trois OpenAI, Anthropic et Meta, et bien on a un début d'explication et ça passe par un intermédiaire, par une compagnie qui s'appelle Irrégular, qui est en fait un tiers technique auxquels ces entreprises sont appelées pour sécuriser leurs expérimentations. Et visiblement au niveau sécurité, ils ont un peu merdouillé, c'est le moins qu'on puisse dire. Parce qu'ils n'avaient visiblement ouvert trop de permissions. Donc il y a quand même erreur, c'est ça, ce n'était pas assez bien sécurisé.
Et moi il y a un truc en particulier qui m'a complètement scotché, c'est pour les autres attaques, celles qui ont été menées dans le cadre de l'organisation britannique, je ne sais pas si tu as vu ça.
Donc, ils ne sont pas attaqués à une entreprise, mais ils sont attaqués à des produits open source qui n'étaient pas encore commercialisés. Et notamment, ils sont allés sur GitHub et ils ont ciblé un développeur, mais c'est un truc de fou, c'est-à-dire que l'agent IA a attaqué un développeur comme l'aurait fait un pirate. Il a créé des faux comptes, des faux comptes e-mails. Il a envoyé des logiciels malveillants pour faire du phishing. C'est un développeur scandinave, donc l'IA s'est mise à parler en finnois pour que ce soit plus pertinent. Et cerise sur le gâteau. Quand les développeurs de Claude, dans l'occurrence, se sont aperçus de ça, ils sont allés interroger Claude pour savoir ce qui s'était passé. Claude a nié ! L'IA a dit non, non, c'est pas vrai, c'est pas moi. Non, mais on est dans la quatrième dimension.