🇫🇷🇨🇦 Debrief Transat – Des IA d'OpenAI s'échappent pour attaquer Hugging Face

**Jérôme Colombain** (0:00)
Monde numérique.

**Bruno Guglielminetti** (0:03)
Le débrief transatlantique.

**Jérôme Colombain** (0:07)
Jérôme Colombain, bonjour.

**Bruno Guglielminetti** (0:09)
Salut Bruno Guglielminetti. Bravo de te retrouver comme chaque semaine pour ce débrief transat qui, sur Monde numérique, remplace l'hebdo du samedi.
Et on a une grosse grosse actu cette semaine.

**Jérôme Colombain** (0:20)
Beaucoup de choses au menu, tellement que je vais donner la liste d'épiceries. Alors les gens pourront se faire une tête sur ce dont on va parler. On va revenir évidemment sur cette histoire d'attaque, d'OpenAI qui a attaqué Hugging Face. On va revenir évidemment sur l'interdiction des réseaux sociaux en France pour les 15 ans et moins. Le fait que la France n'aura pas droit au mode d'autoconduite de Tesla. On va évidemment souligner l'arrivée de Google Search Overview AI en France. Beaucoup de choses en France. Et puis, comme ça n'était pas assez, Mistral qui signe un grand partenariat de plusieurs milliards avec Microsoft. Mais heureusement, il n'y a pas que la France. Il y a aussi les Chinois qui ont fait trembler la terre cette semaine. Kimi K3 qui est sorti, qui a fait réagir. Le président chinois lui-même qui a fait une grande déclaration lors d'une conférence qui a fait jaser bien des gens. Puis finalement, on ne l'a pas oublié, on va revenir sur la présentation de Samsung à Londres. Est-ce que ça ressemble à ce dont tu pensais cette semaine ?

**Bruno Guglielminetti** (1:24)
Ouf, mais exactement. Et tu as raison de faire ce sommaire parce que là, on est parti pour une méga émission parce que c'était une méga semaine, il faut bien le dire.

**Jérôme Colombain** (1:32)
C'est fou. Et puis il y a des gens qui me posent la question, est-ce que l'été, il y a quelque chose qui se passe au niveau de la tech ?

**Bruno Guglielminetti** (1:39)
Ben, la preuve que oui.

**Jérôme Colombain** (1:42)
Comment tu as vu ça, toi ? Comment tu as réagi à cette histoire d'attaque de OpenAI sur une IA de Hugging Face ?

**Bruno Guglielminetti** (1:50)
Alors, il faut raconter l'histoire qui est complètement folle et qu'on peut résumer. En disant que deux IA expérimentales d'OpenAI sont sortis de leur bac à sable et toutes seules comme des grandes, elles ont décidé d'aller attaquer Hugging Face. C'est un peu ça qui s'est passé. T'es d'accord avec moi ?

**Jérôme Colombain** (2:08)
Ça a l'air presque sympathique, ton histoire.

**Bruno Guglielminetti** (2:10)
Oui, parce qu'on peut en rire. On peut aussi être complètement effrayé par rapport à ce qui s'est passé. Puis il faut aussi garder la tête froide et essayer de comprendre et de décrypter tout ça. C'est ce qu'on va faire. Mais moi, j'ai envie de reprendre l'affaire en fait telle qu'elle s'est déroulée chronologiquement. Ça a démarré le 16 juillet et c'est Hugging Face. Donc Hugging Face, qui est cette start-up initialement française, mais installée aux États-Unis, on le sait, qui référence des centaines de modèles d'intelligence artificielle en libre accès, qui annonce qu'elle a subi une très grosse cyber attaque. Et elle dit, c'est une cyber attaque menée par un modèle d'IA frontière, c'est-à-dire un modèle d'IA hyper évolué.
Mais on ne sait pas qui, on ne sait pas où, on ne sait pas comment. Et puis quelques jours après, OpenAI annonce que ça vient de chez eux. Que ce sont deux modèles à eux, qui sont en l'occurrence GPT 5.6 Sol, donc le plus évolué spécialisé dans la cybersécurité. Et puis un autre modèle expérimental encore plus performant, qui était en train de les tester. On leur avait fixé une mission, comme souvent avec ces modèles. Et ils ont cassé les protections. Alors en fait non, les protections qui avaient été mises, c'est ça, elles avaient été désactivées.
Voilà, pour qu'ils soient complètement efficaces. Et là, ils ont réussi à sortir de leur enclos, en fait. C'est ça qui est dingue.

**Jérôme Colombain** (3:33)
Et finalement, dans toute cette histoire-là, on se rend compte que justement, toute la mécanique de sécurité pour s'assurer de tester, j'aime bien l'image du bac à sable, ces IA-là dans un contexte de laboratoire où on ne sort pas. Et c'est ça qui a manqué dans cette histoire-là. Parce que si ces systèmes-là avaient été mis en place, ça aurait été...
On n'en parlerait pas aujourd'hui. Mais le fait qu'on a laissé des écoutilles ouvertes, ces deux IA-là ont trouvé leur chemin. D'abord pour trouver une faille dans le système chez OpenAI, être capable de se brancher sur le réseau Internet. Et puis là, quelle chance de seulement s'attaquer à Hugging Face. Parce que tu t'imagines un peu si la cible avait été autre chose, que ça avait été une cible militaire ou gouvernementale ou du monde de la santé.