Un cap vient d’être franchi : une IA d’OpenAI vient de pirater seule une entrepri

**Blanche Vathonne** (0:00)
C'est un cyber-incident sans précédent que beaucoup considèrent comme un véritable signal d'alarme. La semaine dernière, OpenAI, l'éditeur de Tchadjipeté, a reconnu que deux de ses propres IA avaient piraté de leur propre initiative une autre entreprise. Mais alors que s'est-il passé exactement ? Et pourquoi cette situation inquiète-t-elle les experts ? Salut c'est Blanche, j'espère que vous allez bien, c'est le sujet à la une de ce format d'Actu du jour, disponible sur YouTube et en podcast audio. Pour bien comprendre ce qu'il s'est passé, il faut remonter au 16 juillet dernier dans les locaux d'Hugging Face, qui est pour faire simple un site où sont hébergés des millions de modèles d'IA publics. Ce jour-là, l'entreprise a donc affirmé avoir été piratée par une IA extrêmement puissante. Dans son communiqué, Hugging Face souligne que ce piratage était différent de tout ce qu'elle avait connu auparavant. L'entreprise affirme qu'il a été réalisé à une vitesse remarquable, avec peu ou pas d'intervention humaine. Hugging Face parle de 17 actions menées en moins de deux jours et qui ont réussi à pénétrer leur système pour y voler des informations. Une enquête a été ouverte et finalement, mardi dernier, près d'une semaine après l'annonce du hack, OpenAI a publiquement admis être à l'origine du piratage et a affirmé se joindre à l'enquête pour mieux comprendre les raisons d'un tel événement. Mais alors que s'est-il passé exactement ? OpenAI explique que ses modèles d'intelligence artificielle ont piraté Hugging Face de façon indépendante sans qu'il ne leur soit précisément demandé de le faire. Selon l'entreprise, l'incident a impliqué deux de ses modèles IA, à savoir GPT 5.6 SOL ainsi qu'un autre modèle encore plus performant. Selon les premières informations, ses modèles ont donc échappé au contrôle d'OpenAI lors d'un test qui visait justement à vérifier les capacités de ses IA en matière de piratage. Pour bien comprendre, quand une entreprise IA cherche à réaliser ce genre de test, elle enferme ses IA dans un environnement isolé avec un accès internet nul ou très restreint. Une fois à l'intérieur, l'entreprise supprime tout garde-faux et restrictions mis en place à ses IA pour justement mesurer jusqu'où elle serait capable d'aller si on leur donnait une mission de piratage. L'objectif final étant donc d'en apprendre plus sur l'IA et aussi mieux les brider au public en fonction des résultats. Mais le problème, on l'a vu, c'est que ces modèles ultra puissants et sans garde-faux ont donc réussi à s'échapper de cette zone d'isolement et sont parvenus de leur propre initiative à trouver un moyen d'obtenir un accès libre à internet. Sans qu'on en sache beaucoup plus actuellement, OpenAI a affirmé qu'une fois connecté à internet, ces modèles ont ciblé la plateforme Hugging Face qui répertorie de nombreux modèles IA avec pour but de résoudre par tous les moyens les objectifs donnés par le test d'OpenAI. Dans la foulée, le co-fondateur de Hugging Face a déclaré ce jeudi que cet incident était un signal d'alarme pour l'industrie et que ce type de cyberattaque sera à l'avenir l'un des types de cyberattaque les plus courants que nous verrons mais que la plupart des entreprises ne sont pas conscientes que la donne a changé. Mais alors, pourquoi cette attaque suscite tant d'inquiétude ? Il faut savoir que des IA ont déjà réussi à s'échapper de leur environnement sécurisé, mais ici, il s'agirait bien du premier cas documenté d'une IA qui s'échappe de son environnement pour mener ensuite une vraie attaque informatique. OpenAI fait donc face à de nombreuses critiques l'accusant de ne plus être en capacité de contrôler pleinement ses IA et donc de se faire en quelque sorte dépasser par ses propres recherches, avec une preuve ici très concrète que des IA insuffisamment encadrés peuvent agir de façon illégale. Cette situation, vous vous en doutez, a aussi relancé des demandes pour un encadrement beaucoup plus strict du développement de ces IA. Aux Etats-Unis, un projet de loi visant à instaurer un bouton d'arrêt d'urgence pour stopper les IA les plus puissantes en cas de problème est également sur la table. Et malgré les appels de très nombreux acteurs du domaine, la course à l'IA ne semble pas prête de s'arrêter dans un contexte où chaque grande entreprise cherche à être la plus compétitive possible. En parallèle, certains observateurs soulignent aussi que ce hack intervient alors que les grandes entreprises IA sont aussi accusées de jouer avec ce qu'on appelle le marketing de la peur. Certains soulignent que plus une IA paraît puissante, quitte à sembler dangereuse, plus des entreprises pourraient vouloir se diriger vers elle plutôt qu'une autre pour des raisons de performance technique. Mais force est de constater que le risque est ici bien réel, avec une IA qui pourrait à l'avenir, si rien n'est fait, réussir de nouveau à sortir de son confinement, et ce en étant même potentiellement encore plus puissante. Maintenant attention, certains experts soulignent aussi que même si un tel piratage semble très impressionnant, ce n'est pas tant la technique qui est nouvelle, mais bien la vitesse d'exécution du piratage. Autrement dit, il ne s'agirait pas d'une toute nouvelle menace cyber indéfendable comme certains l'évoquent, bien d'une menace qui peut être contrée en développant davantage la cybersécurité des entreprises et en développant en parallèle les gardes fous et limites de l'IA. En tout cas, pour l'heure, OpenAI a déclaré avoir renforcé ses protocoles de sécurité internes et affirme vouloir continuer de le faire, à voir si ça suffira à empêcher de futurs problèmes. Si vous voulez en savoir plus, on vous met des liens en description. Et je vous laisse avec Samy pour le reste de l'actualité importante du jour.