Nouvelle alerte sur l’IA, OpenAI prend une décision inédite

**Hugo Décrypte** (0:00)
Je pense que c'est le bon moment pour ralentir. Sam Altman, le PDG d'OpenAI, l'entreprise derrière Tchadj et PT, vient lui-même de l'avouer. La course actuelle dans l'IA entre dans une phase où les risques deviennent plus difficiles à anticiper. Il affirme même avoir mis en pause le développement de son dernier modèle d'IA le plus puissant. Mais alors arrivons-nous à la fin des avancées de l'intelligence artificielle. Et que sera la suite ? Salut CéSami, j'espère que vous allez bien. C'est le sujet à la une de ce format d'Actu du jour, disponible sur YouTube et en podcast audio sur toutes les plateformes. Dans un communiqué publié ce mardi, OpenAI, l'un des géants du secteur, a officiellement annoncé avoir ralenti le rythme de certains développements d'IA. L'objectif affiché est renforcer sa sécurité et ses dispositifs de protection. Pour être très concret, cette décision comprend notamment une pause de 2 semaines dans l'entraînement de ses derniers modèles destinés au déploiement. OpenAI a aussi affirmé avoir suspendu une partie de son développement autour d'Astra, qui est censé être son prochain modèle majeur d'IA, qui est même susceptible d'être intégré à TchadGPT. Selon OpenAI, Astra est même en fait proche de ce que l'entreprise appelle son seuil cybercritique. Mais alors qu'est-ce que ça veut dire ? Et bien l'entreprise affirme aujourd'hui ne plus pouvoir exclure le fait qu'Astra soit capable de mener de façon largement autonome des cyberattaques très avancées. Ce sont les critères de réglementation interne de l'entreprise. Ça signifie que ce nouveau modèle pourrait par exemple identifier de manière autonome des failles qui étaient jusque là jamais observées dans des systèmes informatiques. On a beaucoup parlé dans ce format, mais le risque serait donc que des cyberattaques, aujourd'hui réservés à des équipes très qualifiées, deviennent beaucoup plus faciles à lancer et surtout en immense quantité. Pour faire au plus simple, OpenAI redoute un scénario où il suffirait de dire à l'IA, attaque telle ou telle entreprise et le tour serait joué. Maintenant vous allez me dire que malgré tout, même si le modèle est très puissant, OpenAI pourrait simplement mettre en place différents garde-fous et limitations, ce qui est le cas aujourd'hui et ce qui est d'ailleurs vrai. Mais ce qui inquiète en fait réellement l'entreprise, c'est que même en limitant l'IA par n'importe quel moyen, cela ne la rendrait pas moins dangereuse. Pour autant, en gros elle serait limitée, mais toujours factuellement en capacité d'être dangereuse. Et le cœur du problème il est donc là. Même si elle n'est pas encore sûre qu'elle sera de telle capacité, OpenAI a émis pour la première fois de son histoire certaines réserves sur le sujet et préfèrent donc ralentir le rythme pour éviter tout problème. D'autant plus qu'OpenAI avait aussi révélé le mois dernier que deux de ses modèles étaient parvenus à sortir d'un environnement de test censé être sécurisé. Ils avaient alors piraté la plateforme de développement YouGingFace sans que l'entreprise ne s'en aperçoive. Si vous voulez en savoir plus sur ce cas précis, on vous renvoie vers la vidéo qu'on avait fait sur le sujet, le lien est en description. Mais en tout cas aujourd'hui beaucoup d'experts estiment que cet événement a été une sorte d'électrochoc dans le secteur. De nombreux examens à amélioration des niveaux de sécurité ont depuis été poussés et des événements de la sorte ont plus ou moins également concerné d'autres acteurs comme Anthropik ou Meta. En tout cas dans un entretien accordé au Time, Sam Altman a tenu à assurer que même si les capacités de l'IA avaient progressé plus rapidement que prévu, cela ne devait pas pour autant être interprété comme le signe d'une catastrophe imminente. Et je cite toujours selon lui qu'à rentier la sécurité de l'IA est aujourd'hui plus important que la dynamique de n'importe quelle entreprise. Et c'est notamment pourquoi ces annonces sont assez majeures car elles rompent au moins temporairement avec toute la logique qui domine aujourd'hui la course à l'IA, celle d'obtenir des modèles toujours plus puissants. D'un côté, des experts cités par le média The Verge soulignent qu'il y a de bonnes raisons de croire à la bonne volonté de ce ralentissement puisqu'OpenAI avait de nombreuses raisons de ne pas ralentir. Chaque délai donne davantage de temps aux concurrents pour rattraper leurs retards ou accroître leurs avances mais l'entreprise a tout de même décidé de le faire au risque de perdre du terrain et de l'argent. De l'autre, certains restent plus nuancés et soulignent que ce ralentissement reste volontaire et surtout limité. OpenAI n'arrête évidemment pas du jour au lendemain toutes ses recherches et ne sort pas pour autant totalement de la course à l'IA. Plusieurs médias ont d'ailleurs aussi rapporté une sorte de discours assez contradictoire de la part de l entreprise, et ont affirmé que l'équipe chargée d'évaluer les risques avait été dissoute. De son côté, OpenAI est dément et assure que cette fonction perdure sous une nouvelle organisation. Enfin bref, il est difficile de réellement statuer sur la sincérité et surtout sur la portée réelle de ce ralentissement. D'autant que le fait de présenter un modèle trop puissant reste aussi un argument commercial pour les marques. Mais malgré tout, beaucoup affirment qu'une telle décision, ou au moins une telle déclaration, pourrait créer un important précédent et pourrait aussi potentiellement pousser d'autres acteurs. Affaire de même, dès qu'OpenAI n'est pas seul sur ce sujet, Anthropique, le créateur de CloudAI, son principal concurrent, défend aussi depuis un certain temps l'idée qu'il faut pouvoir ralentir le rythme si les protections ne suivent pas. Dans ce contexte, de plus en plus de voix appellent désormais les Etats-Unis pour qu'ils interviennent directement et régulent officiellement le rythme du développement des IA. Le but serait d'avoir un encadrement global plutôt que de laisser chaque entreprise décider seule de quand ralentir. Mais vous le savez, cet enjeu dépasse aussi le simple cadre des Etats-Unis et la Chine est aussi concernée par exemple. Certains vont donc même plus loin et appellent à la création d'un mécanisme international qui permet de ralentir, voire même de stopper temporairement le développement des IA les plus puissantes dans le monde. On continuera évidemment toujours le sujet et je vous laisse avec Lorie pour le reste de l'actualité importante du jour.