OpenAI inquiète et vient de publier son IA  la plus puissante

**Blanche** (0:00)
C'est potentiellement l'une des IA les plus puissantes et controversées qui existent aujourd'hui. OpenAI, la maison mère de TchaGPT, vient de lancer GPT-6 ASTRA, son tout dernier modèle d'intelligence artificielle. Certains experts craignent que ce lancement puisse accélérer le moment où l'IA serait hors de contrôle. Mais alors que permet réellement ASTRA, et quelles sont les craintes vis-à-vis de cette nouvelle IA ? Salut c'est Blanche, j'espère que vous allez bien. C'est le sujet à la une de ce format d'Actu du jour, disponible sur YouTube et en podcast audio. Revenons déjà sur ce dernier modèle, Greg Brockman, le président d'OpenAI, n'hésite pas à affirmer qu'il serait aussi performant que les humains. Il estime même que cette IA pourrait être qualifiée d'Intelligence Artificielle Générale, c'est-à-dire une IA capable de réaliser seule de très nombreuses tâches aussi bien si ce n'est mieux qu'un humain. Maintenant attention, ce terme d'Intelligence Artificielle Générale est encore très débattu. Sam Altman, le fondateur d'OpenAI, avait lui-même récemment déclaré qu'il s'agissait au mieux d'un terme très mal défini, et au pire je cite d'un terme marketing sans intérêt. Mais alors, est-ce qu'il s'agisse d'une véritable révolution ou d'un effet marketing ? Pour le moment, il est encore trop tôt pour le dire, mais en tout cas, cet IA est véritablement capable de nombreuses choses. OpenAI résume simplement la situation en affirmant qu'Astra est capable de réaliser tout ce qu'un humain peut faire avec un ordinateur. En gros, cette nouvelle IA, en plus de répondre à nos questions comme on le ferait basiquement avec n'importe quel IA, peut aussi contrôler de manière autonome un ordinateur. Dans la vidéo de présentation, on y voit notamment plusieurs personnes dictées directement à l'IA ce qu'elle doit faire et Astra, sur un ordinateur, modifiait alors d'elle-même une page Word ou ajuste un PowerPoint. Dans la vidéo, elle crée aussi rapidement un petit jeu vidéo et met en vente une table sur eBay. Alors évidemment, certaines IA étaient déjà capables de réaliser tout ça, mais ce modèle permettrait donc de réaliser ces tâches encore plus rapidement mais aussi de rendre de telles capacités accessibles aux personnes qui ne sont pas forcément développeurs. Sur ce point, OpenAI précise cependant qu'Astra est, au moment où on publie ses actus du jour, uniquement réservé à un nombre limité d'organisations, notamment liées à la cybersécurité. Elle devrait être accessible aux abonnés payant de tchats GPT dans les prochains jours, mais aucune date précise n'a pour l'instant été dévoilée. Maintenant, ce qui est très important de noter concernant ce nouveau modèle, c'est qu'au delà de tout ce que l'on vient de voir, et c'est OpenAI qui l'affirme, Astra est une IA capable d'atteindre un seuil de capacité critique en cybersécurité. Très concrètement, ça signifie qu'Astra est capable de trouver des failles de sécurité jusque là jamais identifiées par l'humain. Résultat, si on lui demande lors des tests, elle est directement capable d'aller elle-même exploiter ses failles pour réaliser des cyber-attaques et ce sans qu'un humain n'ait réellement besoin de la guider. C'est d'ailleurs autour d'inquiétude de la sorte qu'OpenAI avait justement affirmé avoir temporairement stoppé le développement de certains de ses modèles pour éviter tout risque. Si vous voulez en savoir plus, je vous renvoie directement vers nos actus du jour sur le sujet. Le lien est en description. En tout cas concernant Astra, OpenAI affirme que le modèle est limité et configuré pour déclencher des mesures de sécurité automatiques qui empêchent la réalisation de toutes tâches trop avancées en ce qui concerne les cyber-attaques. Ça se passe un peu à la manière de ce que font déjà les IA en cas de demande concernant la création d'armes chimiques ou biologiques par exemple. OpenAI explique même qu'Astra est aujourd'hui, je cite, le modèle le plus aligné au monde, c'est-à-dire qu'il serait conçu pour respecter les demandes des humains sans chercher lui-même à sortir des limites fixées. Pour autant, beaucoup d'inquiétudes existent tout de même face à ce lancement. Déjà, la sortie d'Astra arrive quelques semaines après que des modèles d'OpenAI ont piraté la plateforme Hugging Face lors de tests, un événement considéré comme sans précédent dont on a déjà parlé sur la chaîne avait justement fortement relancé le débat sur ce que l'IA est capable de faire sans que l'on ne l'autorise vraiment. Sur ce point, OpenAI précise qu'Astra ne faisait pas partie des modèles responsables du hack et qu'il se sent justement basé sur ses apprentissages pour que ça ne puisse plus se reproduire. Mais à l'heure actuelle, en dehors d'OpenAI, personne ne peut encore confirmer de telles affirmations. Et l'autre point qui alarme aussi certains scientifiques, c'est le fait qu'une partie des raisonnements d'Astra pour mener à bien les requêtes ne passerait plus toujours par du texte lisible et vérifiable par les humains, avec désormais certaines formes de sous-couches qui sont difficilement accessibles, voire totalement inaccessibles pour les chercheurs. Et la création d'un tel modèle inquiète, car il pourrait à terme véritablement rendre la surveillance des IA plus difficile, si les chercheurs ont de moins en moins la main dessus, le risque serait qu'ils soient moins en capacité qu'aujourd'hui à repérer des failles, ou encore les vraies capacités de la puissance de leur modèle. Avec des IA qui pourraient alors être utilisés à mauvais écients, faute de limitations efficaces prises par l'entreprise. Les scientifiques de chez OpenAI relativisent largement la situation, en affirmant que l'entreprise fait très attention à ça. Mais le scientifique en chef d'OpenAI a tout de même concédé, je cite, que plus les modèles deviennent performants, plus il devient difficile de comprendre exactement ce qu'il peut faire. On suivra évidemment tout ça, on n'a pas eu le temps de tout aborder, évidemment, vous avez des liens en description. Et je vous laisse avec Samy pour le reste de l'actualité importante du jour.