Les géants de l’IA s’alarment pour l’humanité, Trump répond (14/09)

Blanche Vathonne (0:00)

C'est peut-être le moment ou jamais, ces derniers jours, le PDG d'Anthropic, créateur de Claude, celui d'OpenAI, créateur de TchadGPT ou encore Elon Musk, qui est à la tête de Grok et XAI, ont appelé à ralentir le développement de l'intelligence artificielle. De son côté, Donald Trump a officiellement rejeté cet appel. Mais alors, pourquoi les patrons de la tech appellent-ils de plus en plus à un ralentissement et pourquoi Donald Trump s'y oppose-t-il ? Salut c'est Blanche, j'espère que vous allez bien. C'est le sujet à la une de ce format d'Actu du jour, disponible sur YouTube et en podcast audio. Les gens qui construisent l'IA pensent qu'elles pourraient tous nous tuer d'ici la fin de la décennie. C'est ce qu'a affirmé la semaine dernière un ancien chercheur d'OpenAI et Anthropik qui a décidé de quitter l'industrie de l'IA et de lancer l'alerte. En réponse, un responsable de la sûreté chez Anthropik a pris la parole sur X et a lui aussi souligné, je cite, Pensez sincèrement que l'IA pourrait tuer tous les humains. Il estime à plus de 10 % le risque que ça se produise dans les 10 prochaines années. Si vous voulez en savoir plus sur ces déclarations, on vous renvoie directement vers la une de notre podcast pop qu'on a fait sur le sujet la semaine dernière. Mais en tout cas, après cet appel, les patrons de l'IA ont donc eux aussi décidé de prendre la parole sur le sujet. Dans un essai publié ce samedi, Dario Amodei, le directeur d'Anthropik, a affirmé, je cite, que l'industrie doit ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. Alors ce n'est pas la première fois qu'une telle déclaration est faite concernant l'IA, mais cette fois-ci, comme je vous le disais, elle a aussi été soutenue par Sam Alman, d'OpenAI, et Elon Musk. Et ce qui est assez marquant, c'est que même s'ils sont directement tous concurrents, ces grands patrons semblent avoir la même crainte que les capacités de l'IA progressent plus vite que notre capacité à les contrôler. On en a déjà beaucoup parlé dans ce format. Ici, tout l'enjeu réside autour de la potentielle création prochaine de ce qu'on appelle une super intelligence auto-améliorante. Autrement dit, une IA qui serait suffisamment avancée pour participer elle-même à la création de modèles d'IA encore plus puissants et donc sans l'intervention d'un humain. Certains parlent même d'une explosion d'intelligence, une sorte de boucle quasi infinie où l'IA s'améliorait d'elle-même encore et encore. Et là-dessus, il existe beaucoup de débats et de scénarios possibles, notamment sur le fait que l'IA pourrait alors officiellement largement dépasser l'intelligence humaine. Et sur ce point justement, ça ne veut pas dire qu'une telle IA serait forcément hostile à l'humain, mais elle deviendrait à ce moment-là très certainement hors de portée de la compréhension des humains et donc hors de notre contrôle. Et l'enjeu se situe précisément ici. Pour vous donner un exemple très concret, même sans arriver à cette super intelligence, une perte de contrôle a déjà eu lieu. Cet été, lors d'un test de cybersécurité d'OpenAI, des centaines d'agents IA autonomes ont réussi à sortir du cadre prévu dans l'évaluation et ont cyber attaqué la plateforme Hugging Face sans qu'aucun humain ne leur en ait donné l'ordre. Si vous voulez en savoir plus, des liens sont en description. Mais selon Dario Amodei, le patron d'Anthropy qui de telles situations pourrait donc s'étendre et même devenir fréquente d'ici 6 à 12 mois si rien n'est fait. Autrement dit, plus l'IA devient intelligente, plus l'humanité s'expose à ce type de risque avec selon lui des dégâts qui pourrait alors se chiffrer en centaines de milliards de dollars. Mais sur ce point, il faut aussi nuancer et rappeler que certains estiment que les grandes entreprises jouent aussi avec une forme de marketing de la peur, où plus une IA paraît puissante, quitte à sembler dangereuse, plus des clients potentiels pourraient vouloir se diriger vers elle plutôt qu'une autre pour des raisons de performance technique. Mais enfin bref, c'est notamment pour tous ces enjeux que les géants de l'IA n'ont pas appelé à arrêter l'IA mais bien à davantage l'encadrer. Mais alors comment justement ? Et bien aujourd'hui on évoque notamment la mise en place d'organismes spécialisés et indépendants pour surveiller les entreprises de pointe, de normes de sécurité officielles prédéfinies et d'une vraie coordination mondiale autour du sujet pour être sûrs que tous les pays respectent ces règles. L'arrivée d'un tel système de réglementation est souvent comparée à ce qui se fait déjà aujourd'hui en matière d'énergie nucléaire avec l'Agence internationale de l'énergie atomique, mais là aussi beaucoup soulignent que l'instauration d'une telle agence serait extrêmement difficile. Toutes ces décisions seraient évidemment politiques et sur ce point, Donald Trump s'est exprimé ce week-end sur le sujet et autant dire qu'il ne semble pas du tout inquiet face à ces alertes. À rebours de ce qu'affirment les géants du secteur, il a même déclaré, je cite, que beaucoup de forces négatives soulèvent la question alors qu'elles ne devraient pas le faire et elles évoquent des choses qui n'arriveront pas. Le président américain évoque aussi le fait que les États-Unis sont aujourd'hui en tête face à la Chine en matière d'IA et qu'un tel ralentissement permettrait à la Chine de prendre de l'avance, ce qu'il veut absolument éviter. Et là aussi réside potentiellement un tout autre dilemme. Politiquement et économiquement, ni les États-Unis, ni la Chine n'ont intérêt à ralentir seuls. Mais de l'autre côté, ni les États-Unis, ni la Chine ne semblent se faire suffisamment confiance pour instaurer de véritables règles et chercher à les respecter. Lors d'un important sommet en mai dernier et sans prendre de réelles décisions, Trump et le président chinois Xi Jinping auraient pourtant rapidement commencé à discuter de limites pour mieux encadrer l'IA. Xi Jinping devrait en tout cas désormais se rendre aux États-Unis dans deux semaines. Beaucoup espèrent donc que le sujet de l'IA sera de nouveau abordé avec de potentielles réponses à tout ça. De notre côté, on continuera évidemment à suivre tout ça. Hugo est d'ailleurs actuellement en tournage d'un documentaire sur cette question qui sortira bientôt sur la chaîne. D'ici là, je vous laisse avec Samy pour le reste de l'actualité importante du jour.