L’IA inquiète plus que jamais, les États-Unis réagissent

**Hugo Décrypte** (0:00)
Est-on à deux doigts de perdre le contrôle de l'intelligence artificielle ? C'est une question de plus en plus sérieuse, alors qu'Anthropiq, l'un des géants du secteur et la maison-mère de Claude, appelle à une pause dans la course à l'IA. Et en même temps, Anthropiq lance en parallèle une nouvelle version de Claude, une version interdite par les États-Unis aux citoyens non-américains dans la foulée. Mais alors de quoi parle-t-on exactement et quelle est cette inquiétude qui grandit ? Salut, c'est Hugo. J'espère que vous allez bien. C'est donc le sujet à la une de ces actualités du jour, disponible sur YouTube et en podcast audio sur toutes les plateformes de podcast. Je suis de retour au passage après une semaine de tournage d'un documentaire à l'étranger dans le cadre de ma série de documentaires en tension. J'ai très hâte de vous partager ce nouvel épisode, il était très particulier. Mais je serai donc de retour avec la caméra dès la semaine prochaine. Le secteur de l'IA a une pédale d'accélérateur, mais elle n'a pas de pédale de frein. C'est ainsi que l'un des co-fondateurs d'Entropiq, qui est donc derrière l'IA Claude, résume la situation actuelle, alors que l'intelligence artificielle s'installe directement ou indirectement à minima dans le quotidien de milliards de personnes. Et bien, de plus en plus de spécialistes appellent depuis plusieurs mois à un encadrement plus strict de ces technologies. Alors on parle régulièrement sur la chaîne des questions de droit d'auteur, de biais des algorithmes, de la destruction des emplois ou encore de l'impact écologique lié à l'entraînement de ces IA. Mais là, Entropiq aujourd'hui évoque tout autre chose. En effet, l'entreprise ne décrit plus seulement l'IA comme un outil qui risque d'être mal encadré, mais plus largement en fait comme un système capable de faire mieux, plus vite et à moindre coût que les humains. Un développement qui pourrait, selon elle, mener à ce qu'elle appelle un risque de perte de contrôle des humains. L'argument qui a avancé par Entropiq, mais qui en fait avancé par beaucoup de personnes, c'est ce que l'on appelle l'auto-amélioration récursive. Le terme peut paraître un peu barbare, mais l'idée, elle est très simple. Il s'agirait en fait d'intelligence artificielle qui serait capable de s'améliorer elle-même, voire de contribuer à leur propre conception. Aujourd'hui, les IA, elles sont essentiellement conçues par des humains. Ils les codent, même si évidemment, quasiment systématiquement aujourd'hui, ils les codent eux-mêmes avec IA. Mais donc, tout de même, ils les codent, ils les testent, ils encadrent leurs réponses et ils décident ensuite de leur déploiement. Mais dans le scénario d'auto-amélioration qu'on évoque ici, le risque en fait qui a avancé, c'est une IA donc capable de participer directement à son évolution, de proposer et d'appliquer directement des modifications pour être encore plus performantes. Alors l'idée comme ça d'une IA qui s'auto-améliore sans aucune validation extérieure et qui dépasse en quelque sorte les ingénieurs, et bien, j'en suis conscient, ça fait un peu scénario de science-fiction, il y a tout un tas de films évidemment dans ce registre là. Sauf que ce type de réflexion aujourd'hui, il est bien réel dans de nombreux laboratoires. Et cette capacité à s'auto-améliorer, ça peut évidemment avoir des portées notamment d'un point de vue scientifique qu'on peut imaginer assez exceptionnel. Sauf que en contrepartie, ça amène des questions absolument vertigineuses qui, disons-le, peuvent faire peur. Par exemple, que se passerait-il si une IA devenait suffisamment autonome pour ne plus réellement dépendre des humains et créer de quoi survivre elle-même ? J'avais interviewé le chercheur Yoshua Benjo sur la chaîne qui évoquait lui le risque à terme d'une IA qui se duplique pour éviter d'être stoppée. Et forcément, ça pose question, ça pose problème, surtout si on parle de sujets sensibles. Alors le plus évident, évidemment, c'est le sujet des armes autonomes, etc. Mais plus largement, en fait, c'est une question qui se pose d'une IA donc qui ne pourrait pas être stoppée. Anthropique affirme déjà aujourd'hui que la part de l'humain se réduit déjà à chaque étape de développement de l'IA et que, je cite, l'auto-amélioration n'est pas inévitable, mais cela pourrait arriver plutôt que la plupart des institutions de l'envisage. D'autant qu'il faut noter par exemple que chez OpenAI, donc la maison mère de TchadGPT, l'entreprise affirme elle aussi assister à des premiers signes d'auto-amélioration récursive. Alors on va nuancer tout ça dans un instant parce qu'il y a quand même quelques éléments à nuancer, mais c'est donc avec tout ça en tête qu'Anthropique a appelé la semaine dernière à faire une pause collective dans la course de l'IA. Alors évidemment, tout cela ne se ferait pas du jour au lendemain. Et d'ailleurs surtout, ce qu'on peut observer, c'est qu'à l'heure actuelle, aucune entreprise n'a suivi cet appel. Pas même d'ailleurs Anthropique. Et c'est là en fait le point majeur. Anthropique tient un tel discours appelant à mettre en pause. Mais en parallèle, globalement, Anthropique suit le rythme de ses concurrents, par crainte donc de ne pas être le premier dans cette même course. Et par exemple, on va en parler dans quelques instants, ils ont lancé leur IA, leur modèle le plus puissant il y a quelques jours, qui s'appelle Fable 5 Et plus largement, en fait, c'est un discours qui interroge. Alors pas tant sur le fond, puisque on l'a dit sur le fond, il y a beaucoup de chercheurs, beaucoup de spécialistes qui vraiment estiment qu'il y a un danger, qu'il y a un risque et qu'il doit y avoir une régulation beaucoup plus importante sur ce sujet. Mais là, en fait, ce qui interroge, c'est pas tant le fond du discours que, encore une fois, l'émetteur du discours. Certains estiment notamment que, dans le cas ici d'Anthropiq, il y a peut-être un risque aussi d'un effet marketing dans ce discours. En fait, en affirmant tout cela, en affirmant que son entreprise fait des progrès fulgurants et que ça mène à des interrogations, ça permet aussi de montrer qu'Anthropiq est en avance, ou en tout cas est l'un des pionniers avec notamment OpenAI. Et on peut noter d'ailleurs que c'est ce qu'estiment certains acteurs du secteur, comme Arthur Mensch, le co-fondateur de l'IA européenne Mistral, qui dénonce notamment, je cite, un marketing de la peur. Plus largement en fait, certains des tracteurs accusent Anthropiq de chercher avant tout à soigner son image, plus qu'à défendre réellement de véritables principes éthiques, avec donc un objectif potentiellement marketing et plus largement l'idée de se poser en bon élève pour attirer les gouvernements et les investisseurs sous son aile. Cela dit, il y a une actualité très importante qui est tombée en dernière minute. Si vous suivez le sujet, je pense que vous en avez entendu parler. Il y a quelques jours, Anthropique avait donc annoncé deux nouveaux modèles d'IA, Fable 5 et Mythos 5, des modèles qui étaient tout simplement les plus performants et qui amenaient encore une fois de nouvelles étapes dans le développement chez Anthropique. Sauf que cette nuit, les États-Unis ont annoncé l'interdiction de Fable 5 pour tous les citoyens non américains invoquant des enjeux de sécurité nationale. Dans la foulée de tout ça, Anthropique a décidé de l'interdire pour tous, donc pas seulement pour les citoyens non américains. Alors c'est un sujet où là, il y a énormément de choses à comprendre et à analyser. On peut noter qu'effectivement c'est quand même une nouvelle étape qui a été franchie avec une IA extrêmement puissante. Mais c'est pas que ça en réalité derrière ce sujet. Il y a vraiment un bras de fer en ce moment entre Anthropique et entre l'administration de Trump depuis plusieurs mois. Pour rappel, on en avait parlé, Anthropique avait souhaité interdire l'utilisation de l'IA dans certaines utilisations jugées non-éthiques, notamment dans le secteur de l'armement. Mais il y avait donc un bras de fer puisque ça n'avait pas plu donc à l'équipe de Trump. Il y a un autre élément par ailleurs qui est extrêmement important à comprendre, c'est que ça illustre ici, la capacité des États-Unis à bloquer aux étrangers toute utilisation d'IA américaine quasiment du jour au lendemain. C'est un élément absolument majeur, on aura l'occasion d'en reparler notamment sur la question de l'Union européenne. Bref, quoi qu'il en soit et au-delà donc du cas de Fable 5 et de Mythos 5 dont on va reparler, le sujet plus large ici, c'est donc un sujet qui prend de l'ampleur. Il y a même eu des déclarations du pape, le pape Léon XIV qui a appelé ouvertement, je cite, à désarmer l'IA pour l'empêcher de dominer l'humain. En tout cas, je le disais, j'ai eu la chance d'interviewer Yoshua Benjo sur le sujet, la question des dérives de l'IA. C'est un chercheur pionnier vraiment dans ce domaine qui aujourd'hui tire la sonnette d'alarme. C'est une interview de plus d'une heure qui était passionnante. Je vous mets le lien directement en description. C'est dispo en podcast et sur YouTube. Au passage, pour suivre cette actualité et tout le reste de l'actualité, rendez-vous directement sur Instagram. Je pense que vous êtes nombreux à le savoir, mais c'est un très bon complément à ce qu'on fait ici. Que ce soit sur le compte principal, mais aussi sur nos comptes thématiques, notamment le compte sport, hugodécrypte.sport. De mon côté, je sais que je vais partir sur une nouvelle nuit bl pour suivre évidemment les finales NBA. On vous tiendra au courant donc sur notre compte dédié au sport. Bref, j'ai été long, je vous mets tous les liens en description. Je vous laisse avec Léah pour le reste de l'actualité et je reviens juste après.