La nouvelle erreur de Trump qui peut faire gagner la Chine sur l’IA

**Samy** (0:00)
Donald Trump vient-il de faire gagner la Chine dans la course à l'IA ? Début juin, les Etats-Unis ont ordonné à l'entreprise américaine d'IA Anthropik d'interdire l'accès à Fable 5 et Mytho 5, ces deux modèles d'IA les plus puissants. Mais depuis, de nombreux scientifiques et les experts accusent les Etats-Unis de s'être tiré une balle dans le pied. Mais alors pourquoi de telles inquiétudes ? Salut, c'est Samy, j'espère que vous allez bien. C'est le sujet aligné de ce format d'Actu du jour, disponible sur YouTube et en podcast audio sur toutes les plateformes. Alors on en avait déjà parlé dans ce format. Le 12 juin dernier, les Etats-Unis ont ordonné à Anthropik de bloquer ces deux derniers modèles d'IA les plus puissants à tous ressortissants étrangers, à l'intérieur ou à l'extérieur des Etats-Unis, et étant dans l'impossibilité de trier les utilisateurs selon leur nationalité, Anthropik a alors tout simplement coupé l'accès à ces deux modèles dans le monde entier, y compris aux Etats-Unis, une décision qui a d'ailleurs provoqué de nombreuses réactions dans le monde et notamment en France. Si cet enjeu vous intéresse, on en a fait un sujet dédié et le lien est en description. Alors à l'époque, sans donner plus de détails, l'administration Trump affirmait que ces modèles IA seraient en fait suffisamment puissants pour présenter des risques en matière de cyberattaque par exemple, mais aujourd'hui on en sait un peu plus sur les réelles raisons qui auraient motivé les Etats-Unis à demander des restrictions sur ces puissants modèles. Selon le Wall Street Journal, le CEO d'Amazon, l'un des plus gros investisseurs d'Anthropic, aurait alerté le gouvernement sur le fait que ses propres chercheurs avaient réussi, avec de bons promptes et des requêtes très ciblées, à pousser Fable 5 à révéler des informations utilisables dans une cyberattaque. En fait jusque là, Anthropic affirmait avoir mis en place des gardes fous pour éviter qu'une situation se produise, en gros si une requête portait sur des domaines jugés trop sensibles, ce n'était plus Fable 5 qui y répondait, mais des modèles moins puissants développés par Anthropic, mais Amazon aurait donc réussi à outrepasser cette mesure et a donc préféré en informer directement le gouvernement, car entre de mauvaises mains, ces IA pourraient devenir de véritables armes pour les hackers, on parle d'une IA capable de trouver des failles, de permettre d'exerper des données sensibles à des gouvernements, des entreprises, des banques, etc. Elle aurait donc pu devenir un vrai moyen de hacker de nombreuses institutions. De son côté, Anthropic affirme que cette faille trouvée par Amazon est minime, trouvable par d'autres modèles, et surtout qu'il ne s'agit pas d'un jailbreak universel, donc une méthode qui serait utilisable pour passer tous les gares de fous. Mais cette crainte aurait donc pu suffire aux Etats-Unis pour bloquer ces IA, d'autant plus que selon le média américain Semafor, qui cite une source anonyme, et de nombreuses rumeurs qui planaient déjà avant cette révélation, les Etats-Unis soupçonneraient un groupe chinois d'avoir eu accès à Mythos V. Avant l'interdiction, Anthropic avait en fait ouvert l'accès à ce modèle, à des partenaires présélectionnés, à majorité américains, les entreprises chinoises n'y avaient donc pas accès, mais si des groupes chinois ont pu y avoir accès justement, et bien ça change tout. Déjà niveau sécurité, si ces IA tombent dans des mains mal intentionnées, qu'elles soient chinoises ou même américaines, le risque que ces groupes les utilisent pour acquis des systèmes augmente grandement. Mais l'autre enjeu qui est souligné et qui pourrait aussi faire très peur aux Etats-Unis, c'est que si un groupe lié à la Chine a pu poser suffisamment de questions à Mythos avant l'interdiction, et bien il pourrait désormais s'en servir pour entraîner son propre modèle en se basant sur les capacités de Mythos qui est donc lui-même très puissant. L'objectif est simple, copier les savoirs de Mythos dans des modèles chinois à moindre coût, et ça, dans la course à l'IA, ça peut coûter très cher, surtout dans un contexte où beaucoup soulignent que l'avance des Etats-Unis sur la Chine en matière d'IA est déjà en train de se refermer. Maintenant, une question se pose, est-ce que l'interdiction est réellement justifiée par ses inquiétudes, comme l'affirme le gouvernement, ou est-ce qu'Anthropik a raison en disant que de tels scénarios sont disproportionnés au vu des garde-fous qu'elle applique ? Et bien on n'aura peut-être jamais la réponse, mais en tout cas, les conséquences pourraient déjà être très lourdes pour les Etats-Unis. En bloquant ces IA, deux choses sont notamment à prendre en compte. La première, on en avait parlé, les Etats-Unis ont rompu une forme de confiance. Ils ont montré au monde qu'ils pouvaient débrancher une technologie clé du jour au lendemain pour protéger leur intérêt et ce, en dépit des autres pays qui pouvaient avoir besoin de ces technologies. Résultat, de nombreux clients de modèles états-unien pourraient être plus enclins à se diriger vers d'autres alternatives, et vous le voyez venir, potentiellement des alternatives chinoises qui pourraient prendre le parti de dire nous ne bloquerons jamais votre accès. Et la deuxième conséquence, c'est que de nombreux experts soulignent aussi que cette pure ne pénalise pas uniquement les potentiels hackers, elle pénalise aussi les équipes qui jusque là se servaient de Sésia justement pour renforcer la sécurité de leur système et qui ne peuvent actuellement plus se servir de modèles les plus avancés pour se protéger. Le risque, c'est que les apprentissages de cyberdéfense stagnent alors que des cyberattaques plus puissantes que jamais pourraient bientôt voir le jour. De notre côté, on continuera évidemment de suivre l'avancée de Sésia dans ce format et je vous laisse avec Blanche pour le reste de l'actualité importante du jour.