OpenAI pirate un gouvernement, Trump refuse de ralentir (24/09)

SPEAKER_1 (0:00)

C'est encore un nouveau cap qui vient d'être franchi par l'intelligence artificielle. Un agent IA d'OpenAI, la maison mère de ChadGPT, a piraté une base de données du gouvernement australien. Il s'agirait du premier cas documenté d'un gouvernement victime d'un piratage mené par IA. Et alors que les appels à ralentir et à encadrer le développement de l'IA se multiplient, Donald Trump semble lui pousser pour tout l'inverse. On va refaire le point sur tout ça. Salut c'est Samy, j'espère que vous allez bien. C'est le sujet à la une de ce format d'Actu du Jour, disponible sur YouTube et en podcast audio sur toutes les plateformes. Alors concernant le hack, en juin dernier, plusieurs IA d'OpenAI devaient en fait, en plein entraînement, chercher des données sur les dépenses de santé du gouvernement australien. Des exercices de la sorte, les IA en font de très nombreux pour s'entraîner. Mais près de deux mois plus tard, en août dernier, lors de vérifications approfondies, OpenAI a découvert que l'un des modèles avait piraté un site gouvernemental australien pour mener à bien sa mission. Selon OpenAI, son IA aurait cherché des informations qui n'étaient pas en libre accès. Et au lieu d'arrêter ses recherches, elle aurait trouvé une faille dans la cybersécurité du site de l'assurance maladie australienne pour accéder aux données. Et OpenAI l'a reconnu, ses modèles ont pris des mesures que l'entreprise n'avait pas prévues. Autrement dit, OpenAI n'a pas été en capacité de s'assurer qu'elle contrôlait pleinement son IA. Et ce n'est pas la première fois, en juillet dernier, la plateforme YouGingFace, qui est très utilisée dans le monde de l'intelligence artificielle, avait aussi été piratée par des agents d'OpenAI. Pour en revenir au cas australien, il faut tout de même noter deux choses. La première, c'est que le gouvernement australien souligne bien que l'impact de cet incident est relativement mineur. Et la deuxième, c'est que ces données n'étaient pas non plus particulièrement protégées. En matière de cyberdéfense, le gouvernement australien et beaucoup de cyberexperts soulignent qu'un tel acte aurait facilement pu être réalisé par un humain. Mais aujourd'hui il faut bien noter que la vraie question et tout l'enjeu ne situent pas vraiment là-dessus puisqu'il s'agit une nouvelle fois de la preuve qu'UNIA peut encore ignorer certaines mesures de sécurité. Et ici il ne s'agit plus d'un piratage d'une entreprise comme ça a déjà pu arriver, mais bien du piratage d'un gouvernement par UNIA. Sur ce point, le premier ministre australien Anthony Albanese a évidemment qualifié cette violation d'inacceptable et il a aussi dénoncé le temps qu'a pris OpenAI pour l'informer de cette attaque. Anthony Albanese souligne que malgré l'importance d'une telle information, elle en a été envoyée sur une boîte mail publique et non via un canal officiel, ce qui a encore plus retardé la transmission de l'info. De fait, l'Australie et de nombreux experts cyber ont appelé à largement revoir les protocoles, mais ce nouvel incident intervient donc dans un contexte où de très nombreux acteurs du secteur appellent davantage à encadrer le développement de l'IA. Cette semaine, le sujet s'est d'ailleurs par exemple largement émissé au sommet de l'ONU. Sam Altman, le PDG d'OpenAI et Dario Amode, le PDG d'Anthropik, les deux grands géants du secteur, ayant de nouveau appelé à la mise en place de normes internationales pour le développement de l'IA. Mais il est vrai que tout ça peut paraître contradictoire avec en quelque sorte la situation de Pompier Pyroman, puisqu'en effet ce sont justement ces mêmes entreprises qui alertent sur les dangers de l'IA mais qui en parallèle ne cessent de développer des modèles qui sont toujours plus puissants et qui n'arrivent pas non plus à les contenir, le tout malgré les incidents qui semblent devenir de plus en plus fréquents. D'ailleurs rien que ce mardi, les deux entreprises ont de nouveau cassé les prix avec le lancement de nouveaux modèles qui sont présentés comme plus performants et moins chers. Et c'est donc aussi dans ce contexte que beaucoup dénoncent une forme de marketing de la peur où chaque entreprise met en avant ses puissants modèles, avec pour objectif en quelque sorte de montrer une forme de supériorité dans le domaine. Concernant l'instauration de nouvelles règles, certains voient aussi une forme de calcul politique et économique. Les grands acteurs pourraient avoir intérêt à imposer des normes très strictes, plus faciles à respecter pour eux que pour des petites entreprises, et ça pourrait donc freiner l'émergence de nouveaux acteurs. Ici, on peut directement penser aux modèles open source chinois par exemple, qui sont pour la plupart gratuits. Enfin bref, au milieu de tout ça, il y a donc un mélange assez particulier entre les géants de l'IA qui peuvent avoir un intérêt commercial et une peur sincère dans leur modèle. Ici, on a donc tout l'enjeu de la peine du gars, mais avec aussi peut-être une envie sincère de rendre le monde meilleur. Mais c'est pourquoi beaucoup d'experts affirment qu'il ne faut pas compter sur les entreprises pour s'autoréguler, mais bien sûr des internationaux qui sont composés de chercheurs les plus impartiaux possibles. Et sur ce point, autant dire que ça risque d'être encore un peu compliqué. Lui aussi présent au sommet de l'ONU, Donald Trump a par exemple indiqué qu'il n'écouterait pas les appels à ralentir, tout en qualifiant la supervision IA de Globatis Chim, donc quelque chose qui pourrait s'apparenter à une sorte de complot qui viserait à freiner les Etats-Unis. Il a aussi affirmé qu'il ne comptait pas, je cite, freiner le développement d'une technologie qui sera plus importante que la révolution industrielle et qu'il comptait donc même l'encourager. Dans cette même lancée, il a également déclaré à l'ONU que les Etats-Unis utiliseraient désormais officiellement le terme de superintelligence au lieu d'intelligence artificielle. Selon lui, le mot artificielle donne l'impression, je cite, que l'intelligence est fausse. On se retrouve donc ici avec un gouvernement étasunien qui agit à rebours des experts scientifiques. Mais jusqu'à quand un tel discours pourra perdurer ? Et bien on suivra évidemment tout ça. Et je vous laisse avec Blanche pour le reste de l'actualité importante du jour.