L’IA peut-elle tous nous tuer ?

Thomas Baumgartner (0:02)

Bonjour à toutes et à tous, je m'appelle Thomas Baumgartner et il est l'Heure du Monde.

Aujourd'hui, est-ce une rumeur, une manipulation ou une information ? L'intelligence artificielle aurait 10 % de chance de détruire l'humanité dans les 10 prochaines années. Tout est parti d'un message d'un ancien employé de la firme d'intelligence artificielle Anthropic, mercredi 9 septembre, qui sous-entend que l'IA pourrait nous tuer d'ici 10 ans et que c'est une estimation partagée par les professionnels du secteur. L'hypothèse fait souffler un vent de panique sur la planète. Il y a 4 ans, nous découvrions avec fascination ChatGPT, un service d'intelligence artificielle générative qui a rapidement conquis le grand public. Et depuis, une course s'est engagée entre un petit nombre d'entreprises, OpenAI, Anthropic, Google, Meta, pour ne parler que des Américaines. Leurs courses nous entraîneraient-elles tous vers l'abîme ? Les employés de ces entreprises, nombreux, se disent inquiets. L'IA promet de nous faciliter la vie, mais est-ce que ça doit signifier qu'elle va la détruire ? Peut-on vraiment prendre au sérieux ces grandes déclarations ? Si oui, peut-on encore éviter la catastrophe ? Et comment sont envisagées les scénarios dystopiques au sein de ces grands groupes de l'IA ? Des questions qu'on se pose alors qu'OpenAI a annoncé mardi 15 septembre qu'elle travaillait avec ses concurrents Anthropic et Google DeepMind à la création d'un organe de supervision des risques liés à l'intelligence artificielle.

Morgane tua les journalistes aux services Pixels du Monde. Elle et ses collègues suivent de très près les évolutions technologiques qui secouent la planète. Elle est à notre micro pour nous aider à y voir plus clair. L'IA peut-elle tous nous tuer ? Un épisode de Garance Muñoz et Yann Plantier, réalisation Amandine Robillard.

Bonjour Morgane.

Morgane Tual (1:59)

Bonjour Thomas.

Thomas Baumgartner (2:00)

À l'origine de l'emballement médiatique sur une apocalypse liée à l'intelligence artificielle, il y a donc un tweet publié par Jacob Coxon le 9 septembre. Ancien employé d'OpenAI, il avait démissionné pour rejoindre Anthropic avant de démissionner à nouveau.

Jacob Coxon (2:14)

Aucune des deux entreprises n'agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de améliorer elles-mêmes et jouer avec nos vies.

Les gens qui construisent l'IA croient sincèrement qu'elles pourraient tous nous tuer d'ici la fin de la décennie. Ce n'est pas un coup marketing.

Thomas Baumgartner (2:31)

Morgane, ce que ce tweet prédit, c'est la destruction de l'humanité d'ici à la fin de la décennie. D'autres ont aussi prédit plutôt que ça arriverait d'ici dix ans. Bref, une fin de l'humanité provoquée par une super IA incontrôlable. On dirait le scénario d'un film catastrophe. Et on va évidemment parler ensemble de sa crédibilité. D'abord, j'aimerais que tu nous dises à quel point cette alerte sur l'IA est nouvelle, à quel point cette alerte est inédite.

Morgane Tual (2:55)

Elle n'est pas du tout inédite. En fait, ça fait des années que des gens alertent sur de potentiels dangers d'extinction de l'humanité à cause de l'IA. On peut citer par exemple le scientifique Stephen Hawking qui, dès 2014, déjà alertait sur ce danger.

Thomas Baumgartner (3:13)

Le développement d'une intelligence artificielle complète pourrait sonner la fin de la race humaine. Dès lors que les humains développeraient l'intelligence artificielle, elle pourrait croître d'elle-même et se reconfigurer à un rythme toujours plus rapide.

Morgane Tual (3:30)

Plus récemment, notamment depuis l'émergence auprès du grand public de ChatGPT et tous ces progrès de l'intelligence artificielle moderne, il y a eu beaucoup plus d'alertes des figures centrales du secteur qui ont publié notamment en 2023 une déclaration commune alertant encore sur ce risque d'extinction. Et parmi les signataires, on avait les patrons d'OpenAI, d'Anthropic, de Google DeepMind et puis d'autres personnalités notables comme par exemple Bill Gates.

Thomas Baumgartner (3:54)

Et donc toi, quand tu as vu le tweet, ça t'a pas spécialement alerté ?

Morgane Tual (3:58)

Non, non, non, je me suis pas du tout allermée. Je me suis dit, bon, bah voilà, comme d'habitude, quelqu'un dit qu'on va tous mourir à cause de l'IA. Et je me suis pas attendu à un tel emballement, puisque là, on assiste quand même à un emballement autour de ce sujet inédit, je pense, dans l'histoire de l'intelligence artificielle. Je m'y attendais pas aussi, parce que Jacob Coxon, qui démissionne, en fait, c'est pas une personne connue du secteur, c'est un employé comme un autre, finalement. Alors bon, ce qui est peut-être nouveau, c'est que son message parle d'un risque d'extinction dans les dix ans qui viennent, ce qui évidemment fait très peur.

Thomas Baumgartner (4:26)

Oui, c'est très peu, on se projette chacun assez vite à ses dix ans. Mais donc, si ce discours était déjà connu, comment tu expliques l'emballement ? Est-ce que c'est seulement cette estimation des dix ans qui change la donne ?