Pourquoi les patrons de l’IA crient au danger… et accélèrent ? (🔎 Zoom Tech) »

Jerome Colombain (0:01)

C'est une question que beaucoup se posent en ce moment. Pourquoi les grands acteurs américains de l'intelligence artificielle n'arrêtent pas d'alerter sur les dangers supposés de l'IA, tout en continuant à accélérer son développement ? Franchement, il y a quelque chose de déroutant. Dario Amodei, Sam Altman, Elon Musk, d'un côté ils nous disent attention Armageddon, risque de cyber-attaque monstrueuse, disparition des emplois, perte de contrôle de la machine, etc.

Et pendant ce temps, ils continuent à construire et à entraîner leur fameux modèle frontière toujours plus puissant. Est-ce de l'hypocrisie ? Est-ce une stratégie de communication ?

Ou la preuve qu'ils ont déjà perdu le contrôle ? J'ai voulu comprendre ce paradoxe et en creusant un peu, eh bien on découvre qu'il y a plusieurs explications qui se superposent. D'abord, il faut prendre au sérieux une possibilité, c'est le fait que ces professionnels puissent être sincèrement inquiets et déroutés face aux exploits de l'intelligence artificielle, à la fois au regard des possibilités que ça ouvre, mais aussi des risques. Chez Dario Amodei, le patron d'Anthropic qui développe Claude, la peur et l'enthousiasme vont vraiment ensemble. Il pense qu'une IA extrêmement puissante va pouvoir accélérer les découvertes médicales et scientifiques et faire des avancées majeures, mais cette même puissance pourrait aussi permettre de faire beaucoup de dégâts. Dans cette vision, donc, arrêter de développer l'IA serait en réalité absurde, car ce serait renoncer aux fantastiques découvertes qu'on attend. Pour lui, continuer à avancer est donc une question de responsabilité, presque une sorte de mission sociale.

La deuxième explication est plus économique. C'est la concurrence. Si plusieurs entreprises pensent qu'elles vont toutes trop vite, que collectivement elles peuvent avoir un intérêt à ralentir, mais individuellement chacune a peur de lever le pied. Et oui, car elles risqueraient de se faire distancer par les autres qui eux n'arrêteront pas. Celles qui ralentissent risquent de perdre son avance, ses clients, ses meilleurs chercheurs, ses financements aussi, et du coup perdent la bataille. C'est ce qu'on appelle le dilemme du prisonnier. Tout le monde pourrait tirer profit d'une véritable coopération, mais personne ne prend le risque de s'engager tout seul. D'où les appels à ralentir de manière collective, mais surtout pas unilatéralement.

Il y a aussi bien sûr des intérêts commerciaux. Quand une entreprise explique que sa technologie pourrait changer le destin de l'humanité, c'est une manière de souligner à quel point elle est puissante et elle va l'être encore plus. Et c'est donc un excellent argument marketing pour séduire les investisseurs. Surtout quand on a l'entrée en bourse en ligne de mire comme c'est le cas pour Anthropic ou OpenAI. Il faut promettre une technologie qui va changer le monde tout en assurant qu'on sait la maîtriser. Et ça c'est encore un autre aspect. Quand une entreprise se présente comme la mieux placée pour comprendre les dangers de l'IA, elle renforce sa position auprès des gouvernements. En prenant l'instauration de règles de sécurité, elle vise aussi à renforcer son monopole ou son oligopole, car ces règles seront forcément complexes, coûteuses, et constitueront donc des barrières pour décourager les nouveaux entrants. C'est une technique vieille comme le monde, déjà pratiquée en son temps par les banques ou par les acteurs historiques du logiciel, qui consiste à s'approprier la régulation pour la réserver à ceux qui peuvent se la payer. Et ainsi, ils garantissent qu'ils continueront à faire la course en tête et sans être ennuyés par des petits nouveaux. C'est d'ailleurs ce qui hérisse le poil, soit dit en passant, des acteurs européens.

Enfin troisième explication, le contexte géopolitique. Et oui, il faut remettre tout cela dans le cadre de la rivalité entre les États-Unis et la Chine. Dans son appel au ralentissement en septembre, Dario Amodei dit clairement qu'il veut préserver l'avance américaine. Il redoute que la Chine devance les Américains, ce qui représenterait un danger stratégique. C'est sa lecture géopolitique de la question. Ça révèle une vraie tension. Ils ont peur, ces dirigeants, de perdre le contrôle de l'IA, et peur que quelqu'un d'autre prenne la main à leur place. D'autant que coordonner un ralentissement entre plusieurs entreprises, ça paraît compliqué, mais alors le faire entre puissances rivales semble impossible. Il faudrait instaurer des règles de vérification comme le nucléaire, etc. et on voit à quel point il est difficile de mettre tout cela en place. À l'arrivée, chacun finit par se convaincre qu'il doit gagner la course à l'IA pour protéger le monde et en même temps s'en faire n'importe quoi.

Ça ne veut pas dire que les alertes sur les risques de l'IA sont injustifiées, elles s'inscrivent simplement dans un ensemble de causes qui s'entremêlent. Et il faut aussi replacer tout cela dans une échelle de temps.

Les risques civilisationnels dont on parle ne se jouent pas à 10 ou 15 ans, mais sans doute sur des dizaines voire des centaines d'années, en tout cas c'est ce que pensent les plus inquiets dans cette histoire. Il faut donc nuancer finalement l'idée qu'ils sont irresponsables en fonçant à tombons ouverts vers l'inconnu.