Historique : des robots peuvent tuer en toute autonomie (26/08)

**Hugo Décrypte** (0:00)
Ce n'est plus de la science-fiction. Les armes entièrement autonomes, qu'on appelle aussi robots tueurs, existent. L'ONU et la Croix-Rouge estiment qu'il est urgent de les réglementer avant qu'il ne soit trop tard. Mais alors, de quelles armes parle-t-on ? Que peuvent-elles faire sans intervention humaine ? Et quelles sont les dangers ? Salut, c'est Hugo. J'espère que vous allez bien. Et c'est donc le sujet à la une de ces actualités du jour, disponible sur YouTube et en podcast audio sur toutes les plateformes de podcasts. L'ONU et la Croix-Rouge ont donc remis le sujet sur la table en affirmant qu'une ligne rouge morale était sur le point d'être franchie avec des armes qui vont pouvoir prendre des humains pour cible de façon autonome. Alors, quand on parle ici d'armes létales autonomes, on parle donc de systèmes capables de tuer, des systèmes qui vont donc enregistrer une demande humaine, par exemple, tir dans telle zone ou sur tel individu. Et ce sont donc des armes à partir d'une telle demande qui sont capables de sélectionner des cibles qu'il estime correspondre et qui sont capables de tirer. Alors là tout de suite, j'en suis conscient, on peut penser à des robots humanoïdes style Terminator. En fait, aujourd'hui, ça ressemble pas à ça. La plupart des systèmes, ils sont représentés par des drones, par des tourelles. Bref, par tout un tas de systèmes boostés aujourd'hui pas mal par l'IA et qui sont capables donc de tirer de cette façon. Alors attention, c'est important de rester factuel et précis sur un sujet aussi grave. Ce qu'il faut comprendre, c'est qu'aujourd'hui, les armes autonomes, techniquement, c'est une réalité, c'est à dire que c'est possible de le faire. Mais aujourd'hui, la majorité des cas documentés affirment que la décision finale, elle reste encore validée par un humain. Pour bien comprendre avec un exemple, en gros, une fois une cible identifiée, il y a un humain qui valide en quelque sorte la décision et à ce moment là, la machine va tirer. Aujourd'hui, on est d'une certaine façon dans une forme de semi autonomie de ces armes. Mais bref, la crainte, c'est que à terme et finalement très vite, les armes d'avantages autonomes se développent, puisque techniquement encore une fois, c'est quelque chose qui est déjà possible. Le véritable problème, c'est que pour l'instant, il n'y a aucun cadre légal, aucun cadre juridique sur cette question. Sur ce sujet, il y a déjà des témoignages qui inquiètent. Par exemple, sur le front en Ukraine, certains témoignages de militaires russes comme de militaires ukrainiens ont rapporté que des drones entièrement pilotés par IA avaient déjà été envoyés sur le front et avaient déjà tué des soldats. L'une des premières choses qui inquiètent dans tout ça, c'est les potentielles erreurs et tout ce qui peut arriver derrière. Un exemple marquant sur cette question, ça se passe dans la guerre en Iran. Plusieurs enquêtes ont notamment révélé que les États-Unis ont très largement utilisé des systèmes avec intelligence artificielle pour analyser des images satellites et pour accélérer les bombardements en Iran. Et au milieu de ces bombardements, on en a déjà parlé à plusieurs reprises sur la chaîne, une école élémentaire en Iran a été frappée et ce bombardement a tué plus de 150 personnes dont 120 enfants selon Amnesty International. Or plusieurs enquêtes journalistiques ont notamment souligné que le programme IA de l'armée américaine avait failli et que le programme s'était appuyé sur des renseignements trop anciens. Et donc après avoir nié les faits au départ, les États-Unis ont finalement affirmé qu'une erreur de ciblage était à l'origine de ce bombardement sur une école, sans préciser pour l'instant si l'erreur était selon eux humaine ou non. Mais les conséquences, vous l'avez compris, elles sont là et elles sont graves, puisque plus de 150 personnes ont été tuées en très grande majorité des enfants. Ces exemples, ils montrent le risque que la prise de décision ne soit de plus en plus reléguée à des machines, avec dans certains cas potentiellement peu de vérifications derrière. Et certes, il n'y a pas que la machine qui peut faire des erreurs, l'humain aussi évidemment peut faire des erreurs, parfois avec des conséquences extrêmement graves. Il peut aussi prendre des décisions qui peuvent être gravissimes et entraîner des crimes de guerre, on en parle régulièrement sur la chaîne. Mais dans le cas ici qu'on évoque est la question des armes autonomes, ça soulève tout un tas de questions et notamment des débats éthiques concernant la question de la responsabilité. En effet, qui est responsable en cas d'erreur ? Est-ce que c'est la machine ? Est-ce que c'est la personne qui a déployé la machine ? Est-ce que c'est le fabricant de la machine ? Bref, qui est responsable ? C'est des questions qui potentiellement peuvent être vertigineuses. Bref, c'est ce qui fait qu'il y a eu cet appel de l'Organisation des Nations Unies et de la Croix-Rouge appelant à faire preuve de courage politique. Autrement, tout cela coûtera des vies. Et la question, c'est donc la question de l'encadrement. Globalement, il y a deux courants de pensée sur ce sujet. Le premier courant de pensée, c'est des experts qui appellent à interdire totalement ces types de systèmes de manière préventive. Certains estiment notamment qu'il faut une législation qui ressemble à celle qui a été prise sur les armes biologiques et sur les armes chimiques, qui sont aujourd'hui totalement interdites par le droit international. Même si, attention, il faut garder ça en tête. Et là aussi, vous le savez, si vous suivez régulièrement la chaîne, en théorie, elles sont interdites dans les faits en pratique ces dernières années. Elles ont été utilisées à plusieurs reprises, ce qui constitue des crimes de guerre. D'autres courants de pensée estiment davantage qu'il faudrait une réglementation stricte de l'usage de ces armes, mais sans les interdire forcément. L'un des objectifs serait notamment de se dire que la réglementation permettrait justement de faire appliquer directement sur la machine certaines exigences du droit international. Mais là aussi, ça reste quelque chose qui est uniquement théorique. Dans les faits, il y a énormément d'inquiétude sur la façon dont ces armes pourraient être utilisées pour réaliser des crimes de guerre, en déportant ensuite la responsabilité directement sur cette technologie. Enfin, le dernier risque important sur ces armes, j'en parle pas en détail aujourd'hui parce que c'est un sujet dont on parle régulièrement sur la chaîne, mais c'est le risque d'une perte de contrôle de ces systèmes, et notamment des intelligences artificielles qui sont derrière. J'avais notamment interrogé Yoshua Benjo, qui est considéré comme l'un des parrains de l'IA, un des grands chercheurs sur le sujet et qui alerte aujourd'hui sur la question. On a aussi parlé récemment de piratage réalisé par des IA et des craintes d'une perte de contrôle. C'est là aussi évidemment, quand on parle d'armes, un risque qui est beaucoup avancé. Depuis de nombreuses années, il y a des discussions qui se tiennent en ce moment au sein de l'Organisation des Nations Unies. L'objectif, c'est de mettre en place une telle réglementation. Mais pour le moment, les discussions ne sont pas parvenues à adopter un traité qui serait contraignant. Il y a une nouvelle réunion qui doit se tenir au mois de novembre sur le sujet. Évidemment, on vous tiendra au courant sur tout ça. Je vous mets tous les liens en description, notamment l'interview de Yoshua Benjo. Je vous laisse avec Samy pour le reste de l'actualité importante du jour et je reviens juste après avec la bonne nouvelle du jour.