Black Mirror est le nom d’une série télévisée britannique qui met en scène, dans un futur proche, toutes les conséquences que peuvent avoir les nouvelles technologies dans la vie quotidienne. Dans la quatrième saison, l’épisode Metalhead présente la traque puis l’assassinat d’une femme poursuivie par un robot-tueur autonome en forme de chien. Dans une version encore inaboutie et aujourd’hui inoffensive, ce robot existe. Développé par Boston Dynamics depuis bientôt 20 ans, Spot est destiné au marché civil ; il sera commercialisé avant fin 2019, principalement comme aide à la surveillance ou à la manutention. Mais les nombreuses vidéos diffusées par l’entreprise montrent des capacités duales civiles et militaires qui intéressent les grandes puissances. À l’évidence, le marché de la robotique militaire soulève non seulement de forts enjeux éthiques mais également économiques et de puissance. Le terme de « robotique militaire » recouvre les systèmes d’armes autonomes, létaux ou non. Le développement des premiers fait consensus ; en revanche, l’opinion publique s’intéresse bien peu aux seconds. Les systèmes d’armes létaux autonomes (SALA) ou lethal autonomous weapons systems (LAWS) font pourtant l’objet d’une guerre de l’information particulièrement poussée, notamment sur les terrains éthiques et juridiques, opposant les tenants de l’automatisation la plus poussée à ceux qui tiennent à conserver « l’homme dans la boucle » et préconisent leur interdiction complète. Cette guerre oppose principalement, d’une part les institutions internationales, sous influence d’ONG puissantes relayées par de nombreux influenceurs et, d’autre part, les industriels du secteur, financées par des investisseurs internationaux, cherchant à répondre à une demande croissante des complexes militaro-industriels de grandes puissances militaires.
Le marché de la robotique militaire en plein essor
Dans un marché de la robotique militaire en plein essor, caractérisé par l’intervention d’acteurs institutionnels et privés, les SALA cristallisent de nombreux enjeux politiques et économiques D’après une étude de WinterGreen Research, le marché des systèmes d’armes autonomes ou robots militaires pourrait atteindre 10 milliards de dollars par an en 2021. En plein essor, le développement de ce secteur est marqué par les débats autour des SALA et de l’intelligence artificielle (IA). En effet, ces deux innovations technologiques combinées soulèvent la question des « robots-tueurs ».
Aujourd’hui, tous les pays producteurs d'armement (États-Unis, Russie, Chine, France, Grande-Bretagne, Israël...) proposent des systèmes d'armes autonomes, létaux ou non, particulièrement en défensif : suivi de terrain automatique pour avions de combat, systèmes de défense anti-aérienne et anti-missile (missiles sol-air S-400 en Russie), missiles de croisière, torpilles, mines marines. Le système américain d’information Aegis, qui contrôle l’armement des navires de guerre, fonctionne de la même façon.En 2025, l'objectif affiché par l’armée russe est d'employer plus de 30 % de systèmes d'armes autonomes et semi-autonomes.
Les enjeux
Dans ce contexte, les intérêts s’opposent. Le 4 octobre 2018, le directeur du TRADOC de l’US Army (commandement de l’instruction et de la doctrine de l’armée de Terre américaine) Tony Cerri se posait cette question : « Est-il immoral de ne pas compter sur certains robots avec une autonomie de décision… étant donné qu’une arme intelligente peut potentiellement limiter les dommages collatéraux ? ». À l’opposé, le 12 septembre 2018, la résolution P8_TA(2018)034 du Parlement européen appelait à l’interdiction préventive des SALA.
Ces deux approches opposées illustrent parfaitement la nature des enjeux relatifs au développement de ces armes, d’autant plus que l’histoire montre que d’intenses campagnes de lobbying ont déjà permis l’interdiction par l’ONU et par le droit international humanitaire (DIH) des armes chimiques (1993), des armes à laser aveuglantes (1995) et des mines antipersonnel (1997).
Depuis 10 ans, une véritable guerre de l’information oppose pro et anti SALA
Pro SALA : gouvernements et complexe militaro-industriel de certaines nations productrices d'armement
La Chine, les États-Unis, la fédération de Russie, l’Inde ou encore l’Arabie Saoudite développent des SALA et minimisent les risques associés. En Corée du sud, par exemple, des robots armés (Samsung SGR A1) surveillent une partie de la frontière avec la Corée du Nord. De la même manière, des unités de robots armés Platform-M et Uran ont été déployées en Russie en 2016 afin d'assurer une garde périmétrique autonome autour de sites de missiles nucléaires intercontinentaux. En outre, le 10 juillet 2017, l’entreprise russe Kalashnikov a annoncé qu’elle s’engageait dans « la production de drones de combat autonomes dotés de capacités d’apprentissage par réseaux de neurones, capables de reconnaître les cibles et de prendre des décisions autonomes, dont celle de l’engagement ».
Au sein de l’OTAN, les États-Unis développent également ces technologies. Depuis 2012, la Defense Advanced Research Projects Agency (DARPA) organise le DARPA Robotics Challenge dont le grand prix est de 2 millions de dollars et qui permet de soutenir la recherche duale et de sélectionner les meilleures entreprises du secteur. Peu médiatisées, les avancées sont néanmoins très rapides, comme l’atteste, en octobre 2016, le largage par trois chasseurs F18 de 103 mini-drones, qui ont ensuite évolué en essaim, mettant en œuvre un processus de décision collective ayant conduit à des adaptations de la formation en vol.
En Europe, où les gouvernements sont plus rétifs au développement des SALA, on peut identifier des relais d’opinion comme le cabinet d’avocats Alain Bensoussan, fondateur du réseau Lexing, spécialisée dans le droit du numérique et des technologies avancées. Par exemple, le 28 septembre 2018, Didier Gazagne publiait sur le site de ce cabinet un article destiné à présenter les enjeux liés aux SALA, recommandant aux gouvernements européens d’adopter une position plus réaliste pour ne pas être en position de faiblesse vis-à-vis de pays moins contraints. À l’opposé de ces décisions politico-militaires conséquentes, assumées sur le long terme par des puissances mondiales ou régionales, de nombreux opposants s’allient pour obtenir une interdiction de ces armes, en jouant notamment sur les réglementations supranationales.
Anti SALA : institutions supranationales, ONG, influenceurs
Depuis mai 2014, l’ONU a initié un débat international sur le développement des SALA ; les hautes parties contractantes à la convention sur certaines armes classiques (CCAC) ou convention on certain conventional weapons (CCW) ont adopté une motion « pour poursuivre les discussions autour des questions relatives aux nouvelles technologies, dans le domaine des LAWS ». Dans ce cadre, en 2016, un groupe d’experts gouvernementaux (GEG) emmenés par l’ambassadeur indien Armandeep Singh Gil s’est chargé des discussions formelles autour de cette problématique. La responsabilité souveraine de chaque État dans l’utilisation de l’armement létal a été réaffirmée en août 2019, à la dernière réunion du GGE à Genève. Cependant, la France et l’Allemagne, comme l’Europe, n’ont pas les mêmes appréciations que les États-Unis ou la Russie, par exemple, sur le périmètre des SALA.
Le Parlement européen a voté en décembre 2018 la résolution P8_TA(2018)0341 sur les systèmes d’armes autonomes qui demande aux États membres et au Conseil d’œuvrer au lancement de négociations internationales pour un instrument juridiquement contraignant qui interdise les SALA dont les fonctions critiques du choix et de l’attaque des cibles individuelles, échappent à un contrôle humain significatif. Cette résolution s’appuie sur une étude du 3 mai 2013 intitulée « the Human rights implications of the usage of drones and unmanned robots in warfare » et rédigée par Nils Melzer, du Geneva Centre for Security Policy – GCSP, encore très impliqué aujourd’hui dans la campagne « to stop killer robots ». En soutien des institutions publiques précédentes, depuis 2012, l’ONG Human Rights Watch anime la campagne « to stop killer robots ». Coordonnée par Mary Wareham, ce mouvement de lobbying regroupe 114 ONG, dans le but d’interdire a priori l’utilisation de ce type de systèmes d’armes.
Le 21 octobre 2019, à l’occasion de la 74e assemblée générale sur le désarmement et la sécurité internationale, ce mouvement organisait un colloque au siège de l’ONU, introduit par le haut représentant pour les affaires de désarmement de l’ONU, Mme Izumi Nakamitsu, sur le besoin urgent d’un traité destiné à maintenir « l’homme dans la boucle » dans l’usage de la force. Ces opérations de lobbying sont soutenues par les moyens traditionnels comme les pétitions, les articles de blogs, les infographies, etc. Les démarches de ces ONG sont relayées par de nombreuses personnalités.
Ainsi, le 27 juillet 2015, l’entrepreneur américain et fondateur de SpaceX et Tesla Elon Musk, l’astrophysicien britannique Stephen Hawking (1942-2018) et le philosophe américain Noam Chomsky ont signé un appel pour l'interdiction des armes autonomes capables « de sélectionner et de combattre des cibles sans intervention humaine ». Ils écrivent : « L’intelligence artificielle a atteint un point où le déploiement de tels systèmes sera – matériellement, si pas légalement – faisable d’ici quelques années, et non décennies, et les enjeux sont importants : les armes autonomes ont été décrites comme la troisième révolution dans les techniques de guerre, après la poudre à canon et les armes nucléaires. » En août 2018, Elon Musk et une centaine de développeurs de systèmes de robotique et d’IA ont envoyé à l’ONU une pétition demandant l’interdiction totale du développement et des essais des armes offensives autonomes.
Le cas particulier de Boston Dynamics
En 2013, Alphabet, la maison-mère de Google, achète Boston Dynamics, firme américaine spécialisée dans la robotique militaire et créée en 1992 au Massachussets Institute of Technology (MIT). En 2017, malgré la très forte croissance du secteur, Boston Dynamics est revendue au groupe SoftBank du japonais Masayoshi Son. Google n’a jamais réussi à pleinement intégrer Boston Dynamics. La raison principale est simple : si Google cherche à se désengager d’une entreprise qui n’est pas immédiatement rentable, il veut également assainir son image ternie par des prises d’intérêt dans des entreprises d’armement. Boston Dynamics n’a jamais caché ses liens avec le monde de la défense. Depuis 1994, l’entreprise a reçu 150 millions de $ de subventions de la DARPA. Depuis 20 ans, l’entreprise est centrée sur la recherche et développement, sans commercialisation, grâce notamment au financement de la DARPA.
Elle maîtrise par ailleurs une communication rassurante, basée sur la mise en ligne régulière des progrès de ses différents robots :
- robots chiens Spot,
- robots humanoïdes Atlas,
- robots machines Pick et Handle.
Ces robots sont impressionnants (port de charge supérieures à 80 kg, course à 30 km/h, reproduction de gestes humains (parkour, gymnastique) et les vidéos de leurs exploits dans des entrepôts, publiés sur la chaîne Youtube du groupe qui compte 720 000 abonnés, sont devenues virales.
Les premières ventes de robots en forme de chiens (Spot) sont prévues en 2019. Depuis 2017, Boston Dynamics appartient à SoftBank. Le groupe est décrit par la direction générale du Trésor comme le leader mondial de la connectivité ; l’entreprise a acheté, en 2012, l’entreprise française Aldebaran et son robot humanoïde novateur Pepper, utilisé au Japon pour vendre des machines à café Nestlé. En 2016 et 2017, le groupe a créé deux fonds destinés à financer leurs investissements dans le domaine des nouvelles technologies : le Softbank Vision Fund (SVF), basé au Royaume-Uni, et le SB Delta Fund. Ces deux fonds affichent une capacité d’investissement de 98 milliards de $ entre 2018 et 2023. En 2019, un troisième fonds (le SVF 2) est doté d’un budget de 108 milliards de $ abondés par SoftBank à hauteur de 38 milliards. Ce fonds se concentrera sur les « sociétés de croissance leaders sur le marché et à la pointe de la technologie » avec une priorité sur l’IA.
Les enjeux liés aux SALA sont tels qu’une véritable guerre de l’information est à l’œuvre depuis plus de 10 ans, entre les pays qui développent ces systèmes à bas bruit, accompagnés par des complexes militaro-industriels demandeurs et des investisseurs internationaux, tandis que des institutions supranationales et les organisations de lobbying occupent l’espace de communication par divers moyens, sans faire infléchir la politique de ces pays. Par ailleurs, les nations comme la France et l’Allemagne, qui ont pourtant des atouts considérables dans cet affrontement, restent contraints par une culture éthique très forte qui interdit jusqu’au débat sur les SALA.
Enfin, il paraît légitime de s’interroger sur le pouvoir que détient un groupe comme SoftBank, dont la situation de leader de la connectivité, associée au développement de robots humanoïdes, peut présenter de vraies menaces pour la stabilité internationale. En effet, les robots humanoïdes de Boston Dynamics, présentés comme inoffensifs et destinés à une utilisation civile, pourraient facilement être détournés de leur destination officielle initiale.
Jacques Legros