Que faire des « robots tueurs » ?

 » Nous faisons face depuis plusieurs années à l’émergence de nouvelles technologies, dont l’intelligence artificielle. Ce progrès, d’abord voué à un usage civil, n’a pas échappé à l’intérêt du monde militaire, et permet aujourd’hui de fabriquer des armes plus ou moins autonomes.

Tout est alors une question de réglementation, il ne s’agit pas d’interdire ou d’autoriser la fabrication et l’usage de ces armes, si tant est d’ailleurs qu’il soit possible de les interdire. Mieux vaut être lucide et chercher à contrôler la façon dont ces armes sont employées.

Viser principalement les armes « offensives »
C’est d’abord autour de ce degré d’autonomie que doit s’articuler le débat. Il faut trouver un équilibre entre les risques et les avantages liés à la diminution – voire l’absence – de contrôle humain sur ces armes, comme on cherche à le faire pour les voitures sans conducteur par exemple. Dans le cas d’outils de guerre, il est inenvisageable d’accepter une autonomie totale, même en prétendant avoir confiance dans « nos » machines parce que nous les avons programmées.

Il existe des armes autonomes « de défense », comme les boucliers anti-missiles, ou des systèmes de déminage, donc cette réglementation doit principalement porter sur les armes « offensives » comme celles dénoncées dans la lettre à l’ONU.

Cette réglementation sera sûrement axée sur des règles générales dans un premier temps, mais il faudra nécessairement faire du cas par cas par la suite, afin de répondre efficacement à cette problématique. Dans quel cadre ce robot terrestre doit-il être utilisé ? Peut-on autoriser les drones autonomes ? Un missile qui choisit ses cibles est-il trop dangereux ?

« Il faut réglementer »

Cela soulève donc inévitablement la question du droit international et du droit humanitaire. Ce qui pose problème aujourd’hui, ce n’est pas l’arme dans la main d’un être humain mais l’utilisation qu’il en fait et le (non-)respect des lois internationales. Il doit en aller de même pour ces armes autonomes, qui doivent servir contre des combattants et non des civils, doivent limiter le plus possible les destructions, etc.

On peut par exemple imaginer modifier le fonctionnement des programmes d’armement. En plus de l’industriel, du militaire et de l’État, on pourrait et devrait sûrement ajouter un juriste qui s’assurerait du respect de la réglementation. L’intérêt est en tout cas à celle-ci, tant en termes de sécurité qu’en termes économiques.

Néanmoins, on peut s’inquiéter ou au moins s’interroger sur l’usage à venir de cette autonomie meurtrière par les démocraties occidentales. Ce sont elles, États-Unis en tête, qui sont les premières concernées dans leurs politiques extérieures. En France, la prudence prévaut après la polémique américaine sur les drones, mais les États-Unis donneront le la.

C’est pourquoi il faut réglementer. Et il faut le faire vite, car c’est aujourd’hui que ça se passe. »

Propos recueillis par Karim Lemond