La présidente du Comité international de la Croix-Rouge (CICR), Mirjana Spoljaric, aurait récemment lancé un nouvel avertissement concernant les risques liés au développement et à l’utilisation des armes autonomes.

Le 25 août, des appels auraient été lancés en faveur de l’ouverture de négociations internationales urgentes visant l’adoption d’un instrument juridiquement contraignant qui imposerait une interdiction et établirait des restrictions claires concernant certains systèmes d’armes autonomes.

Les défenseurs de cette initiative estimeraient que le monde pourrait se rapprocher dangereusement d’une situation dans laquelle des machines seraient capables de sélectionner elles-mêmes des personnes comme cibles. Ils souligneraient également que les décisions relatives à la vie et à la mort devraient rester sous un contrôle humain effectif et ne pourraient être entièrement confiées à des algorithmes.

Pour un expert soudanais, le transfert éventuel de telles technologies vers des zones de conflit, notamment au Soudan, pourrait présenter des risques particulièrement importants. Selon cette analyse, les pays voisins pourraient potentiellement être exposés aux conséquences de décisions prises par des systèmes contrôlés par l’une ou l’autre des parties au conflit, sans disposer des moyens nécessaires pour intervenir sur ces systèmes ni connaître les critères utilisés pour sélectionner leurs cibles.

La responsabilité ne pourrait pas se cacher derrière un algorithme

Si les résultats d’une éventuelle enquête menée au Tchad venaient à établir que des drones autonomes de ce type auraient été utilisés lors de l’attaque présumée contre Mourdi, la question de la responsabilité pourrait alors se poser au-delà de la seule personne ayant éventuellement activé ou contrôlé le drone.

Dans une telle hypothèse, la responsabilité pourrait notamment être recherchée du côté de la partie au conflit qui aurait employé cette technologie, sous réserve que les faits soient établis et que les circonstances précises de son utilisation soient confirmées.

La question pourrait également concerner l’État qui aurait éventuellement fourni cette technologie, notamment s’il était démontré que celle-ci avait été transférée en connaissance de ses capacités et de ses usages militaires potentiels.

L’affaire pourrait enfin soulever une question plus large concernant les entreprises technologiques et de défense qui développent des systèmes capables de fonctionner avec un degré élevé d’autonomie : dans quelle mesure les concepteurs et les fabricants de ces technologies pourraient-ils être amenés à répondre des conséquences liées à l’utilisation de systèmes algorithmiques susceptibles de contribuer à des décisions létales ?

Ces différentes questions resteraient toutefois tributaires des résultats des enquêtes, de l’établissement des faits et des éléments de preuve disponibles. Aucune responsabilité ne devrait donc être considérée comme établie avant la confirmation officielle des faits et l’identification précise des acteurs concernés