Contenu du sommaire : Autonomie et létalité en robotique militaire

La prochaine génération de systèmes d'armes disposera d'un niveau d'automatisation beaucoup plus performant que celui que nous connaissons à ce jour. Les armées doivent clarifier les concepts d'emploi juridique, éthique et opérationnel associés.

En précisant que le terme d'autonomie s'entend à la fois en un sens philosophique et en un sens technologique, on conclut que les Systèmes d'armes létaux autonomes (Sala) ne correspondent pas à une véritable révolution technologique, mais que l'intelligence artificielle renforce l'autonomie des opérateurs.

Nouveaux outils et nouveaux pions tactiques pour le combattant, les systèmes robotiques vont progressivement révolutionner les usages militaires de demain.

Le développement rapide des robots militaires pose la question de leur autonomie, en distinguant les niveaux techniquement accessibles et opérationnellement souhaitables. Une répartition pertinente des rôles de l'Homme et du Robot apparaît comme la voie à privilégier.

S'agissant de robotique, l'autonomie est le facteur qui va permettre d'étendre les usages opérationnels des robots, aujourd'hui limités. Pour autant, elle devra être cadrée afin de maintenir les prérogatives de décision et de responsabilité des chefs.

La bataille se déplace de nos jours vers des milieux qui restent encore difficiles d'approche : les milieux périurbains, urbains et suburbains. Dans ces univers à l'extrême limite des capacités humaines, que peuvent apporter les robots militaires et en quoi leur autonomie pourrait permettre de faciliter la progression et de réduire les risques ?

Les engagements de demain verront l'apparition de systèmes d'armes terrestres « de rupture » sur les théâtres d'opérations extérieures comme intérieures. La fulgurance des innovations technologiques doit pourtant s'inscrire dans une logique d'« ethic by design ». Pour remplacer ou appuyer le fantassin du futur, les drones terrestres armés devront alors compter sur leur capacité de précision et de maîtrise par l'humain, à distance.

La miniaturisation croissante des systèmes laisse présager que les futurs systèmes de drones seront à la fois plus compacts, plus intelligents et plus envahissants. Ils pourront ainsi être opérés non individuellement mais par vagues ou par essaims.

Les technologies nécessaires à l'autonomie pour des systèmes robotiques sont maintenant disponibles et accessibles aisément. La dissémination de ces techniques pose de façon cruciale la question du maintien de l'homme dans la boucle pour tout usage létal.

Le déploiement de systèmes robotisés semi-autonomes semble inéluctable de par les avantages qu'ils offriront sur le champ de bataille. Pour accompagner cette évolution, il impose en revanche une formation poussée et anthropocentrée du chef militaire à une nouvelle éthique de responsabilité.

L'article examine la nécessité de contrôler la licéité d'une nouvelle arme en vertu du droit international humanitaire. Pour faire respecter ce cadre juridique, l'auteure analyse les discussions actuelles sur les nouveaux systèmes d'armes robotisés.

Cet article soutient que si les systèmes d'armes robotisés obligent à réfléchir au champ de bataille, le droit international humanitaire ne les prohibe pas contrairement à ce que suggèrent les débats actuels fondés sur une exploitation politique du droit.

Malgré sa spécificité : l'autonomie, l'arme robotique est soumise au droit des conflits armés dont les principes qualifiables d'« ethical by humanity » invitent à une subsidiarité des compétences entre le militaire responsable et la machine.

Le débat actuel sur l'interdiction préventive des Systèmes d'armes létaux autonome (Sala), qui semble se dérouler sur le terrain juridique, est biaisé par l'utilisation d'arguments de nature éthique. Cependant, si les contraintes juridiques pesant sur le développement de ces systèmes d'armes doivent être objectivées voire relativisées, il est aussi indispensable qu'une véritable réflexion éthique se structure en parallèle.

L'autonomisation croissante des robots militaires questionne la capacité d'un algorithme à appréhender et respecter les règles de droit applicables aux conflits tout en contenant des garde-fous éthiques militaires.

L'introduction dans la vie courante de robots et de systèmes autonomes dotés d'intelligence artificielle fait l'objet d'une médiatisation accélérée et de débats sur les dilemmes éthiques. Cet article analyse différents aspects contextuels et dynamiques de l'usage de véhicules autonomes, et propose des pistes de travail spécifiques et des recommandations en vue de l'élaboration d'une « politique éthique du véhicule autonome » à l'ensemble des acteurs concernés de la filière automobile.

Les fonctions de calcul de décision des systèmes robotisés peuvent nécessiter l'intégration de connaissances relevant de considérations éthiques. Cet article propose de formaliser le calcul de jugements de décisions selon des cadres éthiques et soulève des questions générales sur la conception d'algorithmes dits « éthiques ».

L'éthique de l'intelligence artificielle vise à protéger l'utilisateur et la société. Dans quelle mesure est-il possible de valider que les comportements d'un robot sont éthiques ? Tour d'horizon des principes de la certification et de l'évaluation des systèmes autonomes.

La constitution d'un algorithme est une activité porteuse d'une charge éthique. Or, les limites d'une éthique algorithmique montrent la place irréductible de l'acteur humain responsable. Il faut donc proposer, en matière de régulation éthique des systèmes autonomes, des critères de discernement basés sur un concept d'autonomie finalisée et responsable.

La France a pris l'initiative de lancer en 2013 une réflexion multilatérale sur les enjeux éthiques et sociétaux de futurs Systèmes d'armes létaux autonomes. Ces Sala ont suscité, depuis 2009, une mobilisation internationale qui a déjà connu trois âges, chacun marqué par un acteur de la société civile : les universitaires, les ONG et les industriels « philanthropes ».