Meaningful Human Control in Autonomous Weapons

Abstract

Smysluplná lidská kontrola v kontextu autonomních zbraní ABSTRAKT Výzkum autonomie v robotických systémech vzkvétá v mnoha oblastech, ale žádná z nich není považována za tak znepokojující jako vývoj smrtících autonomních zbraňových systémů, který vyvolává naléhavé otázky, jak právní, tak i etické. Diskuse zdůrazňují nezbytnost určité úrovně lidské kontroly. Pojem smysluplné lidské kontroly nad autonomními zbraněmi získal na popularitě, avšak samotný princip a jeho požadavky doposud nebyly definovány. Za tímto účelem tato práce analyzuje pojem smysluplné lidské kontroly a zkoumá jeho prvky. Cílem je objasnit určité otázky, jako například z jakých pramenů tato zásada vyvěrá a jak by měla být vnímána a začleněna do praxe Států. Práce se nejprve stručně věnuje definici a kategorizaci autonomních zbraní, a to za účelem poskytnutí úvodu do tématu. Zadruhé práce předkládá důvody, proč je nutné trvat na požadavku smysluplné lidské kontroly, a to zejména kvůli omezením současných a budoucích technologií, jako je rozpoznávání a klasifikace objektů, zkreslení nebo nepředvídatelnost. Následně se analýza zaměřuje na argumenty vyplývající z pravidel mezinárodního humanitárního práva, především co se týče principů rozlišování, proporcionality a preventivních opatření. Stručně je diskutována možnost přičítání individuální...

Meaningful Human Control in Autonomous Weapons ABSTRACT The research on autonomy in robotic systems is flourishing in many areas, but none is deemed as troubling as the development of lethal autonomous weapon systems (LAWS). It raises various compelling questions, legal and ethical ones. Discussions on the potential challenges posed by these emerging technologies highlighted the desirability of a certain level of human control. The notion of meaningful human control (MHC) over LAWS has gained widespread support. However, the principle itself and its requirements are yet to be defined. To this end, this paper analyses the emerging principle of MHC and explores its elements. It aims to clarify questions such as where the principle stems from and how it should be perceived and integrated into State practice. First, the definition and categorisation of LAWS are shortly addressed to provide an introduction to the topic. Second, it is argued that it is necessary to insist on the requirement of MHC, particularly because of technological limitations of current and future technology, such as object recognition and classification, bias, or unpredictability. The arguments stemming from the rules of international humanitarian law (IHL) on the conduct of hostilities are explored, mainly the rules of distinction,...