"킬러 로봇"을 넘어: 자율적 군사로봇의 윤리적 문제들 = Beyond "Stop Killer Robots": The Ethical Issue of Autonomous Weapon System

다국어 초록 (Multilingual Abstract)

KAIST Boycott Affair has made us take the ethics related to military robots seriously. No one would deny that ‘killer robots’ should be banned. However, it is not crystal clear what the slogan “stop killer robots” implies for the development of autonomous weapon systems and their uses in warfare. Just as all soldiers are not merely killers, so are robots on the battlefield. Many ethical discussion on ‘killer robots’ hangs on the definition of wrongful killings in warfare since there might be ethically permissible acts of killing. In this article, I begin with an attempt to classify various kinds of military robots. Then, I diagnose the core ethical problems of using military robots by adopting just war theory. It is claimed that the operation of military robots can be justified only when it meets the principle of discrimination and the principle of proportionality. Finally, I argue that a new negotiation is needed on how to distribute the responsibilities to relevant groups before the uses of autonomous weapons.

국문 초록 (Abstract)

카이스트 보이콧 사태는 군사 로봇의 윤리적 문제가 인문학이 다루어야할 매우 긴급한 문제임을 보여주었다. “킬러 로봇”을 금지해야한다는 주장에반대하는 사람은 없겠지만, 그러한 금지 주장이 자율적 무기체계의 개발과사용에 대해 구체적으로 어떤 제약을 가하는지는 분명치 않다. 전쟁터의모든 군인이 살인자가 아니듯, 모든 군사 로봇을 살인자 로봇으로 규정하기는 어렵다. 이 논문은 먼저 카이스트 보이콧 사태를 소개한다. 모든 군사로봇이 똑같은 의미의 킬러가 아님을 보이기 위해 다양한 종류의 군사로봇들을 분류한 후, 정당한 전쟁 이론을 통해 군사 로봇의 사용이 가질수 있는 잠재적인 윤리적 문제들이 무엇인지 해명한다. 특히, 군사 로봇이전쟁에서 사용하기 위해서는 식별의 원리와 비례성의 원리를 따르는 것이중요하며, 현 단계에서 그러한 원리들을 충실히 만족하도록 로봇을 제작하기는 쉽지 않음을 밝힌다. 끝으로, 군사 로봇의 잘못된 수행에 관한 책임문제를 다루면서, 관련된 집단들이 자율적 무기체계의 사용과 관련하여책임을 어떻게 분배할 것인가를 놓고 새로운 협상이 필요함을 주장한다.

참고문헌 (Reference)

1 Orend, Brian, "“War.” Stanford Encyclopedia of Philosophy"

2 Haas, Benhamin, "‘Killer robots’: AI experts call for boycott over lab at South Korea university"

3 Sparrow, Robert, "The march of the robot dogs" 4 : 305-318, 2002

4 Bijker, Wiebe E., "The Social Construction of Technological Systems: New Directions in the Sociology and History of Technology" MIT Press 1987

5 Lin, Patrick, "Robots in War: Issues of Risk and Ethics" AKA Verlag Heidelberg 2009

6 Schulzke, Marcus, "Robots as weapons in just wars" 24 (24): 293-306, 2011

7 Sharkey, Noel, "Robot Ethics: The Ethical and Social Implication of Robotics" The MIT Press 2012

8 Sullins, John, "RoboWarfare: Can Robots be More Ethical than Humans on the Battlefield?" 12 (12): 263-75, 2010

9 Powers, T., "Prospects for a Kantian machine" 4 (4): 46-51, 2006

10 Sparrow, Robert, "Killer robots" 24 (24): 62-77, 2007

11 Simpson, Thomas W., "Just War and Robot’s Killings" 66 (66): 302-322, 2016

12 Jun, Ji-hye, "Hanwha, KAIST to develop AI weapons"

13 Arkin, Ronald, "Governing Lethal Behaviour in Autonomous Robots" CRC Press 2009