킬러로봇에 대한 윤리적 고찰 = An Ethical Consideration on Killer Robots

국문 초록 (Abstract)

이 연구의 주된 목적은 킬러로봇(Killer Robot)을 윤리적으로 고찰해보는 것이다. 킬러로봇은 ‘치명적인 자율무기(Lethal Autonomous Weapon)’를 가리킨다. 이는 곧 전쟁터에서 사람의 개입 없이 자동으로 공격할 수 있는 인공지능 기반의 군사형 자율 로봇을 의미한다. 킬러로봇은 현재 우리나라를 비롯하여 미국, 중국, 러시아, 영국 등 10여 개 국가에서 개발되고 있는데, 인공지능 기술과 로봇공학의 빠른 발전 속도에 힘입어 앞으로 10년 내지는 20년 안에 인간 병사를 완벽하게 대체할 수 있는 로봇 병사가 등장할 것이라고 전망되기도 한다. 그런데 이 같은 킬러로봇의 개발과 확산을 둘러싸고 현재 산업계 및 학계에서 첨예한 찬반 논쟁이 벌어지고 있다. 킬러로봇이 갖는 사회적 효용성뿐만 아니라 심각한 잠재적 위험성이 동시에 예측되기 때문이다. 그러므로 킬러로봇의 무절제한 개발과 확산에 일정한 제어를 가해줄 수 있으며, 멀지 않은 미래에 전장에 투입된 킬러로봇으로 인하여 발생할 수 있는 사회적 혼란을 줄이는 데 기여할 수 있는 윤리적 고찰이 필요하다. 이런 맥락에서 이 연구는 첫째, 인간 병사를 대체할 수 있는 ‘로봇 병사’를 함축하는 킬러로봇의 의미를 구체화하고, 이것이 향후 우리 사회에 미칠 수 있는 영향력에 대해 먼저 검토하고 있다. 둘째, 킬러로봇의 개발과 확산을 둘러싸고 현재 서로 대립하고 있는 찬반 양측의 주장들과 그 근거들에 대해 살펴보고 있다. 셋째, 기술 부족이나 기술적 결함에 의해 발생하는 기술적 문제들을 차치하고, 현실적인 기술의 수준에서 전장에서 투입될 가능성이 있는 킬러로봇에 대하여 고려할만한 다음의 두 가지 윤리적 쟁점들을 성찰하고 있다: (1)무고한 민간인이 다칠 수 있음에도 불구하고, 킬러로봇에 대해 공격 명령을 내리는 것은 정당화될 수 있는가? (2)킬러로봇의 즉각적인 현장 대처(공격) 능력을 인정해야 하는가?

다국어 초록 (Multilingual Abstract)

This paper aims to ethically consider Killer Robots which are Lethal Autonomous Weapons. Killer Robots mean artificial intelligence-based combat autonomous robots that can automatically attack without human intervention on the battlefield. Killer robots are currently being developed in more than 10 countries. In virtue of the rapid development of AI and robotics, robot soldiers are expected to emerge that can completely replace the work of human soldiers in the next 10 to 20 years. However, there are currently the arguments for and against the development and spread of killer robots in the industry and academia. This is because their serious potential risks, as well as their social effectiveness, are predicted. Therefore, ethical considerations are required to control to the uncontrolled development and spread of killer robots and contribute to reducing the social confusion that may arise from killer robots in the near future. In this context, we first clarify the meaning of the killer robots, and examine their possible impact on our society in the future. Second, we look at arguments for and against the development and spread of killer robots. Thirdly, aside from technical problems caused by lack of technology or technical flaws, we deal with two ethical issues that deserve consideration for killer robots that are likely to be deployed on the battlefield at the level of realistic technology: (1) Is it justified to issue an order of attack on killer robots, even though innocent civilians could be injured? (2) Should we recognize the ability of the killer robot to respond immediately (attack)?

참고문헌 (Reference)

1 SBS, "해외학자 57인, KAIST와 학술협력 보이콧 선언 철회"

2 변순용, "자율주행자동차의 윤리적 가이드라인에 대한 시론" 한국윤리학회 1 (1): 199-216, 2017

3 장길수, "일론 머스크 등 UN에 킬러로봇 금지 요청: UN, 11월에 '특정 재래식 무기' 포함 여부 협의 예정"

4 송선영, "윤리적 AI로봇 프로젝트" 어문학사 395-424, 2019

5 변순용, "로봇 윤리란 무엇인가?" 어문학사 2015

6 유성민, "감정 없는 ‘킬러로봇’ 전장 누빈다"

7 유용원, "美 최신 '킬러 드론' 연내 주한미군 배치"

8 박종익, "‘킬러 로봇’ 현실로…英 첨단 무인 ‘로봇 탱크’ 개발"

9 Kaplan, J., "Robot Weapons: What’s the Harm?"

10 Future of Life Institute, "Autonomous Weapons: an Open Letter from AI & Robotics Researchers"

11 Walsh, T., "(AI의 미래) 생각하는 기계: 인공지능 시대, 축복인가?" 프리뷰 2018

12 천현득, ""킬러 로봇"을 넘어: 자율적 군사로봇의 윤리적 문제들" 이화인문과학원 12 (12): 5-31, 2019