인공지능 로봇의 형사책임 ―논의방향의 설정에 관한 몇 가지 발전적 제언― = Artificial Intelligence and Criminal Liability

다국어 초록 (Multilingual Abstract)

Can thinking machines(Machina Sapiens) be subject to criminal law? If a robot erroneously identifies a man as a threat to its mission, and calculates that the most way to eliminate this threat is pushing him into an adjacent operating machine, who is to be held liable for this harm to a man. On this problem, there have been several conflicting arguments in legal academia. This paper tries to examine the validity of those arguments and show the desirable theoretical orientation for these arguments to follow and choose.








As long as men used computers as mere tools, there was no difference between computers and hammer drill or telephones. When computers became considerably sophisticated, we used to say that computers ‘think’ for itself. The problem began when computers evolved from machines that were programmed to perform defined processes to thinking machines. For this reason, there has been significant controversy about the very essence of an AI entity.








The paper argues that we cannot conclude that AI robot is criminally liable on the same level of criminal liability of humans, because from evolutionary viewpoint, the evolved psychological mechanism of humans is reluctant to impose the kind of criminal liability on AI entity. In addition, anthropocentric tribal prejudices against pseudo-humans such as corporate body or AI entity are also reluctant to regard those pseudo-humans as genuine humans. From this consideration, this paper shows that we can derive many implications for the conflicting arguments about the criminal liability of AI entity.

국문 초록 (Abstract)

본고는 인공지능과 관련된 법적 쟁점 중 형사책임의 문제, 이를테면 인공지능이 탑재된 의료용 로봇이나 산업용 로봇이 인명사고를 냈을 때 이에 대한 책임소재의 문제를 형법적 측면에 국한해 고찰해 보면서 이 경우에 제조업자나 사용자 또는 인공지능 로봇 자신 중 과연 누가 책임을 지는 것이 정당한 것인지 검토해 보았다. 현 수준의 ‘약’인공지능에 대해서는 주로 과실범이나 형법상 제조물 책임 등의 법리에 의해 인공지능의 제조업자, 설계자, 프로그래머, 판매자 및 사용자 등에게 책임을 지우려는 시도가 우세한 반면, 미래에 출현할 것으로 예상되는 ‘강’인공지능에 대해서는 인공지능 자체의 직접적인 형사책임을 인정하려는 견해가 주를 이루고 있는바, 본고에서는 비단 현 수준의 인공지능뿐 아니라 미래의 ‘강’인공지능이라 하더라도 오랜 진화사로부터 형성된 인간-종 중심적 부족주의에 비추어 볼 때 형사책임의 주체로 인정받기는 어려울 것이므로 굳이 인간적인 감정과 의식까지 구비한 인공지능을 상정해 가며 형사책임 논의를 하려는 시도는 특별한 의미를 지니지 못할 것이고 따라서 비의식적 지능인 현 단계의 인공지능에 대한 형사책임 논의가 미래에도 유의미한 함의를 지닐 수 있을 것으로 전망해 보았다. 단, 또 다른 유사인격체인 법인의 형사책임 인정논의가 긍정론과 부정론을 오가는 과정을 거쳐 온 것처럼 인공지능 로봇의 형사책임 논의도 비슷한 전개양상을 보일 것이고, 따라서 미래의 어느 시점에 진화적 동인에서 비롯된 심리적 저항감을 극복하고 인공지능에 대한 형사처벌의 실익이 크다는 광범위한 사회적 합의가 형성된다면 인공지능 로봇이 형사책임의 주체로 받아들여질 수 있을 것이다.

참고문헌 (Reference)

1 바래시, "화풀이 본능―진화론으로 본 복수와 화풀이 본능" 명랑한 지성 2012

2 유발 하라리, "호모 데우스" 김영사 2017

3 조병선, "형법에서의 행위자의 특정: 개인책임과 단체책임*" 법학연구소 50 (50): 591-614, 2009

4 전지연, "형법상 제조물책임에서 주의의무위반에 대한 비교법적 고찰" 법학연구원 18 (18): 69-103, 2008

5 임석순, "형법상 인공지능의 책임귀속" 한국형사정책연구원 27 (27): 1-23, 2016

6 로버트 액설로드, "협력의 진화" 시스테마 2006

7 안성조, "현대 형법학 제2권―형법과 진화이론" 경인문화사 2015

8 안성조, "현대 형법학 제1권―이론과 방법" 경인문화사 2009

9 안성조, "플레처의 집단책임론에 대한 비판적 재론" 법학연구소 51 (51): 289-323, 2010

10 안성조, "팃포탯과 탈리오" 부설법학연구소 43 : 351-381, 2014

11 송승현, "트랜스휴먼 및 포스트휴먼그리고 안드로이드(로봇)에 대한 형법상 범죄주체의 인정여부" 법학연구소 17 (17): 475-527, 2016

12 윤보석, "컴퓨터와 마음―물리 세계에서의 마음의 위상" 아카넷 2009

13 김성천, "책임주의 원칙과 법인의 형사책임" 중앙법학회 18 (18): 73-94, 2016

14 홍태석, "자율주행자동차 사고발생에 따른 형사책임의 귀속여부 - 레벨4단계를 중심으로 -" 한국법학회 17 (17): 167-191, 2017

15 이중기, "인공지능을 가진 로봇의 법적 취급 : 자율주행자동차 사고의 법적 인식과 책임을 중심으로" 법학연구소 17 (17): 1-27, 2016

16 이주희, "인공지능과 법―지능형 로봇 및 운영자의 형사책임에 관한 고찰" 38 (38): 2016

17 마쓰오 유타카, "인공지능과 딥러닝" 동아 엠앤비 2016

18 정정원, "인공지능(AI)의 발달에 따른 형법적 논의" 7 (7): 2016

19 이인영, "인공지능 로봇에 관한 형사책임과 책임주의 -유기천교수의 법인의 행위주체이론과 관련하여-" 법학연구소 18 (18): 31-57, 2017

20 리처드 도킨스, "이기적 유전자" 을유문화사 2010

21 크리스토프 코흐, "의식의 탐구―신경생물학적 접근" 시그마프레스 2006

22 존 브록만, "위험한 생각들" 갤리온 2007

23 허일태, "위험사회에 있어서 형법의 임무" 한국비교형사법학회 5 (5): 1-32, 2003

24 웬델 월러치, "왜 로봇의 도덕인가" 메디치 2014

25 장연화, "왓슨의 진단 조력에 대한 현행법상 형사책임에 관한 소고" 대검찰청 (55) : 316-346, 2017

26 스티븐 베이커, "왓슨" 세종서적 2011

27 조슈아 그린, "옳고 그름" 시공사 2017

28 제럴드 에델만, "신경과학과 마음의 세계" 범양사 2010

29 스튜어트 서덜랜드, "비합리성의 심리학" 교양인 2008

30 류전철, "법인의 형사책임에 대한 새로운 해석론의 시도" 법학연구소 34 (34): 65-86, 2014

31 안성조, "법인의 범죄능력에 관한 연구" 한양법학회 (29) : 69-94, 2010

32 손동권, "법인의 범죄능력과 양벌규정" 3 : 1995

33 김혜경, "법과 진화론" 법문사 2016

34 한스 모라벡, "마음의 아이들―로봇과 인공지능의 미래" 김영사 2011

35 미치오 가쿠, "마음의 미래" 김영사 2014

36 스티븐 핑거, "마음의 과학" 와이즈베리 2012

37 스티븐 핑커, "마음은 어떻게 작동하는가?" 동녘 사이언스 2007

38 리처드 도킨스, "리처드 도킨스 자서전 2" 김영사 2016

39 김영환, "로봇 형법(Strafrecht für Roboter)?" 한국법철학회 19 (19): 143-168, 2016

40 폴 새가드, "뇌와 삶의 의미" 필로소픽 2011

41 박광민, "기업에 대한 형사책임귀속의 바람직한 방안" 법학연구원 27 (27): 69-96, 2015

42 김성룡, "기업 ･법인의 형사책임법제 도입가능성과 필요성" 대검찰청 (46) : 113-181, 2015

43 안성조, "고대사회 사적 보복관습에 대한 진화론적 조명" 한국법철학회 17 (17): 159-200, 2014

44 안성조, "‘법문의 가능한 의미’의 실재론적 의의 ―The elimination of the normative is attempted mental suicide―" 한국법철학회 12 (12): 73-124, 2009

45 이상천, "‘組織故意論’의 범죄체계론적 전개" 법학연구소 52 (52): 285-328, 2017

46 Robert D. Hare, "Without Conscience" Pocket Books 1995

47 Bendor, Jonathan, "The evolutionary stability of cooperation" 91 : 290-, 1997

48 Smith, J. Maynard, "The Logic of Animal Conflict" 246 : 15-, 1973

49 Hallevy, Gabriel, "The Criminal Liability of Artificial Intelligence Entities" 4 : 171-, 2010

50 Martin A. Nowak, "SuperCooperators" Free Press 2011

51 Hilary Putnam, "Reason, Truth and History" Cambridge University Press 1981

52 Gless, Sabine, "If Robots Cause Harm, Who Is To Blame? Self-Driving Cars and Criminal Liability" 19 : 412-, 2016

53 Herbert Gintis, "Game Theory Evolving" Princeton University Press 2009

54 Liddle, James R., "An Introduction to Evolutionary Psychology and its Application to Suicide Terrorism" 3 : 2010

55 이원상, "4차 산업혁명에 있어 형법의 도전과제" 법학연구원 24 (24): 245-269, 2017