책임주체로서 지능형 인공지능 로봇에 대한 고찰 = A Study of Artificial Intelligence Robots as Legal Subjects

다국어 초록 (Multilingual Abstract)

As the word of 4th Industrial Revolution has been widely used to indicate the newest revolution all over the world, it has given the impression that artificial intelligence and robots based on artificial intelligence have been involved in every aspect of all human life. In March 2016, Alphago won all but the fourth Go game over Lee Sedol, professional Go player. The stunning event has put many people’s minds that artificial intelligence has proclaimed that the Google’s Deep Mind had developed intelligent machine’s victory over all humanity. While Artificial intelligence may give us rosy outlook for our future lives, and we also talk a lot about the difficult reality in which the A.I. and A.I. robots would taking people’s jobs sooner or later.
At this point, not only the general public, but also lawyers have looked at the areas where the Artificial Intelligence and its A.I. robots may be working with longing and fear at the same time. What would be Artificial Intelligence to us? How should we accept these A.I. and A.I. robots? However, the starting point for these questions may depend on how we view artificial intelligence, and the answer to what social, economic, and legal status could be given to artificial intelligence and artificial intelligence robots.
This article consists of five parts. In II., this author has looked at the concepts and status of AI robots. In III., this author has examined the positive and negative legal status discussions of artificial intelligence robots. However, these discussions may vary relying on the levels of technology of artificial intelligence, and its robots. While considering the current technology level, only abstraction discussion may be possible. In this regard, this author has looked at (1) algorithms, (2) autonomous cars, and (3) killer robots as more realistic subjects in IV. And, if there may be a difference between a person and an artificial intelligence robot, the issue that could be considered is (4) different decisions between a person and a A.I. robot with conflict of interests. In V., this author has summarized the discussions so far, and attempted to present a direction on how to consider artificial intelligence robots from today’s point of view.

국문 초록 (Abstract)

전 세계에서 4차 산업혁명이라는 단어를 폭발적으로 쓰기 시작하면서, 그 중심에는 인공지능로봇이 인간의 모든 삶에 관여하는 것 같은 인상이 있다. 2016년 3월 이세돌 9단에 대한 알파고의 승리는 많은 사람의 마음속에 인공지능이 모든 인류에 대한 승리를 선포한 인상을 심었다. 인공지능이 앞으로 우리의 미래 삶에 대한 장밋빛 전망을 내놓기도 하고, 인공지능이 많은 사람의 일자리를 빼앗는 현실의 어려움에 대한 이야기를 많이 한다.
어느 순간 일반인뿐만 아니라 법조인들도 인공지능이 자신이 일하는 영역에 대해서 동경과 두려움을 동시에 갖고 바라본다. ‘인공지능’(Artificial Intelligence)은 우리에게 무엇일까? 우리는 이러한 인공지능과 인공지능에 바탕을 둔 로봇을 어떻게 받아들여야 할까? 그런데 이에 대한 출발점은 우리가 인공지능을 어떻게 바라보는지에 따라서, 인공지능과 인공지능 로봇에게 어떤 사회·경제·법의 지위를 줄 수 있는지에 대한 답이 달라진다.
이 글은 모두 다섯 개의 부분으로 이루어진다. II.에서 먼저 인공지능에 바탕을 둔 ‘지능형 인공지능 로봇’의 개념과 현황을 살핀다. III.에서 지능형 인공지능 로봇에 대한 법적 지위를 논하여, 긍정하는 입장과 부정하는 입장을 살펴본다. 그런데 이러한 논의가 지능형 인공지능의 기술 수준에 따라서 달라지는데, 현재의 기술 수준을 고려할 때 추상적인 담론으로 머물 가능성이 있다. 그런 측면에서 IV.에서 좀 더 현실적인 주제로, (1) 알고리즘, (2) 자율주행 자동차, (3) 킬러로봇을 살핀다. 그리고 사람과 지능형 인공지능 로봇 사이의 의사가 다른 경우에, 고려할 수 있는 문제로 (4) ‘의사의 불일치와 이해상반 문제’를 다룬다. V.에서는 지금까지 논의한 내용을 정리하고, 오늘의 시점에서 지능형 인공지능을 어떻게 바라보아야 하는지에 대한 방향성을 제시하고자 한다.

참고문헌 (Reference)

1 양천수, "현대 지능정보사회와 인격성의 확장" 동북아법연구소 12 (12): 1-26, 2018

2 고세일, "하경효 교수 정년기념논문집 - 계약과 책임" 박영사 2017

3 레이 커즈와일, "특이점이 온다" 김영사 2018

4 윤진수, "친족상속법 강의" 박영사 2020

5 김보경, "직관적 사고의 교육적 의의와 교수설계에의 시사점" 한국교육공학회 34 (34): 617-648, 2018

6 주현경, "지능형 로봇으로서의 교정로봇과 법적 쟁점" 법학연구소 29 (29): 51-84, 2018

7 박수곤, "증강현실과 제조물책임" 한국재산법학회 36 (36): 263-292, 2019

8 오병철, "전자인격 도입을 전제로 한 인공지능 로봇의 권리능력의 세부적 제안" 법조협회 69 (69): 51-82, 2020

9 맹준영, "자율주행자동차와 민사책임" 서울대학교 2019

10 이중기, "자율주행자동차와 로봇윤리: 그 법적 시사점" 법학연구소 17 (17): 1-25, 2016

11 권영준, "자율주행자동차 사고와 민사책임" 한국민사법학회 75 : 449-496, 2016

12 박수곤, "자율적 지능 로봇의 법적 지위에 대한 소고" 법학연구소 31 (31): 46-86, 2018

13 김광우, "자율살상무기(일명 킬러로봇)에 대한 국제법적 문제와 우리나라에 대한 정책적 시사점" (473) : 2018

14 James Gleick, "인포메이션 - 인간과 우주에 담긴 정보의 빅히스토리" 동아시아 2017

15 정찬모, "인터넷 플랫폼 중립성 규제론" 박영사 2019

16 김재인, "인공지능의 시대, 인간을 다시 묻다 : 철학과 과학을 넘나드는 사고력 강의" 동아시아 2017

17 허유선, "인공지능에 의한 차별과 그 책임 논의를 위한 예비적 고찰 -알고리즘의 편향성 학습과 인간 행위자를 중심으로-" 한국여성철학회 29 : 165-210, 2018

18 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰" 한국법학원 171 : 5-48, 2019

19 정진명, "인공지능에 대한 민사책임 법리" 한국재산법학회 34 (34): 137-168, 2018

20 주현경, "인공지능과 형사법의 쟁점 - 책임귀속을 중심으로 -" 한국형사정책학회 29 (29): 7-31, 2017

21 고학수, "인공지능과 차별" 한국법학원 171 : 199-277, 2019

22 김영두, "인공지능과 자유의지" 법학연구원 30 (30): 319-354, 2020

23 고세일, "인공지능과 불법행위책임 법리" 법학연구소 29 (29): 85-117, 2018

24 이상용, "인공지능과 법인격" 한국민사법학회 89 : 3-49, 2019

25 이원태, "인공지능과 법" 박영사 2020

26 한희원, "인공지능(AI) 치명적자율무기(LAWs)의 법적ㆍ윤리적 쟁점에 대한 기초연구" 중앙법학회 20 (20): 325-365, 2018

27 한희원, "인공지능(AI) 법과 공존윤리" 박영사 2018

28 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안" 법조협회 66 (66): 60-105, 2017

29 오병철, "인공지능 로봇에 의한 손해의 불법행위책임" 법학연구원 27 (27): 157-231, 2017

30 이경규, "인(人) 이외의 존재에 대한 법인격 인정과 인공지능의 법적 지위에 관한 소고" 법학연구소 21 (21): 323-356, 2018

31 구길모, "위험사회에서 자율주행자동차에 대한 형사법적 규율" 법학연구원 27 (27): 3-32, 2020

32 김보경, "영성교육 도입 통로로서 직관의 이해" 기독교학문연구회 23 (23): 29-64, 2018

33 이제희, "알고리즘의 취급에 대한 법적 논의" 한국비교공법학회 19 (19): 307-331, 2018

34 "아실로마 원칙"

35 데이비드 색스, "아날로그의 반격 - 디지털, 그 바깥의 세계를 발견하다" 어크로스 2017

36 닉 보스트롬, "슈퍼인텔리전스 - 경로, 위험, 전략" 까치 2017

37 안네 스베르드루프-튀게손, "세상에 나쁜 곤충은 없다 - 플라스틱 먹는 애벌레부터 별을 사랑한 쇠똥구리까지 우리가 몰랐던 곤충의 모든 것" 웅진지식하우스 2019

38 최재식, "설명가능한 인공지능 연구동향" 37 (37): 2019

39 Daniel Kahneman, "생각의 해부" 와이즈베리 2015

40 신유철, "사회변화와 민법학" 한국민사법학회 80 : 3-23, 2017

41 김건우, "법적 주체로서 자율적 인공지능 로봇 I: 의의와 관점" 법학연구원 30 (30): 215-238, 2018

42 이홍민, "법인의 본질" 법과정책연구원 22 (22): 263-297, 2016

43 정영수, "법을 분석하는 인공지능" 박영사 2020

44 주현경, "범죄예측 및 형사사법절차에서 알고리즘 편향성 문제와 인공지능의 활용을 위한 규범 설계" 법학연구원 27 (27): 115-162, 2020

45 남중권, "머신러닝 알고리즘과 차별" 고려대학교 2019

46 현승종, "로마법" 법문사 1996

47 윤철홍, "동물의 법적 지위에 관한 입법론적 고찰" 한국민사법학회 56 : 399-435, 2011

48 윤철홍, "동물의 법적 지위에 관한 개정시안" 한국재산법학회 29 (29): 259-282, 2012

49 고학수, "데이터 이코노미 : 서울대 법과경제연구센터가 제시하는 인공지능과 4차 산업혁명 시대의 상생과 공존의 전략" 한스미디어 : 한즈미디어 2017

50 KAIST 문술미래전략대학원, "대한민국의 4차 산업혁명" 창조경제연구회 2017

51 캐시 오닐, "대량살상 수학무기" 흐름출판 2017

52 Markus Gabriel, "나는 뇌가 아니다" 열린책들 2018

53 신동환, "人工知能로봇과 賠償責任에 관한 小考" 안암법학회 (55) : 35-68, 2018

54 장기영, "‘킬러로봇’ 규범을 둘러싼 국제적 갈등: ‘국제규범 창설자’와 ‘국제규범 반대자’ 사이의 정치적 대립을 중심으로" 국제학연구소 29 (29): 201-226, 2020

55 Benjamin Haas, "‘Killer robots’: AI experts call for boycott over lab at South Korea university - Academics around the world voice ‘huge concern’ over KAIST’s collaboration with defence company on autonomous weapons" The Guardian

56 Neil Sahota, "Will A.I. Put Lawyers Out Of Business?"

57 Christian Smith, "What is a Person? - Rethinking Humanity, Social Life, and the Moral Good from the Person Up" The University of Chicago Press 2010

58 Kirsten Korosec, "Volvo CEO: We will accept all liability when our cars are in autonomous mode" Fortunes

59 Andreea Boboc, "Theorizing Legal Personhood in Late Medieval England" Brill 2015

60 "Spot"

61 "Sophia"

62 "Sony AIBO"

63 Reuters, "Self-Driving Sector Contends Its Cars Can Prevent Many More Crashes Than Insurance Study Says" The New York Times

64 Angela Naimou, "Salvage Work - U.S. and Caribbean Literatures amid the Debris of Legal Personhood" Fordham University Press 2015

65 "Ross"

66 Jacob Turner, "Robot Rules Robot Rules" Palgrave Macmillan 2019

67 Neil M. Richards, "Robot Law" Edward Elgar Publishing 2016

68 Meir Dan-Cohen, "Rights, Persons, And Organizations - A Legal Theory for Bureaucratic Society" Quid Pro Books 2016

69 Robert van den Hoven van Genderen, "Research Handbook of the Law of Artificial Intelligence" Edward Elgar Publishing 2018

70 "Qbo"

71 Stuart A. Thompson, "Opinion / THE PRIVACY PROJECT: Twelve Million Phones, One Dataset, Zero Privacy" The New York Times

72 Lawrence B. Solum, "Legal Personhood for Artificial Intelligence" 70 : 1992

73 "IBM Watson"

74 "Hugo"

75 AphaGo, "DeepMind>Research>AlpahGo"

76 김근태, "Brain-Inspired 인공지능과 뇌공학" 36 (36): 2018

77 Cass R. Sunstein, "Behavioral Law & Economics" Cambridge University Press 2003

78 "Asimo"

79 Mreredith Broussard, "Artificial Unintelligence - How Computers Misunderstand the World" The MIT Press 2019

80 Samir Chopra, "Artificial Agents - Personhood in Law and Philosophy" 2004

81 김한균, "4차산업혁명의 이해" 박영사 2020

82 김현철, "4차산업혁명의 이해" 박영사 2020

83 서종희, "4차 산업혁명 시대 위험책임의 역할과 한계 -인공지능 로봇에 의해 발생한 손해의 책임귀속을 고려하여" 사법발전재단 1 (1): 69-107, 2018

84 리처드 서스킨드, "4차 산업혁명 시대 - 전문직의 미래" 2016

85 LUCA Robotics, "20 Best Robot Kits 2019: from LEGO to Arduino"