AI의 책임능력

국문 초록 (Abstract)

인공지능이란 ‘인지기능, 판단기능, 행동기능 및 학습기능을 갖춘 기계’를 말한다. AI가 프로그램이 되어 있는 그대로 일을 하는 단계는 아무리 복잡한 임무를 수행한다고 하더라도 약한 인공지능이라고 할 수 있다. 강한 인공지능은 여기에서 더 나아가 프로그래머가 코딩을 해주는 대로 그에 따라 일을 하는 수준을 넘어, 스스로 학습을 통해서 행위지침을 찾아내고 이에 따라 자신의 코딩을 변경할 수 있는 단계에 도달한 기계를 말한다.
강한 인공지능 단계에 돌입하게 되면 AI가 제작자의 프로그래밍 내용에 따라 움직이는 것이 아니기 때문에 제작자에게 더 이상 인공지능의 행위에 대하여 책임을 물을 수 없는 상황이 된다. AI가 일종의 자유의지를 가지게 되는 것이라고 할 수 있다.
형사책임의 근거는 ‘자기의 행위가 불법이라는 것을 알거나 알 수 있었고, 그 인식에 따라 행동을 조정할 수 있었음에도 불구하고 적법한 행위를 하지 않고 불법한 행위를 하였다’는 점이다. 따라서 형사책임의 주체가 되기 위해서는 의사를 형성할 수 있어야 한다.
의식이란 ‘외부 자극에 대한 반응 능력’을 말한다. AI는 인지기능, 판단기능, 행동기능, 학습기능 등을 갖추고 있기 때문에 의식을 가지고 있다고 할 수 있다. AI가 아직 강한 인공지능의 단계에 본격적으로 돌입하지는 않았지만 인공지능의 오작동으로 인해서 사람이 사망하게 되는 일이 이미 벌어지고 있다. 이처럼 사람에게 위해를 가하는 일이 벌어졌을 때 AI를 제작한 프로그래머의 책임을 물을 수 없다면, 인공지능이 이에 대한 책임을 부담하도록 하는 수밖에 없다.
인공지능이 규범체계에 순응하도록 만들기 위해서는 자연인의 경우와 마찬가지로 사회화 과정을 거치게 하여야 한다. 인공지능이 인간의 뇌기능을 모방하여 뉴럴 네트워크를 기반으로 지성을 가지게 될 것이기 때문에 규범체계와 관련해서 사회화 과정을 거치는 것이 적절한 해법이라고 생각한다.
사회화 과정은 규범을 위반할 때 불이익을 가하고 규범을 준수할 때 칭찬을 하는 작업이 수없이 반복되면서 이루어진다. 인공지능이 사회화 과정을 거치도록 하기 위해서는 AI가 두려움을 느끼는 존재가 되어야 한다. AI가 두려움과 같은 감정을 느끼는 존재가 되어야만 인공지능이 규범체계 안으로 들어올 수 있게 된다.

다국어 초록 (Multilingual Abstract)

Artificial intelligence refers to a machine with cognitive, judgment, behavioral control and learning functions. The stage in which AI works as it is programmed, no matter how complex the task, can be called weak artificial intelligence. Strong AI refers to a machine that has reached a stage where it can find behavioral guidelines through self-learning and change its own coding accordingly, going beyond the level of working according to the programmer"s coding instructions.
When it enters the stage of strong artificial intelligence, it becomes a situation in which the creator can no longer be held responsible for the actions of the artificial intelligence because the AI does not move according to the creator"s programming content. It can be said that AI will have a kind of free will.
The basis for criminal responsibility is that ‘they knew or could have known that their actions were illegal, and they acted illegally even though they were able to adjust their actions according to that recognition’. Therefore, in order to become a subject of criminal responsibility, one must be able to form a will.
Consciousness refers to the ability to respond to external stimuli. AI can be said to have consciousness because it has cognitive functions, judgment functions, behavior control functions, and learning functions. Although AI has not yet entered the stage of strong artificial intelligence, human deaths are already taking place due to malfunctions of artificial intelligence. If the programmer who created the AI cannot be held accountable when such harm to humans occurs, the only choice is to let the AI take responsibility for it.
In order for artificial intelligence to conform to the normative system, it must go through the socialization process as in the case of natural people. Since artificial intelligence will have intelligence based on neural networks by mimicking human brain functions, I think that going through the socialization process in relation to the normative system is an appropriate solution.
The socialization process is carried out by repeating countless repetitions of penalizing norms for violating norms and praising them for observing norms. In order for AI to go through the socialization process, it must become a fearful being. Only when AI becomes a being that can feel emotions such as fear can AI enter the normative system.

목차 (Table of Contents)

• Ⅰ. 들어가는 말
• Ⅱ. AI의 책임능력을 인정하는 문제
• Ⅲ. AI에게 책임능력을 만들어 주는 문제
• Ⅳ. 맺는 말
• 참고문헌
• 국문초록
• Abstract

참고문헌 (Reference)

1 손동권, "형법총론" 율곡출판사 2004

2 오영근, "형법총론" 박영사 2014

3 성낙현, "형법총론" 도서출판 동방문화사 2010

4 배종대, "형법총론" 홍문사 2004

5 이재상, "형법총론" 박영사 2005

6 박상기, "형법총론" 박영사 2004

7 김성천, "형법총론" 도서출판 소진 2020

8 정성근, "형법총론" 성균관대학교 출판부 2012

9 김일수, "형법총론" 박영사 2002

10 신동운, "형법총론" 법문사 2001

11 김성돈, "형법총론" 성균관대학교 출판부 2009

12 천진호, "형법총론" 준커뮤니케이션즈 2016

13 손동권, "형법각론" 율곡출판사 2004

14 배종대, "형법각론" 홍문사 2008

15 박상기, "형법각론" 박영사 2008

16 김일수, "형법각론" 박영사 2001

17 김성천, "형법각론" 도서출판 소진 2021

18 김성돈, "형법각론" 성균관대학교 출판부 2009

19 정영석, "형법각론" 법문사 1983

20 이재상, "형법각론" 박영사 2016

21 오영근, "형법각론" 박영사 2009

22 정혜욱, "행정상 즉시강제에 관한 연구 - 경찰행정작용을 중심으로 -" 법학연구원 (40) : 275-300, 2012

23 이영란, "한국형법학" 숙대출판부 2002

24 김성천, "책임주의 원칙과 법인의 형사책임" 중앙법학회 18 (18): 73-94, 2016

25 한희원, "인공지능(AI)의 법인격 주체성의 논리적 기틀에 대한 기초 연구" 중앙법학회 20 (20): 375-412, 2018

26 박광민, "인공지능 로봇의 범죄주체성과 형사책임의 귀속" 법학연구소 20 (20): 153-178, 2017

27 손현주, "인공지능 거버넌스와 민주주의의 미래" 동양사회사상학회 22 (22): 305-349, 2019

28 고임석, "신경과 신입전공의 입문 교육" 대한신경과학회 2016

29 이재방, "법인의 범죄능력 인정과 법인처벌 방안" 법학연구소 11 (11): 281-304, 2010

30 양천수, "법인의 범죄능력 - 법 이론과 형법정책의 측면에서 -" 한국형사법무정책연구원 18 (18): 161-194, 2007

31 김성천, "독일⋅한국⋅일본의 정당방위 판례의 차이점과 그의 법문화적 배경" 중앙법학회 15 (15): 235-254, 2013

32 American Psychiatric Association, "DSM-5 간편 정신질환진단통계편람" 학지사 2018

33 클라우스 슈밥, "4차 산업혁명의 충격" 흐름출판 2016