인공지능과 인간의 존엄성 = Artificial Intelligence and Human Dignity

다국어 초록 (Multilingual Abstract)

In the face of the era of artificial intelligence, the Korean legislation focuses on the development and dissemination of related technologies, while discussions on specific countermeasures against the risks posed by the commercialization of artificial intelligence technology are insufficient. While the risks that may arise from the application of artificial intelligence technology are closely related to the constraints on human dignity, there is a limit to individuals' self-awareness and avoidance of potential risks, and protection of themselves. In this regard, the role of the state is more important. Therefore, the need for regulation of artificial intelligence can be recognized in the aspect that the state must protect the fundamental rights of the people from the dangers caused by the development of science and technology.
In this context, this paper examined whether artificial intelligence technology based on big data infringes on the ideology of Article 10 of the Constitution (human dignity and values), that is, the relationship between artificial intelligence and human dignity. To this end, the constitutional principle of human dignity is considered to be composed of four layers: ① human dignity → ② individual respect in the narrow sense (liberation from group) → ③ individual dignity (autonomy) → ④ respect for diversity. The first layer was identified as showing respect for equality as a human being, the second and third layers as respect for equality as an individual, and the fourth layer as respect for the diversity resulting from such a result. In addition, we examined how these principles of human dignity are specifically related to artificial intelligence based on big data, and what are the risk factors that threaten human dignity, and to eliminate these risk factors, the EU's General Data Protection Regulation (GDPR), reports of the Federal Trade Commission (FTC) and case law in the United States were referenced. In Korea, on November 27, 2020, the Ministry of Science and ICT (MSIT), and the Korea Information Society Development Institute (KISDI) established the draft of the "National AI Ethical Guidelines" to suggest desirable directions for the development and use of artificial intelligence, but this is not a binding law or guideline. There are limitations in that it is a moral norm.

국문 초록 (Abstract)

인공지능시대를 맞이해 우리법제는 관련기술의 발전 및 보급에 치중하는 반면, 인공지능기술의 상용화로 인해 발생할 수 있는 위험에 대한 구체적인 대응책에 대해서는 논의가 미흡하다. 인공지능 기술의 적용에 따라 발생할 수 있는 위험은 인간의 존엄성에 대한 제약과 밀접한 관계가 있는 반면, 개인이 위험 가능성을 스스로 인식하고 회피하며 자신을 보호하는 데에는 한계가 있다. 이 점에서 국가의 역할이 보다 중요하다. 따라서 인공지능의 규제 필요성은 과학기술의 발달에 따른 위험으로부터 국가가 국민의 기본권을 보호해야 한다는 측면에서 인정될 수 있다.
이 글은 이러한 맥락에서 빅데이터에 기반한 인공지능기술이 헌법 제10조의 이념-인간의 존엄과 가치-을 침해하는 것은 아닌가, 즉 인공지능과 인간의 존엄성과의 관계를 고찰하였다. 이를 위해 그 전제로서 헌법상의 인간존엄성 원리를 ① 인간의 존엄→ ② 협의의 개인의 존중(집단으로 부터의 해방)→ ③ 개인의 존엄(자율) → ④ 다양성의 존중이라는 4계층으로 구성된다고 보고, 제1층은 인간으로서의 평등성의 존중, 제2층 및 제3층은 인격적 주체로서의 평등성의 존중, 제4층은 그러한 결과로 발생한 다양성에 대한 존중을 나타내는 것으로 파악하였다. 그리고 이러한 인간존엄성원리가 빅데이터에 기반한 인공지능과 구체적으로 어떻게 관련되는지, 그 관련 속에서 인간의 존엄성을 위협하는 위험요인이 무엇인지를 살펴보고, 이러한 위험요인을 제거하기 위해 EU의 일반데이터보호규정(GDPR), 미연방거래위원회(FTC)의 보고서, 미국의 판례법리 등을 참고하였다. 우리나라도 지난 2020.11.27.에 과학기술정보통신부와 정보통신정책연구원이 인공지능시대의 바람직한 인공지능 개발･활용 방향을 제시하기 위한 국가인공지능윤리기준(안)을 마련하였다. 그러나 이와 같은 국가인공지능윤리기준(안)은 구속력 있는 법이나 지침이 아닌 도덕적 규범이라는 점에서 한계가 있다.

참고문헌 (Reference)

1 권영성, "헌법학원론" 2007

2 허영, "헌법학원론" 2007

3 계희열, "헌법학(중)" 2004

4 장영수, "헌법학" 2019

5 계희열, "헌법상 인간의 존엄과 가치" 제37집, 고려대법학연구소 37 : 1996

6 한수웅, "헌법 제10조의 인간의 존엄성" 한국헌법학회 13 (13): 237-271, 2007

7 이재숭, "포스트휴먼은 인간의 존엄성을 위협하는가?" 새한철학회 94 (94): 21-40, 2018

8 김민우, "지능정보사회에서의 인공지능의 현안과 입법 과제" 한국비교공법학회 21 (21): 145-167, 2020

9 구본권, "잊혀질 권리" 지식의 날개 2011

10 진석용, "인공지능의 자율성 -SF의 주제가 현실의 문제로 다가오고 있다" LG 2016

11 이중기, "인공지능을 가진 로봇의 법적 취급 : 자율주행자동차 사고의 법적 인식과 책임을 중심으로" 법학연구소 17 (17): 1-27, 2016

12 박종보, "인공지능기술의 발전과 법적 대응방향" 법학연구소 34 (34): 37-62, 2017

13 강승식, "인간존엄의 비교법적 고찰과 그 시사점" 법학연구소 14 (14): 111-140, 2013

14 이석배, "인간의 존엄, 생명권 그리고 연명의료" 한국형사법학회 31 (31): 119-151, 2019

15 宍戶常壽, "高橋和之古稀記念 現代立憲主義の諸相(下)" 有斐閣 2013

16 AIネツトワ-ク社會推進會議, "國際的な議論のための AI開發ガイドライン案"

17 山本龍彦, "ロボツト･AIと法" 有斐閣 2018

18 大屋 雄裕, "ロボツト･AIと法" 有斐閣 2018

19 Sachs, "Verfassungsrecht II Grundrechte" 2000

20 Rebecca Walker Reczek, "Targeted Ads Don’t Just Make You More Likely to Buy: They Can Change How You Think About Yourself" 2016

21 Ariel Porat, "Personalizing Default Rules and Disclosure with Big Data" 112 : 8-, 2014

22 Benda, "Menschenwurde und Personlichkeitsrecht in: Handbuch des Verfassungsrechts (1)" 1995

23 Immanuel Kant, "Groundwork of the Metaphysics of Morals" Create Space Independent Publishing Platform 2010

24 Danielle Citron, "Fairness of risk Scores in Criminal Sentencing"

25 "Executive Office of the President, BIG DATA: A Report on Algorithmic Systems, Opportunity, and Civil Rights 17 , May 2016"

26 Hofling, "Die Unantastbarkeit der Menschenwurde"

27 Victor Mayer-Schönberger, "Delete: The Right to be forgotten" Princeton University Press 2009

28 FTC, "Big Data: A Tool for Inclusion or Exclusion? 9n" 44-, 2016

29 Christopher Steiner, "Automate This: How Algorithms Came to Rule Our World" 2012