인공지능(지능형) 시스템의 도입을 위한 법적 규율의 문제

국문 초록 (Abstract)

이미 인공지능형 시스템은 일상화되었다. 우리는 현재의 세상과는 완전히 다른 세상이 만들어지는 초엽에 있다. 인공지능의 개발 및 디지털화는 기왕의 법질서 앞에서 멈추지 않는다. 인공지능기반의 새로운 세계를 위한 법질서가 필요하다. 엄밀히 말해, 인공지능형 시스템은 우리의 바램을 눈으로 읽어 판독할 뿐이고, 생각하지는 않는 지적 도우미(intelligenter Helfer)이다. 그 이상의 의미를 부여하는 것은 곤란하다. 어떤 경우에도 인간의 주체성의 인정과 같은 근대의 징표가 간과되어서는 아니 된다. 새로운 법질서의 형성을 위한 노력은 민주주의와 기본권에 합치하는 디지털화(demokratie- und grundrechtskonforme Digitalisierung)에 초점을 맞추어야 한다. Norbert Wiener가 지적한 대로, 완전한 복종과 완전한 지성은 함께 갈 수 없어서, 고대 로마에서 유능한 철학자인 노예가 무능한 그 소유자를 사실상 지배한 상황은 많은 점을 시사한다. 기계가 점점 더 효율적이 되고 더 높은 심리적 수준에서 작동한다면, 그것의 지배력에 대한 재앙은 점점 더 가까워진다. 시민과 행정당국간의 직접적인 개인적, 즉 비기술적 의사소통을 개선하는 것이 더욱더 중요하다.

목차 (Table of Contents)

• Ⅰ. 처음에-법을 위한 도전으로서의 인공지능
• Ⅱ. 인공지능에 관한 기술적 발전상 및 그 양상
• Ⅲ. 인공지능시스템의 세 가지 요소
• Ⅳ. 인공지능시스템의 도입을 위한 규율지침
• Ⅴ. 맺으면서-민주주의와 기본권에 합치하는 디지털화의 필요
• 참고문헌
• 국문요약
• Abstract

참고문헌 (Reference)

1 김중권, "행정자동절차에 관한 법적 고찰"

2 김중권, "행정에 인공지능시스템 도입의 공법적 문제점" 법조협회 69 (69): 53-77, 2020

3 조태제, "행정법상의 효율성원칙" 한국비교공법학회 5 (5): 43-70, 2004

4 김중권, "행정법" 2019

5 고세일, "책임주체로서 지능형 인공지능 로봇에 대한 고찰" 한국재산법학회 37 (37): 1-23, 2020

6 이재훈, "전자동화 행정행위에 관한 연구 -독일 연방행정절차법 제35조의a를 중심으로-" 법학연구원 29 (29): 143-192, 2017

7 김중권, "인공지능시대에 완전자동적 행정행위에 관한 소고" 법조협회 66 (66): 146-182, 2017

8 김중권, "인공지능시대 알고크라시(Algocracy)에서의 민주적 정당화의 문제" 법조협회 69 (69): 181-207, 2020

9 이충훈, "인공지능(Artificial Intelligence)을 이용한 의사표시의 주체" 법학연구원 30 (30): 285-317, 2020

10 변용완, "인공지능(Artificial Intelligence) 환경에서 책임분배를 위한 민사책임 원리" 한국스포츠엔터테인먼트법학회 23 (23): 133-157, 2020

11 선지원, "인공지능 알고리즘 규율에 대한 소고- 독일의 경험을 중심으로 -" 법학연구소 12 (12): 26-43, 2019

12 Zeidler, "Über die Technisierung der Verwaltung" 1959

13 Bull, "Verwaltung durch Maschinen. Rechtsprobleme der Technisierung der Verwaltung"

14 Bull, "Verwaltung durch Maschinen, Der „digitale Staat“ und seine rechtliche Ordnung"

15 Bull, "Verwaltung durch Maschinen, Der vollständig automatisiert erlassene Verwaltungsakt"

16 Kitchin, "Thinking critically about and researching algorithms" 20 (20): 14-, 2017

17 "Steege: Algorithmenbasierte Diskriminierung durch Einsatz von Künstlicher Intelligenz"

18 Wiener, "Some Moral and Technical Consequences of Automation" 131 (131): 1355-, 1960

19 Hildebrandt, "Smart technologies and the end(s) of law : Novel entanglements of law and technology"

20 Wischmeyer, "Regulierung intelligenter Systeme" 143 : 1-, 2018

21 Scherer, "Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies" 29 (29): 353-, 2016

22 Wischmeyer, "Regulating Artificial Intelligence" 75-, 2019

23 Wischmeyer, "Regulating Artificial Intelligence" 75-, 2019

24 Wischmeyer, "Regulating Artificial Intelligence" 2019

25 Hoffmann-Riem, "Regulating Artificial Intelligence" 1-, 2019

26 Roßnagel,Technik, "Recht und Macht"

27 Luhmann, "Recht und Automation in der öffentlichen Verwaltung" 1966

28 Rademacher, "Predictive Policing im deutschen Polizeirecht"

29 Schmitz, "Neues zum E-Government"

30 Boyle, "Microsoft’s chatbot gone bad, Tay, makes MIT’s annual list of biggest technology fails"

31 Alpaydin, "Maschine Learning" 2016

32 Schmidt-Aßmann, "Liber Amicorum R. Wolfrum, Bd.2" 2119-, 2012

33 Reidenberg, "Lex Informatica: The Formulation of Information Policy Rules Through Technology" 76 : 533-, 1998

34 Wischmeyer, "Künstliche Intelligenz und Robotik" 2020

35 Ebers, "Künstliche Intelligenz und Robotik" 2020

36 Wischmeyer, "Informationssicherheitsrecht"

37 Schliesky, "Eine Verfassung für den digitalen Staat?"

38 김중권, "EU행정법연구" 59-, 2018

39 장경원, "EU법상 좋은 행정의 의미" 행정법이론실무학회 (25) : 273-305, 2009

40 Wischmeyer, "Digitale Ethik in der Demokratie"

41 Eifert, "Digitale Disruption und Recht" 2020

42 Wischmeyer, "Digitale Disruption und Recht" 73-, 2020

43 Hoffmann, "Die digitale Dimension der Grundrechte" 2015

44 Luhmann, "Die Kontrolle von Intransparenz" 2017

45 Unger, "Demoktratie und künstliche Intelligenz" 2019

46 Djeffal, "Das Internet der Dinge und die offentliche Verwaltung – Auf dem Weg zum automatisierten Smart Government?"

47 Paal, "Big Data im Recht"

48 Friedman, "Bias in computer systems" 14 (14): 330-, 1996

49 Schmidt-Aßmann, "Ansätze zur Internationalisierung des verwaltungsgerichtlichen Strategies" 29 (29): 353-, 2016

50 Romei, "A multidisciplinary survey on discrimination analysis" 29 (29): 582-, 2014

51 김중권, "2019년도 主要 行政法(行政)判決의 分析과 批判에 관한 小考" 안암법학회 (60) : 75-122, 2020