인공지능시대 알고크라시(Algocracy)에서의 민주적 정당화의 문제 = Die demokratische Legimation in der Algokratie im Zietalter der Künstlichen Intelligenz

다국어 초록 (Multilingual Abstract)

Künstliche Intelligenz(KI, artificial Intelligence:AI) gilt als Kerntechnologie des 21. Jahrhunderts. Im Verhältnis zu den hohen Hoffnungen und Erwartungen sind die Ängste und Sorgen nicht geringer. Die Verdichtung dieser Angst und Sorge ist die Bedrohung durch die Algokratie. Die Algokratie ist keine andere als digitale Herrschaft. Sie bedroht die Legitimität öffentlicher Entscheidungsprozesse(legitimacy of public decision-making processes) Das Individuum als freies Subjekt ist die a priori Existenz des modernen Verfassungsstaates und das letzte Subjekt der Legitimationszurechnung. Daher ist es natürlich, dass Algocrasi eine sehr Bedrohung darstellt. Das Algokratiesproblem im öffentlichen Recht ist letztendlich die Frage der Legitimation. Der Output des Computersystems muss dem Legitimationssubjekt im Legitimationszusammenhang in dem Sinne zugeordnet werden, dass es durch Entscheidung hinreichend bestimmt wird. Die derzeitige Ausübung staatlicher Herrschaft erfolgte in der Struktur der Legitimation auf der Grundlage der analogen Organisationsmethode der Bürokratie. In Systemen mit künstlicher Intelligenz treffen Computersysteme Entscheidungen und handeln im Namen von Menschen, wobei der Prozess der menschlichen Anerkennung weggelassen wird. Dies steht eindeutig im Widerspruch zu dieser traditionellen Legitimationsstruktur.

국문 초록 (Abstract)

인공지능이 21세기의 핵심기술로 여겨진다. 희망과 기대가 높은 것에 비례해서 불안과 우려 역시 그에 못지않다. 이런 불안과 우려가 응축된 개념이 바로 알고리즘의 지배(Algocracy; Algokratie)의 위협이다. 알고리즘의 지배(Herrschaft der Algorithmen) 즉, 알고크라시는 다름 아닌 디지털지배(digitale Herrschaft)이다. 알고크라시는 공공의 의사결정과정의 정당성(legitimacy of public decision-making processes)을 위협한다. 자유로운 주체로서의 개인은 현대 헌법국가의 선험적인 존재이고, 모든 정당성의 최후의 주체이기에, 알고크라시는 매우 위협으로 다가오는 것은 자연스럽다. 공법에서 알고크라시의 문제는 궁극적으로 정당화(Legitimation)의 물음이다. 국가적 맥락에서 도입된 컴퓨터시스템의 아웃풋은 정당화의 주체가 결정을 통해 충분히 정해져 있다는 의미에서 정당화의 주체에 귀속될 수밖에 없다. 현재의 국가권력의 행사는 관료제의 아날로그 조직방식에 기반한 정당화의 구조에서 이루어져 왔는데, 컴퓨터시스템이 사람의 인식과정이 생략된 채 사람을 대신하여 어떤 결정을 내리고 행위를 하는 인공지능시스템은 분명 이런 전통적인 정당화의 구조와는 충돌한다. 따라서 인공지능시스템을 공공부문에 도입하는 데 있어서는 먼저 다소간 자율적인 컴퓨터시스템을 고권주체가 도입하는 것이 이런 범주에서 정당화될 수 있는지 여부와 아니면 디지털지배의 시대를 위한 새로운 정당화구상을 필요로 하지 않는지 여부의 물음이 검토되어야 한다.

참고문헌 (Reference)

1 김남진, "행정의 민주적 정통화론" (290) : 2017

2 김중권, "행정에 인공지능시스템 도입의 공법적 문제점" 법조협회 69 (69): 53-77, 2020

3 김중권, "행정법" 법문사 2019

4 김배원, "지능정보사회와 헌법 - 인공지능(AI)의 발전과 헌법적 접근 -" 한국비교공법학회 21 (21): 67-108, 2020

5 김남진, "제4차 산업혁명시대와 중요 법적 문제" (319) : 2020

6 이재훈, "전자동화 행정행위에 관한 연구 -독일 연방행정절차법 제35조의a를 중심으로-" 법학연구원 29 (29): 143-192, 2017

7 이재훈, "전자동화 행정행위 도입 후 독일 행정절차법제 논의의 전개 양상" 한국비교공법학회 19 (19): 481-515, 2018

8 김중권, "자동적 행정행위(컴퓨터 행정행위)에 관한 소고" 28 (28): 2000

9 김중권, "인공지능시대에 완전자동적 행정행위에 관한 소고" 법조협회 66 (66): 146-182, 2017

10 김중권, "인공지능시대에 알고리즘에 의한 행위조종과 가상적 행정행위에 관한 소고" 한국공법학회 48 (48): 287-312, 2020

11 김남진, "인공지능(AI)기술과 공법학의 변용" (321) : 2020

12 김중권, "이른바 입법아웃소싱의 공법적 문제점에 관한 소고" 10 (10): 2016

13 허완중, "민주적 정당성" 한국법학원 (128) : 132-153, 2012

14 황성기, "디지털 기본권의 의미와 내용" 한국헌법학회 24 (24): 1-38, 2018

15 김중권, "국가권력행사에 AI도입과 민주적 법치국가원리" 2019

16 金重權, "行政自動節次에 관한 法的 考察" 高麗大學校 大學院 1993

17 Bull, "Über die rechtliche Einbindung der Technik" 58 : 57-, 2019

18 Zeidler, "Über die Technisierung der Verwaltung" 1959

19 Guckelberger, "Öffentliche Verwaltung im Zeitalter der Digitalisierung" 2019

20 Stelkens, "Verwaltungsverfahrensgesetz" 2018

21 Maier, "Verfassungsrechtliche Aspekte der Digitalisierung des Besteuerungsverfahrens" 614-, 2017

22 Danaher, "The Threat of Algocracy: Reality, Resistance and Accommodation" 245-, 2016

23 Wischmeyer, "Regulierung intelligenter Systeme" 143 : 1-, 2018

24 Borges, "Rechtliche Rahmenbedingungen für autonome Systeme" 977-, 2018

25 Frese, "Recht im zweiten Maschinenzeitalter" 2090-, 2015

26 Kersten, "Menschen und Maschinen" 70 : 1-, 2015

27 Dederer, "Letale Autonome Waffensysteme(LAWS)" 380-, 2018

28 Buchholz, "Legal Tech" 956-, 2017

29 Herberger, "Künstliche Intelligenz und Recht" 2825-, 2018

30 H. Dreier, "Hierachische Verwaltung im demokratischen Staat" 1991

31 Bauer, "Handbook on the Economics of the Internet" 2016

32 Böckenförde, "HStR Ⅲ" 34-, 2005

33 Schmidt-Aßmann, "Grundlagen des Verwaltungsrechts, Bd.Ⅰ" 2012

34 Masing, "Grundlagen des Verwaltungsrechts, Bd.Ⅰ" 7-, 2012

35 Ertel, "Grundkurs Künstliche Intelligenz" 2016

36 H. Dreier, "GG Ⅱ" 2015

37 Schuppert, "Funktionell-rechtliche Grenzen der Verfassungsinterpretation" 1980

38 김중권, "EU행정법연구" 법문사 2018

39 Ruffert, "EUV/AEUV" 2016

40 Teubner, "Digitale Rechtssubjekte?" 218 : 155-, 2018

41 Trute, "Die demokratische Legitimation der Verwaltung"

42 Boehme-Neßler, "Die Macht der Algorithmen und die Ohnmacht des Rechts" 3031-, 2017

43 Polomski, "Der automatisierte Verwaltungsakt" 1993

44 Unger, "Demoktratie und künstliche Intelligenz" 113-, 2019

45 Unger-Stenberg, "Demoktratie und künstliche Intelligenz" 2019

46 Hoffmann-Riem, "Demoktratie und künstliche Intelligenz" 129-, 2019

47 Klaas, "Demokratieprinzip im Spannungsfeld mit künstlicher Intelligenz" 84-, 2019

48 Petersen, "Demokratie und Grundgesetz" 2008

49 Unger, "Das Verfassungsprinzip der Demokratie" 2008

50 Ahrendt, "Alte Zöpfe neu geflochten–Das materielle Recht in der Hand von Programmierern" 537-, 2017

51 Boehme-Neßler, "Algorithmen und Demokratie: Anmerkungen zur Digitalisierung des Verfassungsrechts" 129-, 2019

52 Martini, "Algorithmen als Herausforderung für die Rechtsordnung" 1017-, 2017

53 김중권, "21세기 국가모델을 위한 행정법의 현대화와 개혁" 한국공법학회 48 (48): 387-419, 2019