행정에 인공지능시스템 도입의 공법적 문제점 = Die öffentlich-rechtlichen Fragen beim Einsatz künstlicher Intelligenz in der Verwaltung

다국어 초록 (Multilingual Abstract)

Der Einsatz künstlicher Intelligenz in der Verwaltung bietet beispiellose Möglichkeiten. Die nationale KI-Strategien geben zwangsläufig einen guten Anreiz. Aus dem Befund, dass die junge Generation im Gegensatz zur älteren Generation, die im analogen Zeitalter gelebt hat, seit ihrer Geburt im digitalen Zeitalter gelebt hat, ergibt sich daraus, dass die Verwaltung möglichst voller Innovationsgeist und Experimentierfreude sein sollte. In Deutschland war bereits im Verwaltungsverfahrensgesetz von 1976 der mit Hilfe automatischer Einrichtungen erlassene Verwaltungsakt deutlich vorgesehen. Hingegen wird in unserem Verwaltungsverfahrensgesetz jedoch nichts erwähnt. In diesem Kontext entspricht die koreanische Verwaltungsrechtsordnung nicht dem Entwicklungstrend der Verwaltung. Die aktuelle Arbeitsweise des KI-Systems eignet sich über die Unterstützungshandlungen wie der Erleichterung der Kommunikation, der Entscheidungsvorbereitung, der unabhängigen Entscheidungsfindung und der internen Verwendung innerhalb der Verwaltung hinaus für die Bearbeitung standardisierter Massenfälle. Da auf der gegenwärtigen Ebene jedoch nur eine schwache KI angenommen werden kann, ist der Einsatz künstlicher Intelligenz in der Verwaltung sowohl für die autonome Entscheidungsfindung in der Kategorie komplexer Fälle, die noch individuelle Merkmale aufweisen, als auch für den kreativen Gestaltungs- und Innovationsprozesses der Verwaltung noch unmöglich. Die besten Ergebnisse der Verwaltung werden durch die Zusammenarbeit von Menschen und Maschinen erzielt. Beim Einsatz künstlicher Intelligenz in der Verwaltung ist daher maßgeblich, eine optimale Symbiose zwischen Menschen und Maschinen herzustellen. Vor diesem Hintergrund sollten die verwaltungsrechtlichen Fragen beim Einsatz künstlicher Intelligenz in der Verwaltung dringend auseinandergesetzt werden.

국문 초록 (Abstract)

행정에서의 인공지능의 도입은 전례 없는 기회를 제공한다. 국가의 인공지능전략과 같은 현재의 움직임은 좋은 자극을 필연적으로 제공한다. 행정은 혁신의 정신과 실험의 기쁨이 충만해야 한다. 왜냐하면 아날로그시대를 삶아온 기성세대와는 달리 젊은 세대는 태어나면서부터 디지털시대를 삶아 왔기 때문이다. 독일의 경우 이미 1976년 행정절차법에 컴퓨터를 이용하여 행정행위를 발하는 것에 관해 규정하였지만, 우리 행정절차법은 아무런 언급을 하지 않는 상황이 보여주듯이, 우리의 행정 및 그 법제는 행정환경과 현실의 변화에 따라가지 못하였다. 인공지능시스템의 현재의 가동방식은 시민과 행정청 간의 의사소통, 결정준비, 독립된 결정 및 행정청내부적인 사용을 용이하게 하는 것과 같은 지원임무 이외에, 표준화된 대량경우의 처리를 위하여 적합하다. 현재의 수준에서 약한 인공지능만이 상정할 수 있으므로, 아직은 개별적 특징을 지닌 복잡한 경우의 범주에서 독자적인 결정을 위해서는, 행정에서의 불가결한 창의적인 형성과정과 혁신과정을 위해서는, 인공지능의 도입은 자연스럽게 한계가 있을 수밖에 없다. 가장 좋은 결과는 인간과 기계의 협력에서 얻어진다. 따라서 행정에 인공지능을 도입하는 데 있어서 인간과 기계, 양자의 공생(Symbiose)을 최적으로 형성하는 것이 결정적인 과제이다. 행정에서의 인공지능의 도입의 행정법적 물음을 시급하게 검토해야 한다.

참고문헌 (Reference)

1 김중권, "행정자동절차에 관한 법적 고찰"

2 김중권, "행정법" 2019

3 김정오, "코드, 2001; 코드 2.0" 2009

4 김남진, "제4차 산업혁명시대와 중요 법적 문제" (319) : 2020

5 이재훈, "전자동화 행정행위에 관한 연구 -독일 연방행정절차법 제35조의a를 중심으로-" 법학연구원 29 (29): 143-192, 2017

6 김중권, "자동적 행정행위(컴퓨터 행정행위)에 관한 소고" 28 (28): 2000

7 김중권, "인공지능시대에 완전자동적 행정행위에 관한 소고" 법조협회 66 (66): 146-182, 2017

8 김중권, "인공지능시대에 알고리즘에 의한 행위조종과 가상적 행정행위에 관한 소고" 한국공법학회 48 (48): 287-312, 2020

9 김중권, "인공지능(AI)기술과 공법학의 변용" (321) : 2020

10 김중권, "국가권력행사에 AI도입과 민주적 법치국가원리" 2019

11 H. Hilll, "Was bedeutet Künstliche Intelligenz (KI) für die Öffentliche Verwaltung?" 287-, 2018

12 Staatsministerium Baden-Württemberg, "Vorreiter für Künstliche Intelligenz"

13 Knobloch, "Vor die Lage kommen: Predictive Policing in Deutschland – Chancen und Gefa hren datenanalytischer Prognosetechnik und Empfehlungen für den Einsatz in der Polizeiarbeit"

14 Stelkens, "Verwaltungsverfahrensgesetz" 2018

15 A. Schmid, "Verwaltung, eGovernment und Digitalisierung" 2019

16 Voßkuhle, "Vertrauensschutz" 794-, 2011

17 Positionspapier, "Transparenz der Verwaltung beim Einsatz von Algorithmen für gelebtenGrundrechtsschutz unabdingbar"

18 M. Martini, "Transformation der Verwaltung durch Digitalisierung" 443-, 2017

19 J. Danaher, "The Threat of Algocracy: Reality, Resistance and Accommodation" 29 : 245-268, 2016

20 "Strategie Künstliche Intelligenz der Bundesregierung"

21 J. v. Lucke, "Smart Government - Wie uns die intelligente Vernetzung zum Leitbild Verwaltung 4.0 und einem smarten Regierungs- und Verwaltungshandeln führt"

22 Th. Wischmeyer, "Regulierung intelligenter Systeme" 143 : 1-, 2018

23 N. Luhmann, "Recht und Automation in der öffentlichen Verwaltung" 1966

24 Boyle, "Microsoft’s chatbot gone bad, Tay, makes MIT’s annual list of biggest technology fails"

25 Wagner, "Legal Tech und Legal Robots–Der Wandel im Rechtsmarkt durch neue Technologien und künstliche Intelligenz" 2018

26 Lenzen, "Künstliche Intelligenz – Was sie kann &was uns erwartet" 2018

27 M. Herberger, "Künstliche Intelligenz und Recht" 2825-, 2018

28 A. Rittershaus, "Innovative Verwaltung" 2016

29 L. Guggenberger, "Einsatz künstlicher Intelligenz in der Verwaltung" 844-, 2019

30 Heuermann, "Digitalisierung in Bund, Ländern und Gemeinden – ITOrganisation, Management und Empfehlungen"

31 A. Berger, "Digitales Vertrauen. Eine verfassungs- und verwaltungsrechtliche Perspektive" 804-, 2017

32 H. Hill, "Die Kunst des Entscheidens" 433-, 2017

33 Forschungsunion, "Deutschlands Zukunft als Produktionsstandort sichern–Umsetzungsempfehlungenfür das Zukunftsprojekt Industrie 4.0"

34 Aupperle, "Denkimpulse Digitale Ethik Künstliche Intelligenz – Assistenz oder Konkurrenz in der zukünftigen Verwaltung?"

35 Unger, "Demokratie und Künstliche Intelligenz" 2019

36 Desouza, "Chatbots move public sector toward artificial intelligence"

37 Th. Siegel, "Automatisierung des Verwaltungsverfahrens" 24-, 2017

38 Hill, "Auf dem Weg zum Digitalen Staat–auch ein besserer Staat?" 2015

39 Farrelly, "Are virtual assistants the future of Public Sector consumer service?"

40 Kroll, "Accountable Algorithms"

41 Eggers, "AI-augmented government – Using cognitive technologies to redesign public sector work" Deloitte University Press

42 McCarthy, "A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence" AI Magazine

43 김중권, "21세기 국가모델을 위한 행정법의 현대화와 개혁" 한국공법학회 48 (48): 387-419, 2019