행정에 인공지능시스템 도입의 공법적 문제점

김중권 법조협회 2020 법조 Vol.69 No.2

Der Einsatz künstlicher Intelligenz in der Verwaltung bietet beispiellose Möglichkeiten. Die nationale KI-Strategien geben zwangsläufig einen guten Anreiz. Aus dem Befund, dass die junge Generation im Gegensatz zur älteren Generation, die im analogen Zeitalter gelebt hat, seit ihrer Geburt im digitalen Zeitalter gelebt hat, ergibt sich daraus, dass die Verwaltung möglichst voller Innovationsgeist und Experimentierfreude sein sollte. In Deutschland war bereits im Verwaltungsverfahrensgesetz von 1976 der mit Hilfe automatischer Einrichtungen erlassene Verwaltungsakt deutlich vorgesehen. Hingegen wird in unserem Verwaltungsverfahrensgesetz jedoch nichts erwähnt. In diesem Kontext entspricht die koreanische Verwaltungsrechtsordnung nicht dem Entwicklungstrend der Verwaltung. Die aktuelle Arbeitsweise des KI-Systems eignet sich über die Unterstützungshandlungen wie der Erleichterung der Kommunikation, der Entscheidungsvorbereitung, der unabhängigen Entscheidungsfindung und der internen Verwendung innerhalb der Verwaltung hinaus für die Bearbeitung standardisierter Massenfälle. Da auf der gegenwärtigen Ebene jedoch nur eine schwache KI angenommen werden kann, ist der Einsatz künstlicher Intelligenz in der Verwaltung sowohl für die autonome Entscheidungsfindung in der Kategorie komplexer Fälle, die noch individuelle Merkmale aufweisen, als auch für den kreativen Gestaltungs- und Innovationsprozesses der Verwaltung noch unmöglich. Die besten Ergebnisse der Verwaltung werden durch die Zusammenarbeit von Menschen und Maschinen erzielt. Beim Einsatz künstlicher Intelligenz in der Verwaltung ist daher maßgeblich, eine optimale Symbiose zwischen Menschen und Maschinen herzustellen. Vor diesem Hintergrund sollten die verwaltungsrechtlichen Fragen beim Einsatz künstlicher Intelligenz in der Verwaltung dringend auseinandergesetzt werden. 행정에서의 인공지능의 도입은 전례 없는 기회를 제공한다. 국가의 인공지능전략과 같은 현재의 움직임은 좋은 자극을 필연적으로 제공한다. 행정은 혁신의 정신과 실험의 기쁨이 충만해야 한다. 왜냐하면 아날로그시대를 삶아온 기성세대와는 달리 젊은 세대는 태어나면서부터 디지털시대를 삶아 왔기 때문이다. 독일의 경우 이미 1976년 행정절차법에 컴퓨터를 이용하여 행정행위를 발하는 것에 관해 규정하였지만, 우리 행정절차법은 아무런 언급을 하지 않는 상황이 보여주듯이, 우리의 행정 및 그 법제는 행정환경과 현실의 변화에 따라가지 못하였다. 인공지능시스템의 현재의 가동방식은 시민과 행정청 간의 의사소통, 결정준비, 독립된 결정 및 행정청내부적인 사용을 용이하게 하는 것과 같은 지원임무 이외에, 표준화된 대량경우의 처리를 위하여 적합하다. 현재의 수준에서 약한 인공지능만이 상정할 수 있으므로, 아직은 개별적 특징을 지닌 복잡한 경우의 범주에서 독자적인 결정을 위해서는, 행정에서의 불가결한 창의적인 형성과정과 혁신과정을 위해서는, 인공지능의 도입은 자연스럽게 한계가 있을 수밖에 없다. 가장 좋은 결과는 인간과 기계의 협력에서 얻어진다. 따라서 행정에 인공지능을 도입하는 데 있어서 인간과 기계, 양자의 공생(Symbiose)을 최적으로 형성하는 것이 결정적인 과제이다. 행정에서의 인공지능의 도입의 행정법적 물음을 시급하게 검토해야 한다.

인공지능시대 알고크라시(Algocracy)에서의 민주적 정당화의 문제

김중권 법조협회 2020 법조 Vol.69 No.5

Künstliche Intelligenz(KI, artificial Intelligence:AI) gilt als Kerntechnologie des 21. Jahrhunderts. Im Verhältnis zu den hohen Hoffnungen und Erwartungen sind die Ängste und Sorgen nicht geringer. Die Verdichtung dieser Angst und Sorge ist die Bedrohung durch die Algokratie. Die Algokratie ist keine andere als digitale Herrschaft. Sie bedroht die Legitimität öffentlicher Entscheidungsprozesse(legitimacy of public decision-making processes) Das Individuum als freies Subjekt ist die a priori Existenz des modernen Verfassungsstaates und das letzte Subjekt der Legitimationszurechnung. Daher ist es natürlich, dass Algocrasi eine sehr Bedrohung darstellt. Das Algokratiesproblem im öffentlichen Recht ist letztendlich die Frage der Legitimation. Der Output des Computersystems muss dem Legitimationssubjekt im Legitimationszusammenhang in dem Sinne zugeordnet werden, dass es durch Entscheidung hinreichend bestimmt wird. Die derzeitige Ausübung staatlicher Herrschaft erfolgte in der Struktur der Legitimation auf der Grundlage der analogen Organisationsmethode der Bürokratie. In Systemen mit künstlicher Intelligenz treffen Computersysteme Entscheidungen und handeln im Namen von Menschen, wobei der Prozess der menschlichen Anerkennung weggelassen wird. Dies steht eindeutig im Widerspruch zu dieser traditionellen Legitimationsstruktur. 인공지능이 21세기의 핵심기술로 여겨진다. 희망과 기대가 높은 것에 비례해서 불안과 우려 역시 그에 못지않다. 이런 불안과 우려가 응축된 개념이 바로 알고리즘의 지배(Algocracy; Algokratie)의 위협이다. 알고리즘의 지배(Herrschaft der Algorithmen) 즉, 알고크라시는 다름 아닌 디지털지배(digitale Herrschaft)이다. 알고크라시는 공공의 의사결정과정의 정당성(legitimacy of public decision-making processes)을 위협한다. 자유로운 주체로서의 개인은 현대 헌법국가의 선험적인 존재이고, 모든 정당성의 최후의 주체이기에, 알고크라시는 매우 위협으로 다가오는 것은 자연스럽다. 공법에서 알고크라시의 문제는 궁극적으로 정당화(Legitimation)의 물음이다. 국가적 맥락에서 도입된 컴퓨터시스템의 아웃풋은 정당화의 주체가 결정을 통해 충분히 정해져 있다는 의미에서 정당화의 주체에 귀속될 수밖에 없다. 현재의 국가권력의 행사는 관료제의 아날로그 조직방식에 기반한 정당화의 구조에서 이루어져 왔는데, 컴퓨터시스템이 사람의 인식과정이 생략된 채 사람을 대신하여 어떤 결정을 내리고 행위를 하는 인공지능시스템은 분명 이런 전통적인 정당화의 구조와는 충돌한다. 따라서 인공지능시스템을 공공부문에 도입하는 데 있어서는 먼저 다소간 자율적인 컴퓨터시스템을 고권주체가 도입하는 것이 이런 범주에서 정당화될 수 있는지 여부와 아니면 디지털지배의 시대를 위한 새로운 정당화구상을 필요로 하지 않는지 여부의 물음이 검토되어야 한다.

Literatur 4.0 - Ein systemtheoretisches Erkenntnismodell für das Zeitalter künstlicher Intelligenz

Philip Jan Schaefer 한국독어독문학회 2017 獨逸文學 Vol.58 No.1

Vorliegender Aufsatz wendet Systemtheorie an, um zu einem besseren Verständnis des sich stetig wandelnden Charakters von Literatur und ihrer gesellschaftlichen Funktion zu gelangen. Dazu nutzt der Aufsatz die „differenztheoretische“ Ausrichtung luhmannscher Systemtheorie und schlägt als „Leitunterscheidung“ die Differenz von Werk und Nicht-Werk - von klar abzugrenzendem (und vermarktbarem) literarischen Produkt und lediglich in Text gespeicherter (als beliebig angesehener) Kommunikation - vor. Angesicht des technischen Wandels und der Möglichkeit von individualisierten, von künstlicher Intelligenz geschaffenen literarischen Werken ist eine solche Anpassung der erkenntnistheoretischen Grundlagen notwendig. Mit der Selektionsfunktion der KosumentInnen im Fokus des kulturellen Kommunikationsprozesses (u.a. bereits heute sichtbar durch die Selektions- und Vorschlagsfunktion von Unterhaltungsunternehmen wie Netflix, Youtube, oder Amazon), verlieren die AutorInnen immer stärker ihre Rolle als Schaffende. Der Aufsatz versucht dies anhand des Entstehungszusammenhangs von Helene Hegemanns Roman Axolotl Roadkill zu illustrieren. In diesem Roman verschwimmen die Rollen der AutorInnen. Hegemann hat einen großen Teil zunächst ohne Angabe des Urhebers vom Blogger Airen abgeschrieben. Der Literaturbetrieb fasste diese „editoriale Leistung“ als das eigentliches Werk auf, während er die schöpferische Leistung des Bloggers Airen – bedingt durch das Medium des Blogs - nicht als Werk betrachtet. Für das Verständnis dessen was Literatur sein kann und will, soll durch die Anwendung der Systemtheorie die theoretische Grundlage für eine sich im Zeitalter der „Literatur 4.0“ stetig verändernde kulturelle Landschaft bereitgestellt werden.

Literatur 4.0 - Ein systemtheoretisches Erkenntnismodell fur das Zeitalter kunstlicher Intelligenz

( Philip Schafer ) 한국독어독문학회 2017 獨逸文學 Vol.58 No.1

기술에 의해 창작된 문학작품들의 새로운 가능성들에 직면하여, 이에 걸맞은 문학연구의 인식론적 토대를 세워야 하는 것이 불가피해졌다. 문화적 의사소통과정에서 소비자들의 선택기능이 오늘날에 더욱 자명해진 것처럼 문학커뮤니케이션 과정 내에서 작가들의 창작자로서의 역할 역시 점점 줄어들고 있다. 본 논문은 부단히 변하고 있는 문학과 문학의 사회적 특성에 대해 체계이론을 인식모델로서 사용하고자 하며, 루만의 “차이이론”을 이용하여 작품과 비(非)작품의 차이를 “주도적 구별짓기”로 구분하고자 한다. 이 때 주목하는 차이란 기존의 문학적 산물이 갖는 의사소통과 단지 텍스트 형식이 갖는 의사소통의 차이이다. 본 논문은 이것을 헬레네 헤게만의 소설 『아홀로틀 로드킬 Axolotl Roadkill』이 생성된 맥락에 의거하여 설명하고자 한다. 이 소설에서는 작가의 역할이 축소되고 있다. 헤게만은 소설의 많은 부분을 원작자를 명시하지 않고 블로거 아이렌의 것을 베껴 썼다. 문학계는 그러한 헤게만의 “편집적 행위”를 고유한 작품으로서 파악한 반면에, 블로거 아이렌의 창작적 행위는 블로그 매체를 통했기 때문에 작품으로 간주하지 않는다. 본 논문은 이에 대해 명료한 구분점을 제시하고 앞으로 문학이 어떻게 정의될 수 있으며, 문학이 무엇이 되고자 하는지에 대해 이해를 도모할 것이다. 아울러 체계이론 인식모델을 이용해 “문학 4.0” 시대 속에서 끊임없이 바뀌는 문화적 지형을 위해 이론적 토대를 수립하는데도 기여하고자 한다. Vorliegender Aufsatz wendet Systemtheorie an, um zu einem besseren Verstandnis des sich stetig wandelnden Charakters von Literatur und ihrer gesellschaftlichen Funktion zu gelangen. Dazu nutzt der Aufsatz die ``differenztheoretische“ Ausrichtung luhmannscher Systemtheorie und schlagt als ``Leitunterscheidung“ die Differenz von Werk und Nicht-Werk - von klar abzugrenzendem (und vermarktbarem) literarischen Produkt und lediglich in Text gespeicherter (als beliebig angesehener) Kommunikation - vor. Angesicht des technischen Wandels und der Moglichkeit von individualisierten, von kunstlicher Intelligenz geschaffenen literarischen Werken ist eine solche Anpassung der erkenntnistheoretischen Grundlagen notwendig. Mit der Selektionsfunktion der KosumentInnen im Fokus des kulturellen Kommunikationsprozesses (u.a. bereits heute sichtbar durch die Selektions- und Vorschlagsfunktion von Unterhaltungsunternehmen wie Netflix, Youtube, oder Amazon), verlieren die AutorInnen immer starker ihre Rolle als Schaffende. Der Aufsatz versucht dies anhand des Entstehungszusammenhangs von Helene Hegemanns Roman Axolotl Roadkill zu illustrieren. In diesem Roman verschwimmen die Rollen der AutorInnen. Hegemann hat einen großen Teil zunachst ohne Angabe des Urhebers vom Blogger Airen abgeschrieben. Der Literaturbetrieb fasste diese ``editoriale Leistung“ als das eigentliches Werk auf, wahrend er die schopferische Leistung des Bloggers Airen - bedingt durch das Medium des Blogs - nicht als Werk betrachtet. Fur das Verstandnis dessen was Literatur sein kann und will, soll durch die Anwendung der Systemtheorie die theoretische Grundlage fur eine sich im Zeitalter der ``Literatur 4.0“ stetig verandernde kulturelle Landschaft bereitgestellt werden.

EU의 지능정보작용 관련 입법 및 정책에 관한 소고

최정윤,김형섭 한국법정책학회 2023 법과 정책연구 Vol.23 No.4

인공지능은 우리의 생활에 더 자주, 더욱 광범위하게 개입하고 있고 심지어 중요한 결정에 관해서도 점점 더 깊이 개입하고 있다. 그러나 기술적 성공에 기대어 눈앞의 편익이나 긍정적 산출물에 도취한 나머지 그 시스템의 설계 또는 학습과정에서의 오류를 애써 무시하고 있거나 축소하기도 한다. 또한 현실적으로도 기술적 발전에 따른 규범적 공백은 여전하다. 그 인공지능기술에 대한 규율적 대응, 기술활용에 대한 표준화된 인증 및 관리, 감독 방안, 그리고 그 책임분배에 대해 명확한 입장을 정립하고 있지 못한 상황이다. 유럽은 이 문제에 대해 깊이 있는 논의를 거쳐 인공지능으로부터 발생하는 오류로 발생하는 피해를 방지하고 그 관리를 위해 입법을 추진하게 되었다. 그 결과 EU는 그동안 장시간 논의를 끌어온 결과, 드디어 최근에 세계 최초로 “AI규제법”에 합의하기에 이르렀다. EU의 인공지능의 안전과 책임 확보방안은 기존의 법제인 제조물안전지침, 기계지침 등을 적용하되, 제조물에 대한 리스크 평가 인증 제도 등을 도입하고 있다. 인공지능이 적용된 제조물의 특수성 즉 연결성, 자동성, 데이터 의존성, 모호성, 복잡성 등을 고려하여 리스크 평가 조치, 리스크 대응 조치 등에 관한 도입 논의 역시 주목해야 할 것이다. 따라서 EU의 리스크를 기반으로 한 안전과 책임 논의로써 신뢰가능한 인공지능 설계를 위한 법적인 체계의 논의는 우리에게도 참고가 될 것이다. 이를 기초로 신뢰가능한 인공지능에서 제안하고 있는 평가체계에 바탕하여 평가리스트를 마련함으로써 인공지능이 적용된 제조물에 대한 평가방식도 구체적으로 마련할 수 있을 것이다. 결론적으로 인공지능에 대한 규제내용을 중복적으로 제정하기보다는 향후 기술적 발전을 감안하여 기술중립성을 기초로 일관된 방향을 정하여 제시하는 것이 필요할 것이다. 이를 위하여 EU의 인공지능에 관한 법, 그리고 논의들, 특히 인공지능에 대한 리스크를 평가하기 위한 평가체계와 관리방안 그리고 책임배분 등은 우리의 법제화에 기여할 수 있으리라 사료된다. Obwohl künstliche Intelligenz zunehmend in wichtige Entscheidungen in unserem Leben involviert ist, sind wir von ihren positiven Ergebnissen so berauscht, dass wir versuchen, die Fehler des Systems und in Wirklichkeit die Verwaltung und Überwachung des Einsatzes künstlicher Intelligenz und deren Auswirkungen zu ignorieren Es gibt keine klaren Regelungen zur Verantwortung. Nach eingehenden Diskussionen zu diesem Thema hat Europa Gesetze zur Vermeidung und Bewältigung von Schäden durch Fehler aufgrund künstlicher Intelligenz vorangetrieben. Infolgedessen einigte sich die EU nach langer Diskussion schließlich auf das weltweit erste „KI-Regulierungsgesetz“. Der Plan der EU zur Gewährleistung der Sicherheit und Verantwortung künstlicher Intelligenz wendet bestehende Gesetze wie die Produktsicherheitsrichtlinie und die Maschinenrichtlinie an, führt aber auch ein Risikobewertungs- und Zertifizierungssystem für Produkte ein. Angesichts der besonderen Eigenschaften von Produkten, auf die künstliche Intelligenz angewendet wird, wie Konnektivität, Automatisierung, Datenabhängigkeit, Mehrdeutigkeit und Komplexität, sollten auch Diskussionen über die Einführung von Risikobewertungsmaßnahmen und Risikoreaktionsmaßnahmen berücksichtigt werden. Daher scheint die Diskussion über die Rechtsordnung zur Gestaltung vertrauenswürdiger künstlicher Intelligenz im Rahmen der risikobasierten Diskussion der EU zu Sicherheit und Verantwortung auch für uns klare Implikationen zu haben. Durch die Erstellung einer Bewertungsliste auf der Grundlage des von zuverlässiger künstlicher Intelligenz vorgeschlagenen Bewertungssystems wird es möglich sein, eine detaillierte Bewertungsmethode für Produkte vorzubereiten, auf die künstliche Intelligenz angewendet wird. Anstatt immer wieder Vorschriften zur künstlichen Intelligenz zu erlassen, ist es notwendig, eine einheitliche Richtung vorzugeben und zu präsentieren, und zu diesem Zweck wird davon ausgegangen, dass die Gesetze und Diskussionen zur künstlichen Intelligenz in der EU zentrale Themen sein werden, die es wert sind, erwähnt zu werden.

인공지능(지능형) 시스템의 도입을 위한 법적 규율의 문제

金重權(Kim, Jung-Kwon) 한국비교공법학회 2021 공법학연구 Vol.22 No.1

이미 인공지능형 시스템은 일상화되었다. 우리는 현재의 세상과는 완전히 다른 세상이 만들어지는 초엽에 있다. 인공지능의 개발 및 디지털화는 기왕의 법질서 앞에서 멈추지 않는다. 인공지능기반의 새로운 세계를 위한 법질서가 필요하다. 엄밀히 말해, 인공지능형 시스템은 우리의 바램을 눈으로 읽어 판독할 뿐이고, 생각하지는 않는 지적 도우미(intelligenter Helfer)이다. 그 이상의 의미를 부여하는 것은 곤란하다. 어떤 경우에도 인간의 주체성의 인정과 같은 근대의 징표가 간과되어서는 아니 된다. 새로운 법질서의 형성을 위한 노력은 민주주의와 기본권에 합치하는 디지털화(demokratie- und grundrechtskonforme Digitalisierung)에 초점을 맞추어야 한다. Norbert Wiener가 지적한 대로, 완전한 복종과 완전한 지성은 함께 갈 수 없어서, 고대 로마에서 유능한 철학자인 노예가 무능한 그 소유자를 사실상 지배한 상황은 많은 점을 시사한다. 기계가 점점 더 효율적이 되고 더 높은 심리적 수준에서 작동한다면, 그것의 지배력에 대한 재앙은 점점 더 가까워진다. 시민과 행정당국간의 직접적인 개인적, 즉 비기술적 의사소통을 개선하는 것이 더욱더 중요하다.

인공지능시대에 알고리즘에 의한 행위조종과 가상적 행정행위에 관한 소고

金重權(Kim, Jung-Kwon) 한국공법학회 2020 공법연구 Vol.48 No.3

시대적 트렌드인 제4차 산업혁명에서 디지털화로 인해 행정의 변모는 가속화되고 있다. 인공지능(Artificial Intelligence: AI, Künstliche Intelligenz:KI)이 시대적 화두가 되고 있다. Max Weber가 100년 전에 창안한 관료제 행정 자체가 행정의 디지털화로 인해 특히 인공지능을 기반으로 한 공공 사물인터넷을 통해 기계 자체에 의해 운용되는 극적인 상황을 맞이하고 있다. 어느 듯 기술적 법칙으로서의 알고리즘은 공공분야를 넘어서 우리네 일상과 현실을 형성한다. 사이버공간을 규율하는 소프트웨어와 하드웨어와 같은 코드(Code)가 기왕의 법을 넘어서 또 다른 법이 되었다. 행위조정의 측면에서 코드나 알고리즘은 급속하게 법에 비견한 존재가 되어 법을 지지, 수정하거나 그 효력을 좌절시킬 수 있다. 법의 지배가 아닌, 코드나 알고리즘에 의한 지배가 통용될 수 있다. 이런 인공지능의 알고리즘의 발전의 급속한 진전과 현재의 합리화압력에 즈음하여, 국가는 질서시스템으로서 자신의 내적, 외적 상태를 이런 기술적 혁신도입에 맞춰야 한다. 그렇지 않으면, 국가는 시민의 디지털화된 생활세계와 기능세계에 대해 긴밀한 관계를 상실할 위험이 있다. 그러나 현하의 논의상황은 제4차 산업혁명 시대를 선도하기는커녕 전혀 그것과 호흡을 하지 못하고 있다. 디지털화의 기본인 알고리즘에 의한 행위조종의 전반에 관한 심도 있는 논의를 바탕으로 가상적 행정행위를 우리 법제에 안착시키기 위한 방안을 모색하고자 한다.