인공지능과 거대과학에 대한 엔첸스베르거의 비판

박현정 ( Park Hyun Jeong ) 한국독일현대문학회 2018 독일현대문학 Vol.0 No.50

Der vorliegende Beitrag behandelt die drei Essays uber hochtechnisierte Biotechnologie von Hans Magnus Enzensberger: Putschisten im Labor. Uber die neueste Revolution in den Wissenschaften (2001), Uber die unaufhaltsame Verbesserung der Welt (2002) und Unheimliche Fortschritte. Uber Sigfried Giedions Werk, Die Herrschaft der Mechanisierung (2002). Enzensberger hat sich dabei schon kurz nach der Jahrhundertwende mit der avancierten Biotechnologie und Technologiepolitik auseinandergesetzt. Er antizipiert die Diskussion uber KI-, Gen- und Nanotechnik, die heutzutage immer aktueller wird und im engen Zusammenhang mit der technologischen Innovation, namlich der vierten industriellen Revolution steht. Er ubt zunachst Kritik an den modernen utopischen Verheißungen aus den Laboratorien der Naturwissenschaften, da die Zukunft uberhaupt kein Gegenstand der Wissenschaft sei. Enzensberger zufolge ubernimmt manch moderner Wissenschaftler die Rolle von Predigern, indem er die Unsterblichkeit mit einem ‘Neuen Menschheitsprojekt’ garantiert. Das moderne Homunkulus-Projekt, der menschliche Traum nach perfekter Menschheit, wird letztendlich durch ‘Kunstliche Intelligenz(KI)’ und Embryonen-Forschung wie etwa Androiden, Automaten, Roboter, Cyborgs verwirklicht. Statt der naturlichen Zeugung, der Geburt und des Todes entwickeln sich Techniken von Leihmuttern, Xenotransplantationen, Klonen, pranatale Selektionen und Gehirn-Chip-Implantationen. Außerdem versprechen Mediziner und Genetiker die genetische Verbesserung des Lebewesens, wie das Klonen des Schafes Dolly, ohne ethische und moralische Verantwortung zu ubernehmen. Enzensberger polemisiert weniger gegen die Evolution der Naturwissenschaft selbst als gegen deren ‘Allmachtphantasie’, die man durch die Zuchtung der Spezies verwirklichen will. Ihm sind Konsequenzen und Nebenwirkungen dieser Entwicklung von Bedeutung. Fur ihn ware es auch ein gescheitertes Experiment, wenn die nationale Großforschung, die sogenannte Big Science, immer mit der kapitalistischen Logik wie Technopolitik und Waffenindustrie verbunden ist.

인공지능(AI)의 민사법적 지위와 책임에 관한 소고

이도국 ( Lee Do-kook ) 한양대학교 법학연구소 2017 법학논총 Vol.34 No.4

최근 이른바 4차 산업혁명으로 기존의 경제 패러다임이 변화하고 있고 여기서 인공지능의 발전이 주도적 역할을 하고 있음은 주지의 사실이다. 이러한 인공지능은 기술적으로 지속적인 발전을 거듭하고 있고 이는 사회, 경제, 문화, 법률 등 각종 영역에 있어 많은 영향을 줄 것이다. 특히 민사법적 관점에서는 먼저 현재와 같은 인공지능 초기 또는 발전 단계에서 인공지능으로 인한 민사책임을 어떻게 해결 가능한지 여부가 문제될 수 있다. 다음으로 인공지능이 더 나아가 자율성을 갖추는 단계에 있어서 인공지능의 독자적인 ‘행위’로 인하여 발생한 손해의 경우 그 책임을 어떻게 또한 누구에게 물을 수 있는지가 문제될 수 있고, 여기서 인공지능에게 직접적으로 일정한 책임을 물을 수 있는 법적·제도적 근거는 없는지 여부 등이 논의될 수 있다. 이는 곧 인공지능을 둘러싼 법적 지위와 관련된 문제라고 할 수 있다. 따라서 본고에서는 인공지능을 약한 인공지능과 강한 인공지능으로 분류한 뒤 각각에 있어서 법적 지위와 민사책임에 대하여 살펴보았다. 약한 인공지능의 경우는 현행법상 물건이라는 법적 지위를 가지고 있으므로 인공지능은 책임을 부담할 수 있는 주체가 될 수 없고, 인공지능의 ‘소유자 또는 이용자’ 및 ‘제조자’, ‘프로그램 입력자’, ‘판매자’ 등이 각각 책임영역을 기초로 손해배상을 하는 체계로 관련 문제를 해결하여야 할 것이다. 이에 비하여 강한 인공지능의 경우에는 기존의 책임법리로는 해결할 수 없는 한계에 다다르게 되므로 독립한 법적 지위를 부여할 필요성이 증대한다. 따라서 현재 법인에 대한 법제도를 유추하여 법인격을 부여하여 물건이 아닌 독자적인 권리의 주체로서 법적 지위를 구성할 수 있을 것이다. 법인 역시 사회적 필요성에 의하여 법인격이 인정되었고 이는 인공지능에게도 유사하게 적용할 수 있기 때문이다. 또 다른 방법으로는 유럽의회의 결의안에서와 같이 전자인이라는 새로운 법적 지위를 단계적으로 부여할 수도 있을 것이다. 인공지능은 어느 한 분야에만 관련이 있는 성격을 지닌 대상이 아닌 특성을 지니므로 입법론적으로 인공지능 전체를 아우르는 새로운 법률을 마련하는 것이 바람직한 방법이라 생각한다. 즉 공학적·생물학적·사회학적·인문학적·법학적 관점 등에서 인공지능이 가지는 학제적 성격을 충분히 반영한 일종의 기본법의 형태를 통하여 그 곳에 인공지능의 특수성에 기한 법적 지위의 근거를 마련하는 것이 효율적일 것이라 보여진다. 이와 관련하여 다가올 인공지능 시대를 인간이 주도적으로 이끌기 위해서는 유럽의회의 결의안과 같은 선행 연구가 보여주는 시사점을 고려하여 비교법적으로 연구하는 것이 큰 의미가 있다고 여겨진다. In diesem Beitrag wurde es uberpruft, welchen Rechtsstatus unter dem Gesichtspunkt des Zivilrechtes die kunstliche Intelligenz(KI) hat, die im Bereich der sogenannten vierten industriellen Revolution eine wichtige Rolle spielt. Im Allgemeinen kann die KI in Bezug auf die Autonomie in die schwache KI und die starke KI eingeteilt werden. Da die schwache KI hinsichtlich des zivilrechtlichen Status nach dem §98 KBGB lediglich als Sachen zu behandeln ist, kann sie nicht selbstandig haftbar fur Schaden gemacht werden. D.h., nur naturliche Personen oder juristische Personen durfen eine zivilrechtliche Haftung ubernehmen, falls die schwache KI Schaden verursacht. Im Gegenteil sollte die starke KI bezuglich der zunehmenden Notwendigkeit ihren eigenen rechtlichen Status erkennt werden, da die bestehende zivilrechtliche Haftungstheorie Schadensprobleme nicht gelost werden kann, die durch die starke KI verursacht werden. Dabei sollte eine Frage gestellt werden, wer fur Handlungen von der KI zivilrechtlich verantwortlich ware. Daher sollte es moglich sein, fur die starke KI einen unabhangigen Rechtsstatus als ein Subjekt zu konstruieren, nicht als Sachen. Es konnte auch einen neuen rechtlichen Status als elektronische Personen wie in der Entschließung des Europaischen Parlaments gewahren. Da die KI besondere Eigenschaft aufweist, die nicht mit einem Wissensgebiet zusammenhangt, sondern mit vielen Wissenschaften, sollte meiner Meinung nach eine neue Gesetzgebung vorgeschlagen werden, die die KI als Ganzes umfasst.

지능형 로봇에 대한 사법적 규율 ― 유럽연합의 입법 권고를 계기로 하여 ―

김진우 ( Kim Chin-woo ) 법조협회 2017 법조 Vol.66 No.3

Die Entwicklung von technischen Systemen, die eigenstandigen Entscheidungen treffen, schreitet voran. Wurden Roboter in der Vergangenheit vornehmlich im industriellen Kontext eingesetzt, begegnen uns diese technischen Systeme zunehmend in anderen Bereich. Das Thema Robotik und Kunstliche Intelligenz ruckt mehr und mehr in den gesellschaftlichen Fokus. Nach einer Entschließung des Europaischen Parlaments ist nun die EU-Kommission aufgerufen, einen Leigislativvorschlag im Bereich Robotik und Kunstliche Intelligenz zu erarbeiten, der insbesonere Aspekte der Haftung adressieren soll. Nach der Entschließung sei fur den Gesetzgeber von entscheidender Bedeutung, sich mit den rechtlichen und ethischen Implikationen und Auswirkungen im Bereich Robotik und Kunstliche Intelligenz zu befassen, ohne die Innovation zu behindern. Der Beitrag stellt die wichtigsten Inhalte der Entschließung vor und soll ein Uberblick uber die Eckpunkte der Entschießung geben sowie ihre Konsequenzen zusammenfassen und widmet sich der Frage, wer fur Aktionen von Robotern privatrechtlich verantwortlich ist. Insbesondere wird diskutiert, wer im Schadensfall haften kann. Aus zivilrechtlicher Perspektive wird ein Blick auf die Verantwortung des Halters und des Herstellers geworfen. Uberdies werden zukunftige Haftungskonzepte vorgestellt.

공행정에서 AI의 활용과 행정법적 쟁점 - 행정작용을 중심으로 -

최승필(Choi, Seung Pil) 한국공법학회 2020 공법연구 Vol.49 No.2

인공지능기술의 발달로 AI의 활용범위가 확대되고 있으며, 공행정영역도 예외는 아니다. AI가 최종적인 처분까지 내리는지를 기준으로 완전자동화된 행정행위와 부분자동화된 행정행위로 나뉜다. 행정법적 논의는 주로 완전자동화된 행정행위에 집중되어 있으나, AI의 연산결과가 의사결정의 주된 근거로 이용되는 부분자동화된 행정행위 역시 그 검토대상이 되어야 한다. 독일 행정절차법 제35조a의 주된 쟁점은 법령유보, 적용대상으로서 재량행위, 행정행위의 철회와 취소이다. 독일 조세기본법과 사회법전 제10편 역시 완전자동화행정을 규정하고 있으며, 양자 모두 기속행위를 대상으로 하고 있다. 다만 이들 법률들은 당사자에게 특별한 사유가 있는 경우 이를 고려하도록 하고 있다. 완전자동화행정의 주된 대상이 기속행위라는 점에는 이견이 없다. 다만 재량행위도 재량권이 영으로 수축된 경우에는 대상이 될 수 있으며, 머신러닝을 활용할 경우 재량행위의 포섭가능성도 넓어진다. 허가와 신고는 완전자동화행정행위의 주된 대상이다. 행정조사 중 보고서의 징구는 완전자동화행정행위가 적용될 수 있는 대상이다. AI에 의한 행정행위의 직권취소와 철회도 가능하다. 행정절차에서 사전통지 및 의견제출, 청문, 이유제시를 거쳐야 하는지에 대해서는 견해가 갈린다. 완전자동화행정의 취지와 피처분자의 방어권 보장을 위한 절충적 방안을 모색할 필요가 있다. 이유제시는 알고리즘의 공개 및 통제와 연결된다. AI에 의한 완전자동화된 행정도 항고소송의 대상이 되며, 국가배상의 경우 영조물의 하자를 이유로 한 청구가 가능할 것이다. 행정에 AI를 활용하기 위해서는 민주적 정당성 확보가 중요한다. 이 중 핵심이 알고리즘의 중립성과 투명성이다. 이를 위해 거버넌스가 확보될 필요가 있다. AI에 의한 완전자동화행정의 장점에도 불구하고 부작용에도 우려가 크다. 그 부작용을 어떻게 극복하느냐가 AI를 행정의 보조자로 사용할지 또는 행정의 결정자로 사용할지 결정할 것이다. 그리고 그 과정에서 치열한 논의는 후행하는 복잡한 쟁송을 줄여나갈 것이다.

인공지능(지능형) 시스템의 도입을 위한 법적 규율의 문제

金重權(Kim, Jung-Kwon) 한국비교공법학회 2021 공법학연구 Vol.22 No.1

이미 인공지능형 시스템은 일상화되었다. 우리는 현재의 세상과는 완전히 다른 세상이 만들어지는 초엽에 있다. 인공지능의 개발 및 디지털화는 기왕의 법질서 앞에서 멈추지 않는다. 인공지능기반의 새로운 세계를 위한 법질서가 필요하다. 엄밀히 말해, 인공지능형 시스템은 우리의 바램을 눈으로 읽어 판독할 뿐이고, 생각하지는 않는 지적 도우미(intelligenter Helfer)이다. 그 이상의 의미를 부여하는 것은 곤란하다. 어떤 경우에도 인간의 주체성의 인정과 같은 근대의 징표가 간과되어서는 아니 된다. 새로운 법질서의 형성을 위한 노력은 민주주의와 기본권에 합치하는 디지털화(demokratie- und grundrechtskonforme Digitalisierung)에 초점을 맞추어야 한다. Norbert Wiener가 지적한 대로, 완전한 복종과 완전한 지성은 함께 갈 수 없어서, 고대 로마에서 유능한 철학자인 노예가 무능한 그 소유자를 사실상 지배한 상황은 많은 점을 시사한다. 기계가 점점 더 효율적이 되고 더 높은 심리적 수준에서 작동한다면, 그것의 지배력에 대한 재앙은 점점 더 가까워진다. 시민과 행정당국간의 직접적인 개인적, 즉 비기술적 의사소통을 개선하는 것이 더욱더 중요하다.

대전환의 시대에 국가의 역할과 행정법(공법)의 개혁 및 현대화 ― 대전환의 시대에는 그에 맞는 코페르니쿠스적 전환의 논리를 ―

김중권(Kim, Jung-Kwon) 한국공법학회 2021 공법연구 Vol.50 No.2

20세기 초에 창궐한 이른바 ‘스페인 독감’의 예처럼, 언젠가 코로나 팬데믹이 종식되어 다시 일상으로 되돌아가겠지만, 그 상황은 이전 시대와는 완전히 다른 모습이 될 것이다. 코로나 팬데믹의 後果는 다름 아닌 경험하지 못한 미증유의 상황이다. 기왕의 패러다임이 완전히 제 기능을 다하지 못하는 상황, 마치 토마스 사뮤엘 쿤(Thomas Samuel Kuhn)이 말하는 ‘과학혁명’의 상황에 비견되는 것을 대전환이라 할 때, 그것을 어느 한 시기에 고정하여 사용할 수는 없다. 대전환의 시대에는 그에 맞는 코페르니쿠스적 전환의 논리가 요구된다. 팬데믹상황에서 민주적 법치국가원리가 평소와 다른 차원에서 다투어지는 결과, 민주적 법치국가원리에 철저하지 않은 법제의 문제점이 오롯이 부각된다. 보장국가나 디지털국가 등과 같은 국가구상은 시대에 따른 국가임무의 변화상을 반영하고, 국가나 행정 등을 개혁하는 원동력이 된다. 행정법과 공법이 변화된 환경에서 국가임무를 민주적 법치국가원리의 구체화를 통해 실현할 수 없으면, 그것의 존재이유에 대해 중대한 물음이 제기된다. 민주적 법치국가원리를 위한 스트레스 테스트(stress test)로서의 팬데믹상황에서 행정법 및 공법의 현대화와 개혁이 시급하다.