인공지능 규제의 법체계 = Regulating Artificial Intelligence

다국어 초록 (Multilingual Abstract)

Artificial intelligence is an important means to show a qualitative difference from other machines in that it replaces human perception and computational abilities. Currently, large corporations and several countries are making large-scale investments, seeing AI technology as the core of their industrial competitiveness. There is no limit to the field of use of artificial intelligence, and its capabilities are expected to be endless in the future.
Based on the impact of AI on the game of Go, we can predict the future impact of the development of artificial intelligence on society and communities. First, even if artificial intelligence develops, the current social system is not expected to be greatly affected for the time being. Because artificial intelligence is a machine, it is a tool that can be used by humans and is not a competitor to humans. Second, the computational power of artificial intelligence affects the technological development of Baduk. Third, the development of artificial intelligence requires a new code of conduct. Because Go players are tempted to win the game by using artificial intelligence without their opponents' knowledge, policies to properly prevent and control this are necessary.
In this article, the necessity, legal structure, and important issues related to the regulation of artificial intelligence are reviewed. Artificial intelligence has a great impact in that it replaces human cognitive and computational abilities by machines, and in that the development of artificial intelligence technology and its application fields are rapidly spread along with the development of science and technology. The role of administration is important to increase the usefulness of artificial intelligence and reduce potential harm. The administration should also function as a facilitator for the development of artificial intelligence technology, but there should be no shortages in its activity as a monitor to prevent infringement on the rights and interests of the people.
As for laws related to artificial intelligence, autonomous laws centered on large corporations are important, and national regulations also have a larger space for use of soft laws such as guidelines rather than acts. Algorithms, which are the methods of operation of artificial intelligence, are based on their own rules. The codes that organize them are similar to laws, but because of their concealed nature and anonymity, they are different from national laws formed by congressional procedures and promulgated to the public. Care should be taken to ensure that ruled by law is not ruled by code.
The administration has already carried out a significant part of the investigation, diagnosis and regulation using artificial intelligence in the areas of road traffic, taxation, punishment, education and health, and it is expected that there will be more and more applications of artificial intelligence in the future. The protection of privacy and non-discrimination are required and monitored by the state against large AI companies. However, when the state directly uses artificial intelligence to conduct administration, care must be taken not to infringe on the rights and interests of the people themselves. When the number of tasks and disputes related to artificial intelligence increase, a national organization that is responsible for dealing with them should be established. The 4th Industrial Revolution Committee, which is currently organized, focuses on the development and application of artificial intelligence, so it is evaluated that it is not enough as an institution for regulation such as protecting the basic rights of the people and ensuring transparency of algorithms. In the future, an independent and efficient agency on artificial intelligence should be established in Korea.

국문 초록 (Abstract)

인공지능은 사람의 인식과 계산능력을 대체하는 점에서 다른 기계와는 분명 질적인 차이를 보일 중요한 수단이다. 현재 거대기업과 몇몇의 국가들은 인공지능 기술을 산업경쟁력의 핵심으로 보고 대규모의 투자를 하고 있다. 인공지능의 활용분야에는 한계가 없으며 앞으로의 발전에 따른 능력은 무궁할 것으로 예측된다.
인공지능의 발전이 바둑 경기에 미치고 있는 영향을 토대로 나아가 사회 및 공동체에 미칠 영향을 예측해 볼 수 있다. 첫째로 인공지능이 발전하더라도 당분간 현재의 사회 제도는 크게 영향을 받지 않을 것으로 판단된다. 인공지능은 기계이기 때문에 사람이 이용할 수 있는 도구이며 사람과 경쟁 상대는 아니다. 둘째로 인공지능의 계산력은 바둑의 기술 발전에 영향을 준다. 셋째로 인공지능의 발전은 새로운 행위규범을 요구한다. 바둑 기사들은 상대방 몰래 인공지능을 활용하여 경기에 이기려는 유혹을 받기 때문에 이를 적절히 예방하고 통제하는 정책이 필요하다.
이 글에서는 인공지능의 규제에 관하여 그 필요성과 법적 구조 그리고 규제와 관련된 중요한 쟁점을 검토하였다. 인공지능은 기계에 의하여 인간의 인지능력과 계산능력을 대체한다는 점에서, 그리고 과학･기술의 발전에 따라서 인공지능 기술의 발전과 그 응용분야가 급속도로 확산되는 점에서 그 파급력이 매우 크다. 인공지능이 담고 있는 유용성을 증대시키고 잠재하는 해악을 축소하기 위하여 행정의 역할은 중요하다. 행정은 인공지능 기술의 발전을 위한 촉진자로서의 기능도 하여야 하지만 국민의 권익에 대한 침해를 방지하기 위한 감시자로서의 활동에도 부족함이 없어야 한다.
인공지능에 관련된 법은 거대기업을 중심으로 한 자율법이 중요하고, 국가의 규제도 법령보다는 가이드라인과 같은 연성법의 활용 공간이 크다. 인공지능의 작동방식인 알고리즘은 나름의 규칙에 의하는데 이를 조직하는 코드가 법령과 유사한 점이 있지만 그 은닉된 성격과 익명성 때문에 법적 절차에 의해서 형성되고 일반에 공포되는 국가법과는 다르다. 법률에 의한 지배가 코드에 의한 지배가 되지 않도록 주의를 기울여야 한다.Ben Wagner / 이희정(역), “Codes만으로 충분한가? 행위는 필요하지 않은가? : 인공지능에 대한 규율을 실행하기”, 서울대학교 법학연구소, 경제규제와 법 제12권 제2호, 2019/11, 52면.


한편 행정은 도로교통, 조세, 행형 그리고 교육과 보건복지의 부문에서 인공지능을 활용하는 조사, 진단과 규제를 이미 상당 부분 수행하고 있으며, 앞으로 인공지능 적용 분야가 점점 더 많아질 것으로 예상한다. 사생활의 보호와 차별금지는 거대 인공지능 기업에 대해 국가가 요구하고 감시한다. 그러나 국가가 직접 인공지능을 활용하여 행정을 펼칠 때에는 스스로 국민의 권익 침해를 하지 않도록 주의하여야 한다. 인공지능에 관련된 업무와 분쟁이 늘어나면 이를 전담하여 처리해야 하는 국가의 기관이 설치되어야 한다. 현재 조직되어 있는 4차산업혁명위원회는 인공지능의 개발과 적용에 주력하고 있어서 국민의 기본권 보호와 알고리즘의 투명성 보장 등 규제를 위한 기관으로는 부족하다고 평가된다. 향후 인공지능에 관한 독립적이고 효율적인 규제기관이 설치되어야 할 것이다.

참고문헌 (Reference)

1 카카오 AI 리포트 편집진, "카카오 AI 리포트" 청림출판 57-, 2018

2 김병록, "인공지능의 헌법적 쟁점과 과제" 법학연구원 27 (27): 87-135, 2020

3 김종세, "인공지능의 안전성과 인간윤리에 대한 법정책적 고찰" 한국법학회 20 (20): 1-35, 2020

4 김도승, "인공지능 기반 자동행정과 법치주의" 미국헌법학회 30 (30): 105-138, 2019

5 김광수, "인공지능 기반 과학기술과 국민의 권익구제- 자율주행차, 드론 및 의료기기를 중심으로 -" 한국토지공법학회 85 : 231-258, 2019

6 제프 콜빈, "인간은 과소평가 되었다" 한스미디어 62-, 2016

7 제임스 블라호스, "음성인식 AI의 미래" 김영사 313-, 2020

8 테런스 J. 세즈노스키, "딥러닝 레볼루션" 한국경제신문 404-, 2019

9 조수영, "독일 개인정보보호법" KISA(Korea Internet & Security Agency) 2020

10 최성락, "대한민국 규제백과" 페이퍼로드 212-, 2019

11 Enrico Peuker, "Verfassungswandel durch Digitalisierung" Mohr Siebeck 87-, 2020

12 Ray Kurzweil, "The Singularity is Near" 2005

13 Ryan Abbott, "The Reasonable Robot – Artificial Intelligence and the Law" Cambridge

14 Shoshana Zuboff, "The Age of Surveillance Capitalism" Public Affairs 2020

15 Roger Bootle, "The AI Economy" Nicholas Brealey 2019

16 Yoan Hermstrüwer, "Regulating Artificial Intelligence" Springer 204-205, 2020

17 Wolfgang Hoffmann-Riem, "Regulating Artificial Intelligence" Springer 9-, 2020

18 Timo Rademacher, "Regulating Artificial Intelligence" Springer 226-, 2020

19 Thomas Wischmeyer, "Regulating Artificial Intelligence" Springer 76-, 2020

20 Thomas Wischmeyer, "Regulating Artificial Intelligence" Springer 2020

21 Nikolaus Marsch, "Regulating Artificial Intelligence" Springer 39-40, 2020

22 Nadja Braun Binder, "Regulating Artificial Intelligence" Springer 296-, 2020

23 Gabriele Buchholtz, "Regulating Artificial Intelligence" Springer 179-, 2020

24 Christian Ernst, "Regulating Artificial Intelligence" Springer 54-, 2020

25 Christian Djeffal, "Regulating Artificial Intelligence" Springer 283-, 2020

26 Joe Cannataci, "Legal Challenges of Big Data" Edward Elgar 2018

27 Woodrow Barfield Ugo Pagallo, "Law of Artificial Intelligence" Edward Elgar 2018

28 Andrew Murray, "Information Technology Law" Oxford 2019

29 심우민, "IT 법체계 전환의 내용과 방법론" 서울대학교 법학평론 편집위원회 9 : 227-, 2019

30 Xenofon Kontargyris, "IT Laws in the Era of Cloud Computing" Nomos 2018

31 김남욱, "ICT융합기술·서비스의 규제샌드박스에 관한 법적과제" 한국토지공법학회 92 : 289-318, 2020

32 Raymond S. R. Ku, "Cyberspace Law" Wolters Kluger 2020

33 이희정, "Codes만으로 충분한가? 행위는 필요하지 않은가? : 인공지능에 대한 규율을 실행하기" 법학연구소 12 (12): 47-52, 2019

34 Rosario Girasa, "Artificial Intelligence as a Disruptive Technology" palgrave 2020

35 Yadong Cui, "Artificial Intelligence and Judicial Modernization" Springer 2020

36 Andrew Tutt, "An FDA for algorithms" 69 : 83-123,

37 Jason D Lohr, "Algorithmic Regulation" Oxford University Press 224-, 2019

38 Karen Yeung, "Algorithmic Regulation" Oxford University Press 2019

39 Karen Yeung, "Algorithmic Regulation" Oxford University Press 30-, 2019

40 Lee A Bygrave, "Algorithmic Regulation" Oxford University Press 248-249, 2019

41 Alex Griffiths, "Algorithmic Regulation" Oxford University Press 157-, 2019

42 Michael Veale, "Algorithmic Regulation" Oxford University Press 121-, 2019

43 Leighton Andrews, "Algorithmic Regulation" Oxford University Press 204-, 2019

44 Martin Lodge, "Algorithmic Regulation" Oxford University Press 178-, 2019

45 Teresa Scantamburlo, "Algorithmic Regulation" Oxford University Press 72-, 2019

46 Ronald Levin, "Administrative Law and Process" West Academic 2006

47 Karen Yeung, "4차 산업혁명 기술에 대한 영국의 대응" 법학연구소 10 (10): 122-139, 2017