인공지능에 기반한 자동화된 행정결정의 행정법적 쟁점 = Administrative Legal Issues of Automated Administrative Decision Based on Artificial Intelligence

다국어 초록 (Multilingual Abstract)

In the intelligent information society due to the development of science and technology, artificial intelligence is no longer a stranger, but a part of our society, and this is the same in the field of public administration. Since law is a reflection of social order, it is one of the important tasks of modern law to include the situation of the 4th Industrial Revolution centered on artificial intelligence into the legal system.
However, the traditional area of law centered on humans is unfamiliar with artificial intelligence that rejects human intervention, and in the case of automatic administrative decisions by artificial intelligence, there is a high possibility of conflict and contradiction with the traditional administrative law system. For this reason, the administrative law system should make efforts for gradual transformation in preparation for the era of artificial intelligence administration, and its basic direction should be consistent with democracy and the rule of law, which are recognized as fundamental principles and values of law.
Article 20 of the General Act On Public Administration in Korea also legislatively accepts artificial intelligence administration by explicitly stipulating completely automatic disposition. However, it must be based on the law and only allows binding dispositions in which discretionary judgment is not recognized, so it is not a general permission, but a limited permission, which can be seen as due to the consideration of the rule of law. Nevertheless, individual laws are still lukewarm about accepting automatic disposition, and the legal system also has many regulations that contradict or conflict with automatic disposition, revealing many legal issues in the administrative law system.
First of all, it is reasonable to limit it to binding dispositions in terms of the problem of the application area, but it is questionable whether the traditional discussion on the distinction between binding dispositions and discretionary dispositions can be applied to automatic disposition, considering the characteristic that artificial intelligence has autonomy through the ability to learn on its own.
The second is the issue of administrative procedures, it is clear that administrative procedures are an important factor in realizing the rule of law, but traditional procedural legal regulations are practically difficult for automated administration based on algorithms. In particular, in automated administration based on artificial intelligence, securing transparency in administrative decisions is more important than simply procedural guarantees, so it is necessary to reorganize procedural legislation considering the characteristics of artificial intelligence.
In the case of administrative relief, even in the case of automated administrative decisions, there is no particular problem in recognizing the nature of the disposition in relation to the possibility of administrative litigation. However, the application of negligence responsibility, a traditional framework for liability for damages, is a major factor that makes it difficult to remedy rights in artificial intelligence administration. The ultimate goal of the administrative law system is administrative relief, and there is a great need to improve the administrative relief system that can faithfully operate on automated administrative decisions based on artificial intelligence.
Artificial intelligence is an irresistible trend today, and the law cannot ignore it.
However, since the law based on justification cannot be buried in the scientific and technological characteristics of artificial intelligence, efforts are needed to bring artificial intelligence into the world of law to harmonize with democracy and the rule of law, which are the fundamental values of law.

국문 초록 (Abstract)

과학기술의 발전에 따른 지능정보화사회에서 인공지능은 더 이상 낯선 존재가 아닌 우리 사회의 일부가 되고 있고, 이는 공행정의 영역에서도 마찬가지이다. 법은 사회질서의 반영인 점에서 인공지능을 중심으로 하는 4차산업혁명 상황을 법체계 내로 포섭시키는 것은 현대 법학의중요한 과제의 하나이다. 그러나 인간을 중심으로 하는 전통적인 법의 세계는 인간의 개입을거부하는 인공지능에 친하지 않은바, 특히 인공지능에 의한 자동행정결정의 경우에는 전통적인행정법 체계와 충돌 및 모순의 가능성을 갖는다. 그러한 점에서 인공지능행정 시대에 대비한행정법제의 점진적 변혁 노력이 불가피한바, 그 기본적 방향은 여전히 법의 근본적 원리와 가치인 민주주의 및 법치주의와의 부합되어야 한다.
우리나라 ｢행정기본법｣ 제20조 역시 완전자동적 처분을 명시적으로 규정함으로써 인공지능행정을 입법적으로 수용하고 있다. 다만 법률에 근거가 있어야 한다는 법률유보 원칙 하에서재량이 인정되지 않는 기속행위에 대해서만 허용하고 있는바, 일반적 허용이 아닌 제한적인 허용을 하고 있고, 이는 법치주의적 고려에 따른 것으로 볼 수 있다. 그럼에도 개별 법제는 아직자동적 처분의 수용에 미온적이며, 법체계상으로도 자동적 처분과 모순⋅충돌되는 규정이 다수인바, 행정작용법적 측면에서는 물론 행정구제법적으로도 많은 법적 쟁점을 노정하고 있다.
우선, 적용영역과 관련하여 기속행위에 한정하는 것은 원리적으로는 타당하나, 스스로 학습하는 인공지능의 자율성을 고려할 때 자동적 처분에 있어 전통적인 기속행위와 재량행위의 구별논의가 적절한지는 의문인바, 인공지능행정에 부합하는 법제적 정비가 필요하다.
둘째는 행정절차의 문제로서, 행정절차는 법치주의의 실현에 중요한 요소임은 분명하나, 알고리즘을 기반으로 하는 자동화된 행정에 있어서는 절차적 규율은 현실적으로 어렵다. 특히 인공지능에 기반한 자동화된 행정에 있어서는 단순히 절차적 보장보다 행정결정의 투명성의 확보가중요한바, 인공지능의 특성을 고려한 절차법제의 정비가 필요하다.
행정구제의 경우, 자동화된 행정결정의 경우에도 행정소송의 가능성과 관련하여 처분성의인정은 특별한 문제가 없다. 다만 인공지능행정의 자율성으로부터 본안문제로서 위법의 판단대상과 범위, 그 기준 등 설정이 용이하지 않으며, 특히 손해전보제도와 관련하여 전통적인 틀인과실책임주의의 적용은 인공지능행정에 대한 권리구제를 어렵게 하는 주요 요소이다. 행정법의궁극적 지향점은 행정구제라 할 수 있는바, 인공지능에 기반한 자동화된 행정결정에 부합하는행정구제제도 및 법제의 정비필요성이 크다.
인공지능은 오늘날 거스를 수 없는 대세이며, 법도 이를 도외시할 수 없다. 반면 당위를 본질로하는 법이 인공지능이 가지는 과학기술적 본질에 매몰될 수는 없는바, 법의 근본적 가치인 민주주의와 법치주의에 부합하도록 인공지능을 법의 세계로 끌어들이는 노력이 필요하다. 법치주의의본질인 자유와 권리에 대한 제한과 통제를 앞으로는 새로운 ‘전산화된 군주’에게 맡겨야 할지도모른다는 인공지능시대의 우려가 현실이 되지 않도록 법은 그 보루의 역할을 하여야 한다.

참고문헌 (Reference)

1 김중권, "행정자동결정(자동적 행정행위)의 실체적 문제점에 관한 소고" 28 (28):

2 김중권, "행정에 인공지능시스템 도입의 공법적 문제점" 법조협회 69 (69): 53-77, 2020

3 박균성, "행정법강의" 박영사 2022

4 김남철, "행정법강론" 박영사 2019

5 김대인, "행정기본법과 행정절차법의 관계에 대한 고찰" 한국법제연구원 (59) : 27-66, 2020

6 법제처, "행정기본법 해설서" 한결엠 2021

7 홍정선, "행정기본법 해설" 박영사 2021

8 조인성, "행정 분야에서 인공지능(AI)의 적용 가능성 - 독일에서의 논의를 중심으로 -" 법학연구소 25 (25): 77-104, 2022

9 양천수, "탈인간중심적 법학의 가능성 - 과학기술의 도전에 대한 행정법학의 대응 -" 행정법이론실무학회 (46) : 1-24, 2016

10 홍민정 ; 강현호, "지능정보사회에서의 완전자동 행정행위" 법학연구원 31 (31): 143-173, 2019

11 박가림, "자동적 행정행위의 현황과 전망" 행정법이론실무학회 (68) : 121-147, 2022

12 장보은, "인공지능을 이용한 행위에 대한 법적인 평가 - 사법(私法)상 논의를 위한 시론(試論 또는 始論) -" 법학연구소 43 (43): 43-71, 2019

13 황종성, "인공지능시대의 정부 : 인공지능이 어떻게 정부를 변화시킬 것인가?" (3) : 2017

14 김중권, "인공지능시대에 완전자동적 행정행위에 관한 소고" 법조협회 66 (66): 146-182, 2017

15 김광수, "인공지능법 입문" 내를 건너서 숲으로 2021

16 김대인, "인공지능과 행정법총론체계의 변화" 법학연구소 13 (13): 108-128, 2020

17 김중권, "인공지능(지능형)시스템의 도입을 위한 법적 규율의 문제" 22 (22):

18 신현탁, "인공지능(AI)의 법인격 – 전자인격(Electronic Person) 개념에 관한 소고 -" 대한변호사협회 (478) : 45-64, 2018

19 임성훈, "인공지능 행정이 행정절차･행정소송에 미치는 영향에 대한 시론적 고찰" 행정법이론실무학회 (62) : 135-168, 2020

20 이희옥, "인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구" 행정법이론실무학회 (63) : 257-294, 2020

21 김재선, "인공지능 안전과 책임 확보를 위한 법제 논의에 관한 검토 — 유럽연합 인공지능 관리 법제 논의에 기초하여 —" 행정법이론실무학회 (64) : 157-181, 2021

22 김진우, "인공지능 시스템의 책임능력: 전자인 제도의 도입 필요성에 관한 논의를 중심으로" 중앙법학회 23 (23): 7-51, 2021

23 정남철, "인공지능 시대의 도래와 디지털화에 따른 행정자동결정의 법적 쟁점 ― 특히 행정기본법상 자동적 처분의 문제점을 중심으로 ―" 한국공법학회 50 (50): 231-252, 2021

24 송호영, "인공지능 로봇은 법인격을 가질 수 있는가?" 한국법학원 184 : 83-113, 2021

25 윤상오 ; 정필운 ; 이해원 ; 박소영, "인공지능 기반 자동화행정의 주요 쟁점에 관한 연구" 한국공공관리학회 34 (34): 109-132, 2020

26 김도승, "인공지능 기반 자동행정과 법치주의" 미국헌법학회 30 (30): 105-138, 2019

27 김광수, "인공지능 과학기술과 행정법학" 법학연구소 11 (11): 37-76, 2022

28 계승균, "법규범에서 인공지능의 주체성 여부" 법조협회 66 (66): 158-196, 2017

29 최승필, "공행정에서 AI의 활용과 행정법적 쟁점 ― 행정작용을 중심으로 ―" 한국공법학회 49 (49): 207-242, 2020

30 김중권, "「행정기본법」의 보통명사 시대에 행정법학의 과제 Ⅲ ― 「행정소송법」 등의 개혁을 중심으로 ―" 한국공법학회 49 (49): 111-137, 2021