인공지능 기본법의 시행 전 개정 필요성- 규제 조항의 체계·축조상 문제점을 중심으로 - = Why Korea’s AI Framework Act Requires Amendment Before Implementation - A Structural and Textual Analysis -

국문 초록 (Abstract)

2024. 12. 26. 통과된 AI기본법 중 규제 조항은 “고영향 인공지능” 중 하나에 해당하면 단일 부처가 동일 규제들의 묶음을 집행하는 AI에 관한 수평규제체계이다. 캐나다AI·데이터법안처럼 EU AI법보다는 규제총량과 제재강도를 약화시켰으나, 국제정세와 합리에 부합하려면 혁신·개발 선도국들처럼 각 영역을 관할하던 부처들이 AI 활용의 맥락에 따라 기존 규제를 적응함으로써 맞춤형 규제를 적용하는 부문·맥락특유적규제체계에서 출발했어야 했다. AI는 용례·범주·생애주기별로 유발하는 사회문제들이 이질적이어서 이를 간과한 수평규제체계는 백화점식·저인망식 과잉규제에 빠지게된다. 또한, AI의 활용으로 인한 사회문제는 기존 문제로부터 명확히 분리되지 않는경우가 많아 AI기본법이 신설하는 수평규제는 기존 부문별 규제와 병립되어 중복·저촉을 일으킬 것이다. 방통위가 AI이용자보호법까지 제정하고, 개인정보 보호법상 자동화된 결정이나 신용정보법상 자동화평가 규제까지 적용될 경우, AI에 대해 4중규제체제가 형성될 것이다. 이를 저지하려면 고영향 AI를 주무관청이 일괄규제·조사·제재하는 현 수평규제체계를 주무관청이 권익·안전영향 AI 용례별로 프레임워크를 제정하면 각 부처가 이에 근거하여 소관 법령을 정비하는 대안적 체계로 전환해야 한다.
이처럼 체계상 문제가 있을 뿐 아니라, 조항들의 축조도 미비하다. 첫째, AI와 AI시스템의 정의는 합리성이 아닌 의인화에 의존하여 기술적으로 틀리고 법적 정의로 부적절하며 근래의 논의가 미반영되어 있다. 둘째, AI 가치망 참여자들의 정의 및 의무의범위가 불명확하며 주체별 역할분담에 오류가 있다. 셋째, 고영향 AI 규제의 경우 권익·안전영향 용례나 개발자·실행자별로 책무가 세분화되어 있지 않다. 넷째, 생성모델의 규제도 의무 범위가 불명확하고 주체별 역할분담에 오류가 있다. 다섯째, 범용모델의 규제의 적용범위·대상이 국제적 논의의 취지에 완전히 부합하지 않는다. 여섯째, 사실조사·제재 규정에도 문제가 있다. 결론적으로 현 조항은 시행령 등 하위규정으로보완이 가능한 정도에 미치지 못하므로, 시행 전에 추가 법 개정을 완료하여 바로 잡아야 한다.

참고문헌 (Reference)

1 이상우, "통신방송융합환경하의 수평적 규제체계 정립방안에 관한 연구" 정보통신정책연구원 2007

2 강현구, "인공지능의 법적정의와 인공지능기술 발달에 따른 국가의 기본권 보호의무" 8 (8): 2021

3 박상철, "인공지능의 법적 규율 II : 판별모델" 65 (65): 2024

4 박상철, "인공지능의 법적 규율 I: 범용모델과 생성모델" 65 (65): 2024

5 과학기술정보방송통신위원회 수석전문위원, "인공지능 산업 육성 및 신뢰 확보에관한 법률안 등 검토보고"

6 개인정보보호위원회, "안전한 인공지능(AI)⋅데이터 활용을 위한 AI 프라이버시 리스크 관리 모델"

7 신원준 ; 양수빈 ; 이대준 ; 박상철, "미연방기관들의 AI 행정명령(E.O. 14110) 이행 현황과 시사점" (70) : 2024

8 정순섭, "금융소비자보호의 기본 법리 – 금융소비자보호기본법 제정안을 중심으로" (80) : 2016

9 内閣府, "内閣府AI戦略会議(第2回)"

10 국가인권위원회, "「인공지능 법률안」, ‘우선허용⋅사후규제’ 원칙 삭제하고, 인권영향평가 도입해야"

11 박재완, "‘좋은 행정’에서 본 행정현장과 행정학의 과제: 정부실패를 중심으로" 54 (54): 2016

12 Jussupow, Ekaterina, "Why Are We Averse Towards Algorithms? A Comprehensive Literature Review on Algorithm Aversion" 2020

13 European Commission, "White Paper on Artificial Intelligence: a European Approach to Excellence and Trust" 2020

14 Nilsson, Nils J., "The Quest for Artificial Intelligence: A History of Ideas and Achievements" 2010

15 Perry, James L., "The Motivational Bases of Public Service" 50 : 367-, 1990

16 Kurzweil, Ray, "The Age of Intelligent Machines" 1990

17 Nou, Jennifer, "Regulatory Bundling" 128 : 1174-, 2019

18 Organisation for Economic Co-operation and Development, "Recommendation of the Council on Artificial Intelligence"

19 Council of the E.U., "Presidency Conclusions – The Charter of Fundamental Rights in the context of Artificial Intelligence and Digital Change"

20 Schwarz, Paul M., "Preemption and Privacy" 118 : 806-, 2009

21 Canadian Institute for Advanced Research, "Pan-Canadian Artificial Intelligence Strategy"

22 Datatilsynet, "Offentlige myndigheders brug af kunstig intelligens"

23 Government of the Republic of Singapore, "NAIS 2.0: Singapore National AI Strategy –AI for the Public Good for Singapore and the World"

24 Wachter, Sandra, "Limitations and Loopholes in the EU AI Act and AI Liability Directives: What This Means for the European Union, the United States, and Beyond" 26 (26): 671-, 2024

25 Ministry of Innovation, Science and Technology, Israel, "Israel’s Policy on Artificial Intelligence Regulation and Ethics"

26 Swiss Federal Department of Foreign Affairs, "Intelligence and International Rules"

27 "Herausforderungen der künstlichen Intelligenz"

28 Ministry of Innovation, Science and Technology, Israel, "For the First Time in Israel:The Principles of the Policy for the Responsible Development of the Field of Artificial Intelligence Were Published for Public Comment"

29 Organisation for Economic Co-operation and Development, "Explanatory Memorandum on the Updated OECD Definition of an AI System"

30 Russell, Stuart J., "Do the Right Thing: Studies in Limited Rationality" 1991

31 Future of Privacy Forum, "Do LLMs Contain Personal Information? California AB 1008 Highlights Evolving, Complex Techno-Legal Debate"

32 Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit, "Diskussionpapier: Large Language Models und personenbezogene Daten"

33 Poole, David, "Computational Intelligence: A Logical Approach" 2010

34 European Commission, "Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions – A European Strategy for Data"

35 European Commission, "Commission Staff Working Document – Impact Assessment Accompanying the Proposal for a Regulation of the European Parliament and of the Council Laying Down Harmonised Rules On Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts"

36 Government of Canada, "Canada’s Digital Charter in Action: A Plan by Canadians, for Canadians"

37 Niskanen, William A., "Bureaucracy and Representative Government" 1971

38 Haugeland, John, "Artificial Intelligence: The Very Idea" 1985

39 Schalkoff, Robert J., "Artificial Intelligence: An Engineering Approach" 1990

40 Russell, Stuart J., "Artificial Intelligence: A Modern Approach" 2021

41 Ministry of Electronics & Information Technology, India, "Artificial Intelligence Committees Report – D on Cyber Security, Safety, Legal and Ethical Issues"

42 Winston, Patrick H., "Artificial Intelligence" 1992

43 Rich, Elaine, "Artificial Intelligence" 1983

44 Bellman, Richard E., "An Introduction to Artificial Intelligence: Can Computers Think?" 1978

45 민주사회를 위한 변호사모임 디지털정보위원회, "AI법 과방위 통과안에 대한 시민사회 의견서"

46 総務省, "AI事業者ガイドライン(第1.0版)"

47 Department for Science, "A Pro-innovation Approach to AI Regulation: Government Responses"

48 Department for Science, Innovation & Technology, U.K., "A Pro-innovation Approach to AI Regulation"

49 Werbach, Kevin, "A Layered Model for Internet Policy" 1 : 37-, 2002

50 Whitt, Richard S., "A Horizontal Leap Forward: Formulating a New Communications Public Policy Framework Based on the Network Layers Model" 56 : 587-, 2004

51 High-Level Expert Group on Artificial Intelligence, European Commission, "A Definition of AI: Main Capabilities and Scientific Disciplines"

52 石破 茂, "2024年 自民党総裁選挙 石破 茂 政策集"