AI 기술 진화와 규제 패러다임의 전환: 온디바이스 AI와 AI 에이전트를 중심으로 = The Shift in Regulatory Paradigms Following AI Technological Evolution: Focusing on On-Device AI and AI Agents

국문 초록 (Abstract)

이 연구에서는 우리나라 ｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법｣을 중심으로 한 AI 규제가 온디바이스 AI 그리고 AI 에이전트로 대표되는 AI 기술 환경을 포섭하는 데 어떠한 문제점이 있는지를 분석하고, 법･제도적 대응 방안을 제시하였다. 분석 결과, 현재 우리나라 AI 규제는 클라우드 기반 공급자 중심의 정적･수직적 규제 구조를 토대로 설계되어 있어 탈중앙화된 AI 환경에 대응하는 데 한계가 있는 것으로 나타났다. 또한 AI의 개인화, 자율성 및 행위 주체성이 강화됨에 따라 법적 문제가 발생하였을 때 책임 귀속이 어려워지는 문제가 발생할 수 있음을 확인하였다. 이러한 문제를 해결하기 위해 본 연구는 미래 AI 규제가 기술 변화에 탄력적으로 대응할 수 있는 동적･적응적 규제 거버넌스로의 전환 필요성을 지적하였다. 이를 위해 동태성과 비례성･예방성･책임성을 핵심 규제 원칙으로 도출하고, 법률 개선 방향과 함께 위험기반 규제, 설계기반 규제, 반응적 규제 방향에 따른 규제 전략들을 제시하였다.

다국어 초록 (Multilingual Abstract)

This study examines the regulatory challenges arising from the technological paradigm shift toward on-device AI and AI agents, and proposes legal and institutional responses. The analysis finds that the current Artificial Intelligence Act, designed primarily around cloud-based service providers, is too rigid to accommodate new AI environments where AI operates directly on personal devices or acts autonomously. In particular, the independent operation of on-device AI and the self-directed decision-making of AI agents make it difficult to clearly assign liability when problems arise. In response, this study proposes a multi-layered regulatory strategy encompassing flexible and adaptive governance, context-sensitive risk management, and distributed regulation, alongside specific recommendations for reforming the current Act.