「교육기본법」에 대학의 자율성 규정 신설

김법연 대한교육법학회 2020 3. 대한교육법학회 학술대회자료집 Vol.2020 No.12

공공분야 인공지능서비스의 영향평가제도 도입에 관한 연구

김법연 한국정보법학회 2023 정보법학 Vol.27 No.2

인공지능 영향평가는 인공지능이 윤리적이고 합법적으로 사용되도록 초기 단계에서 부정적 영향에 대한 평가를 실시하고 이를 예방하는 것을 목적으로 실시하는 것이다. 공공서비스와 정부의 행정업무 등에 인공지능을 적용하는 사례가 증가하고 있고, 이에 따라 공공서비스에도 인공지능의 위험과 부작용이 동일하게 나타나고 있는 상황이다. 이에 본 논문에서는 공공분야에서 인공지능을 도입하거나 활용할 경우 인공지능 영향평가를 실시할 수 있도록 제도 개선이 필요함을 강조하고 있다. 인공지능에대한 규제 등 통제 수단이 마련되어 있지 않는 상황에서 인공지능의 부정적 영향을완화할 수 있는 수단으로서 인공지능 영향평가의 도입을 적극 고려할 필요가 있기 때문이다. 공공분야에서의 인공지능 활용은 국민의 권리와 의무에 미치는 영향이 크다는 점에서 더욱 더 통제가 필요한 상황임을 감안하여야 한다. 공공분야의 인공지능 영향평가에는 인공지능시스템의 기능적 영향을 평가하는 것뿐만 아니라 인공지능시스템과 서비스의 도입으로 인한 사회적 효용가치, 국민의 기본권에 미치는 영향 등에 대한 평가도 포함될 수 있어야 한다. 또한 인공지능 영향평가가 안정적으로 운영될 수 있도록 법적 근거를 마련하고, 여기에는 이를 관리하고운영할 거버넌스 체계의 수립, 평가의 대상의 선별 기준, 주요 평가 항목, 평가 항목선정 방법과 절차, 평가 결과에 대한 피드백, 영향평가 실시에 대한 지원 등에 관한규정이 함께 포함되어야 할 것이다. Artificial Intelligence impact assessment aims to assess and mitigate negative impacts from the initial stag e, ensuring the ethical and leg al use of AI. With the g rowth of AI applications in public services and government administration, the risks and negative impacts of AI in these areas are equally apparent. This paper highlights the need for systematic improvements to enable AI impact assessments when implementing or using AI in the public sector. In situations where AI regulations or other control measures don’t exist, it is crucial to proactively consider the implementation of AI impact assessments as a means to mitigate the negative effects of AI. Given the significant impact that AI applications in the public sector can have on citizens’ rights and responsibilities, it’s appropriate to consider the need for tighter controls. AI impact assessments in the public sector should include not only the functional impact assessment of AI systems, but also the assessment of the social utility value and the impact on citizens’ fundamental rights resulting from the use of AI systems and services. It’s necessary to establish legal grounds for the stable operation of AI impact assessments, which should include the establishment of a governance system for their management and operation, criteria for the selection of targets for assessment, main assessment items, methods and procedures for the selection of assessment items, feedback on assessment results, and regulations related to support for the conduct of impact assessments.

디지털트윈 시대의 정보보호 정책과제

김법연 국토연구원 2021 국토 : planning and policy Vol.474 No.-

인공지능 통제수단으로서 주요국 규제 입법의 동향과 시사점

김법연 유럽헌법학회 2023 유럽헌법연구 Vol.- No.42

주요국은 인공지능 위험을 통제하기 위하여 인공지능에 대한 규제 입법을 마련하고 있다. 인공지능으로 인한 위험을 구체화하는 것으로부터 출발해서, 위험성이 높은 인공지능에 대하여는 다양한 통제수단들을 적용하고 있다. 인공지능을 개발ㆍ적용ㆍ배포ㆍ사용하는 사업자 등에 대하여 데이터 관리, 인공지능시스템과 서비스에 대한 품질관리, 위험관리, 기록관리, 개인정보보호 등의 의무를 부과하는 것을 주요 내용으로 한다. 사용자에 대해서는 설명요구권이나 피해구제를 적절하게 받을 수 있도록 권리를 보장하고 있다. 인공지능의 자율성이나 예측불가능성, 불확실성 등으로 인해 그 동안의 규제 체계 내에서 포섭하지 못하는 문제점들을 해소하기 위해 다양한 위험 통제수단들을 마련하고 있는 것이다. 이에 반해 한국은 아직까지는 위험 통제에 대한 것보다 법제도적 관심이 산업의 진흥이나 기술 발전을 위한 기반 마련이나 이를 통한 국가경쟁력 확보 등에 있는 듯하다. 인공지능기술이 빠르게 발전하고 있고 특히 최근에는 ChatGPT와 같은 생성형 AI 등의 등장으로 변화가 급격하게 다른 양상으로 일어날 것으로 예상되고 있다. 인공지능 위험은 더욱 불확실하고 예측 불가능한 상태로 나타날 가능성이 높아지고 있다. 이러한 상황에서 인공지능 기술의 효용은 극대화하고 위험성은 최소화하여 기술의 이기를 누릴 수 있는 제도적 기반을 마련하는 것은 우리 사회의 중요한 과업이라 할 수 있다. 이에 본 논문은 주요국에서 인공지능의 위험을 통제하는 방식과 내용을 검토ㆍ비교분석을 실시하였다. 주요국의 입법동향 확인을 통해 시사점을 도출하고, 국내 인공지능 규제 도입시 적정한 설계 방향과 통제 수단들을 제안하였다. Major countries have establsihed the legislative regulatations to control the risks of AI. Starting from concretizing the risks associated with AI, various control measure are applied to AI with higher risks. For businesses involved in the development, application, deployment, use of AI, the main focus of the control measures is on the data management, quality control of AI systems and services, risk management, record management, personal information protection. For users of high-risk AI systems, the focus is on ensuring the right to request explanations and receive appropriate compensation for damages. These measures are being put in place to overcome the issues that traditional regulatory systems were unable to address due to AI's autonomy, unpredictability, and uncertainty. In contrast, South Korea seems to be more concerned with the legal framework for industrial promotion and technological development, and for securing national competitiveness, rather than risk control. The rapid development of AI technology, especially with the emergence of generative AI such as ChatGPT, is leading to abrupt and significant changes. Therefore, the possibility of AI risks appearing in an increasingly uncertain and unpredictable state is high. In such a situation, maximizing the utility of AI technology and minimizing its risks to enjoy its benefits is an important task for our society. This paper has reviewed and comparatively analyzed how major countries control the risks of AI. By identifying the legislative trends in major countries, By identifying the legislative trends in major countries, we have drawn insights and proposed appropriate design directions and control measures for the introduction of AI regulations in South Korea.

공공영역에서의 개인정보 수집과 활용을 위한 제도적 개선방안 ― 공공목적의 CCTV 등을 통해 수집한 영상정보의 활용을 중심으로 ―

김법연 한국행정법학회 2022 행정법학 Vol.23 No.1

최근 인공지능 기술을 기반으로 하는 새로운 기술의 활용이 가능해지면서 국가기관에 의한 정보수집 및 활용의 범위와 방식도 다양하게 진화하고 있다. CCTV의 경우 범죄예방, 보안유지, 시민안전 등의 목적으로 다양하게 설치・운영되고 있는데, CCTV에도 데이터분석이나 인공지능 기술 등이 적용되면서 보다 지능적으로 정교하게 활용이 가능해졌다. 안면인식 기술을 통해 CCTV에 찍힌 영상을 통해서 개인을 특정하는 것이 가능해졌고, CCTV의 정보만으로 빠른 시간내에 용의자를 특정・추적하는 것이 가능해졌다. 실시간으로 범죄 현장을 모니터링하는 것도 물론이다. 이렇듯 국가기관에 의한 정보수집과 활용의 범위가 넓어지고 가능성이 높아짐에 따라 자연스럽게 개인정보의 보호에 관한 필요성도 함께 논의되고 있다. 국가가 고도의 기술을 활용함에 따라 정보의 수집, 보유, 활용 능력이 개인 스스로 통제할 수 있는 상황을 벗어남에 따라 그 통제의 필요성은 더욱 강조되고 있다. 최근 개인정보에 대한 가치와 중요성이 이전의 것과는 다른 평가를 받고 있다는 점은 물론, 정보가 대량으로 쌓이고 쉽게 공유될 수 있는 환경이 조성됨에 따라 국가감시의 우려로 변질되고 있다는 점, 국가에 의한 다양한 목적의 정보접근과 대량의 정보축적의 필요성은 개인의 사생활의 자유와 개인정보자기결정권의 침해로 연결되기 때문이다. 국가기관으로 하여금 CCTV를 통한 정보의 활용이 허용되고 점차 확장되고 있는 상황에서 정보주체의 권리 침해에 대한 국가기관의 행위를 통제하거나 개인정보주체의 권리를 보장하기 위한 법률적 근거들이 충분하다고 평가하기는 어렵다. 이에 본 논문은 이러한 국가기관에 의한 정보수집의 현황 특히 국가기관에 의한 CCTV 활용과 영상정보 수집에 대한 제도적 근거, 그리고 개인정보에 관한 보호 체계의 문제점 등을 살펴보고 개선사항을 제시하고자 한다.

정부서비스에서의 인공지능 도입 및 활용을 위한 법제도적 쟁점과 개선과제

김법연 한국IT서비스학회 2023 한국IT서비스학회지 Vol.22 No.4

Expectations for artificial intelligence technology are increasing, and its utility value is growing, leading to active use in the public sector. The use of artificial intelligence technology in the public sector has a positive impact on aspects such as improving public work efficiency and service quality, enhancing transparency and reliability, and contributing to the development of technology and industries. For these reasons, major countries including Korea are actively developing and using artificial intelligence in the public sector. However, artificial intelligence also presents issues such as bias, inequality, and infringement of individuals' right to self-determination, which are evident even in its utilization in the public sector. Especially the use of artificial intelligence technology in the public sector has significant societal implications, as well as direct implications on limiting and infringing upon the rights of citizens. Therefore, careful consideration is necessary in the introduction and utilization of such technology. This paper comprehensively examines the legal issues that require consideration regarding the introduction of artificial intelligence in the public sector. Methodological discussions that can minimize the risks that may arise from artificial intelligence and maximize the utility of technology were proposed in each process and step of introduction.

디지털 대전환 시대 전자정부법제 개선의 쟁점과 이슈

김법연 한국IT서비스학회 2021 한국IT서비스학회 학술대회 논문집 Vol.2021 No.-

교육제도법률주의에 대한 이론적 검토

김법연 대한교육법학회 2020 3. 대한교육법학회 학술대회자료집 Vol.2020 No.12

행정공간정보 서비스의 활성화를 위한 전략 방안

김법연(金法延),박세진(朴洗瑨),유지연(柳知連),김동욱(金東旭),권헌영(權憲永) 한국지역정보화학회 2016 한국지역정보화학회지 Vol.19 No.2

현행 행정공간정보체계는 정책적 관심과 국민수요가 크게 증가하고 있음에도 국가공간정보 정책의 일분야로 추진되어 오면서 최근의 사회적·기술적·정책적 환경변화에 대응하기에는 다소 한계를 보이고 있다. 이에 본 연구는 행정공간정보 및 체계의 개념과 정책현황, 추진체계 등에 대한 분석을 통하여 현행 행정공간정보체계의 문제점을 도출하고 행정공간정보의 원활한 활용과 민・관 협업 중심의 다양한 서비스 창출을 위한 전략방안을 제언한다. Although the current Administration Geographic Information System has drawn attention on a political level and also shown an increasing growth rate of private demand, its inherent limitations of the system has emerged to a certain degree in coping with a recent trend highly valuing the public information open policy, open-government, and cooperative efforts on a private level, as it has been recognized as a part of National Geographic Information Policy. This study suggested strategic approaches such as establishment of institutional grounds and a goal of its policy from a macroscopic view point, and organization for systematical implementing, in order to develop the current system into an advanced level of future-oriented National Geographic Information System.

공개된 개인정보의 활용 및 보호에 관한 법적 쟁점과 입법 동향

김법연(Kim Beop-Yeon),주문호(Joo Moon-Ho) 한국정보보호학회 2021 情報保護學會誌 Vol.31 No.2

공개된 개인정보에 대한 법적 해석에 대하여 많은 논의가 존재한다. 인터넷이나 SNS를 통해 공개한 개인정보에 대해서는 보호할 필요가 없다고 주장하는 견해가 있는 반면 공개가 되었다 하더라도 다른 사람에 의하여 그것을 수집·활용하게 하는 것을 전제로 한 것이 아니기 때문에 여전히 정보주체의 동의가 필요하다는 견해도 존재한다. 개인정보의 가치증대에 따라 공개된 개인정보를 활용하고자 하는 수요는 많아지고 있으나 아직까지 「개인정보보호법」과 관련 법률에서는 이를 명확하게 규정하고 있지 않고 있어 논의는 지속될 것으로 보인다. 이러한 상황속에서 해외의 주요국가들은 이 문제를 어떻게 해결하고 법제도적으로 대응하고 있는지에 대해서 살펴보고, 공개된 개인정보의 법적 취급과 접근방식에 대해 간략하게 제시해보고자 한다.