AI 안면인식 기술의 활용과 범죄수사의 문제점

송기복 한국경찰법학회 2024 경찰법연구 Vol.22 No.1

AI 기술은 점점 고도화되어 인간의 시각기능, 청각기능, 뇌기능에 이르기까지 이를 대체하고 있다. 이 가운데 화상인식은 드론, 안면인증 시스템, 화상 진단 등 다양한 분야에서 활용이 진행되고 있다. 화상인식은 인간의 시각과 마찬가지로 물체의 형상과 색, 문자, 안면 등을 인식하고 이해하는 기술이다. 화상인식 가운데 안면인식은 주로 안면의 특징 정보를 바탕으로 사진 및 영상에서 사람의 안면을 인식하고 분석하여 개인의 신원을 판단하는 것이다. 이것은 영상 또는 사진을 스캔하고 인식된 사람의 안면 정보를 알고리즘을 통해 얼굴의 특징 정보를 안면 데이터베이스와 비교하여 최종적으로 특정인의 신원을 판단하는 것이다. 안면인식 기술은 안면의 특징정보에 연령 및 성별을 포함한 속성을 감지하고 판단하여 특정인의 검증과 식별, 개인의 행동에 대한 관찰과 분석이 가능하다. 따라서 일반적으로 공항 입국심사, 빌딩이나 주택 등의 입구에 설치된 안면인식 장치는 안면의 특징을 분석하여 서로 다른 개인을 식별하고, 이를 통해 개인 확인 및 검증에 이용되며 본인 인증을 위한 수단으로 대체되고 있다. AI 기술과 고도의 알고리즘이 접목되면서 안면인식 기술은 개인식별부터 범죄 예방·수사에 활용되기까지 오래 걸리지 않았다. 안면인식 기술이 중요시되어 범죄예방과 수사에 활용되고 있는 만큼 이러한 기술의 적용에 대한 문제도 점차 나타날 것이다. 본고에서는 안면인식 기술의 개념과 활용에 대하여 개관하고 범죄수사와 연결하여 검토한다. 범죄수사에서 활용되는 안면인식 기술은 데이터 수집과 연결의 문제, 프라이버시 침해 그리고 감시사회의 문제, 프로파일링의 문제 등이 있다. 이러한 문제점으로 인한 피해를 줄이기 위해서는 법률상에 데이터의 사용목적과 범위, 절차 등을 명시해야 하며 제3자 감독기구인 소위 ‘수사정보보호위원회’를 설치하고 프라이버시를 보호하기 위하여 제도적으로 보완할 것을 제언하고자 한다. AI technology is increasingly advanced and replacing human visual, auditory, and brain functions. Among them, image recognition is being used in various fields such as drones, face authentication systems, and image diagnosis. Image recognition, like human vision, is a technology that recognizes and understands the shape, color, text, and face of an object. Among image recognition, facial recognition is mainly about determining an individual's identity by recognizing and analyzing a person's face from photos and images based on facial feature information. This is to finally determine the identity of a specific person by scanning an image or photo and comparing the recognized person's face information with the facial database through an algorithm. Facial recognition technology can verify and identify specific people and observe and analyze individual behavior by detecting and judging attributes, including age and gender, in the feature information of the face. Therefore, facial recognition devices installed at the entrance of airport immigration, buildings, or houses generally analyze the characteristics of the face to identify different individuals, and through this, they are used for personal verification and verification and are being replaced as a means for self-authentication. With the combination of AI technology and advanced algorithms, facial recognition technology did not take long from personal identification to crime prevention and investigation. As facial recognition technology is important and is being used in crime prevention and investigation, the issue of the application of these technologies will gradually emerge. In this paper, the concept and use of facial recognition technology are outlined and reviewed in connection with criminal investigation. Facial recognition technologies used in criminal investigation include problems of data collection and connection, privacy infringement, surveillance society problems, and profiling problems. In order to reduce the damage caused by these problems, the purpose, scope, and procedure of data use must be specified in the law, and it is suggested to establish a third-party supervisory body, the so-called Investigation Information Protection Committee, and to systematically supplement it to protect privacy.

인공지능(AI) 시대의 도래와 법제도의 방향에 관한 논의 - 독일의 인공지능 정책을 중심으로 -

송기복 한국경찰법학회 2020 경찰법연구 Vol.18 No.2

Artificial intelligence is gradually moving away from the field of research and is being used throughout everyday life, including self-driving, chatbot, biometric recognition, smart home, and medical devices. In addition, the utilization and application of big data is affecting various fields such as society, economy, politics, and law. Already in major advanced countries, discussions have been held to adjust the current legal system for the protection of data protection and privacy in telecommunications, industry, medical and financial sectors, the risk of discrimination by artificial intelligence, the issue of responsibility for artificial intelligence systems, and the establishment of ethical and artificial intelligence policy systems for artificial intelligence. Meanwhile, Germany has developed a high level of artificial intelligence research infrastructure (Infra) in connection with the federal government, state governments, research institutes, industries, and universities, and has developed widely in social, economic, and industrial sectors to make useful use of the benefits and convenience that artificial intelligence technology will bring. On the other hand, the legal system is being reviewed to cope with changes that will occur in various fields such as society, ethics, legal system, and culture due to the emergence of artificial intelligence technology and to prepare for the risks posed by artificial intelligence. First of all, based on the ethics needed in a series of processes such as designing, manufacturing, and utilizing artificial intelligence through technical standardization, and academic dialogue such as social, economic, and cultural sectors, the expansion of convergence on artificial intelligence's social impact, future effects by technology, and discussions on designing artificial intelligence to prevent artificial intelligence from threatening human safety. In order to establish a legal system that can utilize artificial intelligence technology without conflict with existing social values and legal systems, this school intended to provide a forum for discussion on the direction of artificial intelligence policy in Korea, although it is insufficient. 인공지능은 점차 연구의 장(場)에서 벗어나 자율주행, 채팅봇, 생체 인식, 스마트 홈, 의료 기기 등 일상생활 곳곳에서 활용되고 있다. 또한 빅데이터의 활용과 응용은 사회·경제·정치·법률 등 다양한 분야에서 영향을 미치고 있다. 이미 주요 선진국에서는 자율주행 및 얼굴 인증 시스템의 실용화에 따른 안전성과 개인정보 보호를 위해 통신·산업·의료·금융 분야 등에서 데이터 보호와 프라이버시 보호를 위한 규제와 인공지능에 의한 차별의 위험성, 인공지능 시스템에 대한 책임의 문제, 인공지능의 윤리 및 인공지능 정책 시스템 구축을 위한 현행 법제도의 조정을 위한 논의가 지속되고 있다. 한편 독일은 연방정부와 주 정부, 연구기관, 산업, 대학 등과 연계하여 고도의 인공지능 연구 인프라(Infra)를 구축하고 인공지능 기술이 가져올 이익과 편리함을 유용하게 활용하기 위하여 사회·경제·산업 분야 등에서 폭넓게 전개해 나가고 있다. 한편으로 인공지능 기술의 대두로 사회·윤리·법제도·문화 등 다양한 분야에서 초래될 변화에 대응하고 인공지능이 초래할 위험성에 대비하고자 법제도의 검토를 진행하고 있다. 우선 기술적 표준화를 통한 인공지능의 설계·제조·활용 등 일련의 과정에서 필요한 윤리와, 사회·경제·문화 분야 등 학제적 대화를 바탕으로 인공지능의 사회적 영향, 기술에 의한 미래의 영향에 관한 융합의 확대, 인공지능 기술이 인간의 안전을 위협하지 않도록 인공지능을 설계하는 논의를 지속하고 있다. 본고에서는 인공지능의 발전과 함께 기존의 사회적 가치관, 법제도와 충돌하지 않고 인공지능 기술을 활용할 수 있는 법제도의 정착을 위하여 독일의 인공지능 정책을 참조하여 부족하지만 우리나라의 인공지능 정책의 방향을 제시하는 논의의 장을 마련하고자 하였다.

의료분야에서 인공지능(AI) 활용과 법적 논점

송기복 한국경찰연구학회 2023 한국경찰연구 Vol.22 No.1

With the advent of deep learning, which learns on its own and sets new judgment standards, the medical field will grow rapidly as a vast amount of data is integratedly used, interpreted, and learned by artificial intelligence (AI). In particular, surgical support robots will integrate various image data and provide optimal treatment methods to patients based on information on electronic medical records. Furthermore, genome maps will be interpreted to predict the occurrence of diseases through combination with clinical information, and patient data will be monitored to prevent serious diseases according to the patient's medical risk and to respond appropriately to emergency situations. Therefore, the use of artificial intelligence (AI) in the medical field is very beneficial to doctors and patients. However, the following legal issues may arise. First of all, diagnosing using artificial intelligence (AI) may cause problems with the patient's right to self-determination or diagnosis and administration of the patient's disease on the premise of the doctor's duty to explain. Third, surgical robots pose a risk of life infringement, so there is also a problem with the doctor's duty of care using them, and finally, to what extent secondary or accidental findings should be provided to patients in the interpretation and management of genetic information by artificial intelligence (AI). This paper reviewed legal issues on these issues. 스스로 학습하고 새로운 판단기준을 설정하는 딥러닝의 등장으로 방대한 양의 데이터가 인공지능(AI)에 의해 통합적으로 해석․학습됨으로써 의료분야가 비약적으로 성장하고 있다. 특히, 수술지원 로봇이 다양한 영상 데이터를 통합하고, 전자진료기록카드의 정보를 바탕으로 환자에게 최적의 치료방법을 제공할 것이다. 나아가 게놈 지도를 해석하여 임상 정보와의 조합을 통해 질병의 발생을 예측하고 환자 데이터의 모니터링을 통해서 환자의 의학적 위험도에 따라 심각한 질환을 방지하고 응급상황에 적절한 대응이 가능해질 것이다. 따라서 의료분야에서 인공지능(AI)의 활용은 의사와 환자에게 매우 유익하게 된다. 그러나 다음과 같은 법적문제가 발생할 수 있다. 우선, 인공지능(AI)을 활용하여 진단하는 경우 의사의 설명의무를 전제로 하는 환자의 자기결정권이나 환자의 병명진단과 투약에 대한 문제가 생길 수 있고 둘째, 의사의 과실과 관련해서 인공지능(AI)을 활용한 진단으로 의사에게 전원의무가 부과되는 상황이 발생할 것이며, 인공지능(AI)이 전문의가 아님에도 질환을 진단․제시하는 경우도 발생할 수 있다. 셋째, 수술지원 로봇은 생명을 침해할 위험성을 내포하고 있으므로 이를 활용하는 의사의 주의의무에 대한 문제도 있으며, 마지막으로 인공지능(AI)에 의한 유전자 정보의 해석과 관리에 있어서 부차적 발견이나 우연적 발견의 결과를 환자에게 어느 범위까지 제공해야 하는지가 문제가 될 수 있다. 본고는 이러한 문제에 대하여 법적 논점을 검토하였다.

자율주행자동차의 도입을 위한 논의 -정보교환, 운전행위, 법·제도를 중심으로-

송기복,정용기 원광대학교 경찰학연구소 2020 경찰학논총 Vol.15 No.3

In order to commercialize self-driving cars, comprehensive and organic discussions covering various areas are needed rather than a single point of view that they are technical and industrial related to autonomous driving. Along with the development of economy, industry and technology, the relationship of the entire social structure, including legal, administrative and cultural domains, shall be established. In this school, we looked at major issues from a system, social, legal, and institutional perspective for introducing self-driving cars. First of all, the elements needed for autonomous driving will be various information. Information takes place between self-driving cars and various devices, but the exchange of information has security vulnerabilities in itself. In order to address these security issues, it is necessary to ensure safety by continuous updates of the software and to introduce open source software that can improve the quality and security of the software. Second, human driving capacity and driving error were discussed for Level 3 self-driving cars where concepts of support for high-speed driving and self-driving cars that do not presuppose human intervention intersect. Although prior research was insufficient, it emphasized the need for standardization that had been verified by automobile manufacturers, artificial intelligence, human engineering, brain science experts, and lawyers for the discretion of the time of transition and the response of human operation after transition . Third, the driving algorithm of self-driving needs to be implemented in a way that responds to mutual traffic behavior and recognizes and avoids risks. In addition, it is necessary for autonomous driving systems to lay the groundwork for algorithms that focus on Immediate Creativity of traffic rules, and if they have such functions, standards for sharing responsibilities among automobile manufacturers, algorithm designers, users of autonomous vehicles, and stakeholders are needed. Therefore, it is necessary to further research from the academic perspectives of computer science, artificial intelligence, humanities and law related to autonomous driving. 자율주행자동차의 상용화를 위해서는 자율주행과 관련된 기술적·산업적이라는 단일 시점에서의 논의 보다는 다양한 영역을 망라하는 종합적·유기적인 논의가 필요하다. 경제·산업·기술의 발전과 더불어 법률·행정·문화적 영역을 포함한 사회구조 전체의 관계를 설정하여야 한다. 본고에서는 자율주행자동차 도입을 위한 시스템적, 사회적, 법·제도적 관점에서 주요 논점을 살펴보았다. 우선, 자율주행에 필요한 요소는 다양한 정보일 것이다. 정보교환은 자율주행자동차와 다양한 기기 간에 이루어지나 정보의 교환 그 자체로 보안상의 취약성을 갖고 있다. 이러한 보안상의 문제에 대응하기 위하여 소프트웨어의 지속적인 업데이트에 의한 안전 확보와 소프트웨어의 품질과 보안의 개선이 가능한 오픈소스 소프트웨어의 도입이 필요하다. 둘째, 보조운전 지원 개념과 인간의 개입을 전제로 하지 않는 자율주행자동차 개념이 교차하는 레벨 3단계의 자율주행자동차에 대한 인간의 주행능력과 운전오류에 대해 논의하였다. 선행 연구는 부족하지만 “운전 전환 시기의 재량과 전환 이후 인간의 운전 대응”을 위한 자동차 제조사와 인공지능·인간공학·뇌과학 전문가·법률가 등에 의한 검증을 거친 “표준화”의 필요성을 강조하였다. 셋째, 자율주행의 운행 알고리즘은 상호간의 교통 행동에 대응하며 위험을 인지하고 회피하는 방향으로 구현될 필요가 있다. 또한, 교통 규칙의 ‘즉시 창발성’에 주목한 알고리즘의 기초 마련이 자율주행시스템에 필요하고, 향후 자율주행자동차에 어떠한 기능을 요구할 것인지, 그러한 기능을 갖췄을 경우 자동차 제조사, 알고리즘 설계자, 자율주행자동차의 이용자, 이해 관계자 사이의 책임 분배에 대한 기준이 필요하다. 따라서 자율주행과 관련된 컴퓨터 과학과 인공지능, 인문과학, 법학 등의 학제적 관점에서 더욱 연구를 도모해 나갈 필요가 있다.

한국 경찰의 인공지능(AI) 정책에 관한 제언 - 프랑스의 정책을 중심으로 본 -

송기복,조진형 원광대학교 경찰학연구소 2020 경찰학논총 Vol.15 No.1

The development of artificial intelligence (AI) technology is gradually expanding the scope of its impact on our society. In line with this, advanced countries are focusing on developing research and development on AI, while discussing law and institutional readjustment. France's AI policy is widely researched and supported on AI at the National Digital Research Institute and actively utilizes the "La Nouvelle France Industrial" plan to support the development of technologies in the industry to foster competitive technologies in the global market. In addition, research institutes such as Marie & Pierre Curie University, Montpellier University, and Nice Sofia Antipolis, with the center of the Artificial Intelligence Society of France, are working hard to develop AI through active research. At the same time, such efforts as "AI's morality and ethics," "Data ethics to go from big data ethics to big data ethics," "Personal data regulation on forgetting and recording rights," "establishment of the right to forget," "balance of regulations and morality in a society coexisting with artificial intelligence robots," and "the vision of the integration of intelligence ethics and information to protect the socially vulnerable" are seen as well. Meanwhile, the Korean police have also begun to introduce "smart security" using big data and artificial intelligence, so let’s find out where they are and see if they are eager to increase their performance through the use of big data and artificial intelligence. The police should enforce criminal justice and take responsibility for the people's criminal safety. Let's look at the implications of policies centered on laws and institutions through the French case, whether they are insufficient in preparing for big data and the use of artificial intelligence. 발전하는 인공지능(AI) 기술은 우리 사회에 끼치는 영향의 폭을 점차 넓혀가고 있다. 그에 발맞춰 선진국들은 AI에 대한 연구 개발을 중점적으로 이끌어 나가는 한편 이에 대한 법과 제도적 정비 논의도 함께 진행 해 나가고 있다. 주요 선진국 가운데 프랑스의 인공지능 정책은 국가디지털연구소에서 광범위하게 인공지능에 대한 연구와 지원을 하고 있으며 산업계의 기술 개발 지원을 하는 ‘신산업 프랑스(La Nouvelle  France  Industrielle)’계획을 적극적으로 활용하여 세계 시장에서 경쟁력 있는 기술 육성을 위해 노력하고 있다. 또한 프랑스 인공지능학회를 중심으로 마리&피에르퀴리대학과 몽펠리에대학, 니스 소피아 앙티폴리스 대학 등 연구기관에서도 활발한 연구를 통해 인공지능의 발전적 영향을 주는데 노력을 기울이고 있다. 그와 동시에 ‘AI의 도덕과 윤리’, ‘데이터 윤리에서 빅데이터 윤리’로 가고자 하는 노력, ‘망각과 기록에 관한 개인 데이터 규제’, ‘잊혀질 권리의 확립’, ‘인공지능의 윤리와 자율’, ‘인공지능 로봇과 공존하는 사회의 규제와 도덕의 균형’, ‘인공지능 윤리의 통합 비전’, ‘사회적 약자 보호를 위한 정보 수집과 이용’과 같이 ‘윤리적으로’ AI를 활용하기 위한 노력을 기울이고 있다. 최근 경찰기관도 빅데이터와 인공지능을 활용한 ‘스마트 치안’ 도입을 시작하였는데 그에 대한 실태를 알아보고, 이러한 빅데이터와 인공지능 활용을 위한 정책적 방향을 확인해 본다. 형사사법의 집행을 통해서 국민의 안전을 책임져야 할 경찰기관이 인공지능과 빅데이터의 활용에 대한 준비에 있어서는 부족함을 보이고 있지는 않은지 프랑스에서 대비하고 있는 사례 파악을 통해 법과 제도를 중심으로 한 정책적 시사점을 알아보고자 한다.

경찰활동과 프라이버시 보호에 관한 논의 -빅데이터를 이용한 활동을 중심으로-

송기복,조진형 한국경찰학회 2023 한국경찰학회보 Vol.25 No.2

IT(Information Technology) 기술의 고도화, 기계학습(Machine Learning)의 지능화 등이 진행된 결과, 방대한 데이터가 생성ㆍ축적ㆍ재해석 되고 있다. 그 결과 사회의 다양한 분야에서 변화가 일어나고 이러한 사회현상과 함께 치안 분야에서도 빅데이터를 이용ㆍ활용하는 경찰활동이 시도되고 있다. 예를 들면, 인공지능(AI)이 치안데이터와 공공데이터를 분석하여 범죄를 예측하고 그 결과를 경찰분야에 접목하여 활용하는 것이다. 즉, 빅데이터와 인공지능(AI) 해석을 활용한 경찰활동이다. 이러한 빅데이터 경찰활동은 경찰의 한정된 자원을 범죄의 예방, 수사 등에 효율적이며 정밀하게 활용하여 사회에 큰 이익을 줄 것이다. 그러나 빅데이터 경찰활동은 향후, 프라이버시 침해 가능성, 자동화된 프로파일링의 문제, 법적 근거와 규제 등의 관점에서 문제가 될 것이다. 따라서 본고는 빅데이터ㆍ인공지능(AI) 시대가 도래 하면서 그것에 근거한 경찰활동의 이점과 이에 수반되는 문제점에 대하여 검토하였으며, 나아가 법제도의 변화에 대한 지속적인 논의의 필요성을 강조하였다.

안보형사법의 체계에서 바라본 뉴테러리즘 대응방안

송기복 한국경찰연구학회 2021 한국경찰연구 Vol.20 No.1

미국, 영국, 독일 등 주요 국가는 전 세계 테러에 대응하고자 「국민 보호와 공공안전 을 위한 테러방지법」을 개정 및 제정하고 있는 추세이다. 더구나 현재는 과거의 테러 양상에서 벗어나 자생적 테러, 외로운 늑대형 테러 등 뉴테러리즘에 적극적으로 대응하 고 있는 것을 알 수 있다. 한국의 지리적 위치면에서 국제적으로는 테러 위협과 국내적으로는 북한의 테러 위 협이 상존하고 있어 이중적인 테러 위협에 놓여 있다. 이러한 특수한 상황 속에서, 현재의 안보형사법 체계가 테러범죄 유형에 효율적으로 대응하기 위해서는 「국민 보호와 공공안전을 위한 테러방지법」과 「국가보안법」 그리고 일반법인 「형법」의 역할과 기능이 무엇보다 중요하다. 이러한 세계적 추세 속에서 대한민국은 2016년 3월 2일 「국민 보호와 공공안전을 위 한 테러방지법」을 제정하여 시행하고 있다. 그러나 시행과정에서 법의 허점이 노출되 면서 現 안보형사법의 기능과 역할의 문제가 계속적으로 제기되고 있는 상황이다. 이에 본고에서는 현재의 「국민 보호와 공공안전을 위한 테러방지법」과 안보형사법체계의 이론적 고찰을 살펴본 다음, 「국민 보호와 공공안전을 위한 테러방지법」과 「형 법」에 의해 테러 유형이 처벌 가능한지 검토하고, 이에 대한 한계점을 제시하였다. 또 한 현재 우리가 처해있는 뉴테러리즘의 위협과 북한의 테러 위협이 상존하는 특수한 안보 상황을 고려하여 선제적으로 뉴테러리즘에 대한 안보형사법 체계의 대응방안을 제시하였다. Major countries such as the United States, the United Kingdom, and Germany are revising and enacting the Anti-Terrorism Act for the Protection of the People and Public Safety to counter terrorism around the world. Moreover, it can be seen that the government is actively responding to new terrorism, such as self-sustaining terrorism and lonely wolf-type terrorism, away from the past terrorist aspects. In terms of South Korea's geographical location, the threat of terrorism internationally and North Korea's threat of terrorism domestically are still present, which is a double threat of terrorism. Under these particular circumstances, the role and function of the Anti-Terrorism Act, the National Security Act, and the General Law are paramount in order for the current security and criminal law system to efficiently respond to the types of terrorist crimes. In this global trend, the Republic of Korea enacted and implemented the Anti-Terrorism Act on March 2, 2016 for the protection of the people and public safety. However, as loopholes in the law have been exposed in the implementation process, the function and role of security criminal law have been continuously raised. Therefore, this school examined the theoretical considerations of the current Anti-Terrorism Act and the Security and Criminal Law System, and examined whether terrorist types could be punished under the Anti-Terrorism Act and Public Safety Act. In addition, considering the current threat of new terrorism and the special security situation in which North Korea's threat of terrorism resides, we proactively presented measures to respond to the security and criminal justice system against it.

예측 알고리즘과 형사사법에 관한 논의 - 알고리즘의 사용원칙을 중심으로 -

송기복 한국경찰연구학회 2023 한국경찰연구 Vol.22 No.4

알고리즘은 기계학습(Machine Learning)이나 인공지능(Artificial Intelligence) 기술 과 접목되어다양한분야에서 활용되고 있다. 그러나알고리즘은 장점과 동시에 위험을 수반한다. 즉, 알고리즘은 개인과 사회의 편익을 위해 사용되지만, 동시에 차별과 불평 등을 조장할 위험을 포함하고 있다. 이는 형사사법의 영역에서도 마찬가지다. 데이터와 알고리즘에 의한 결정은 법집행의 신속성과 효율성, 정밀성을 가져오지만 잠재적으로 기존의 편견과 편향을 재생산할 위험을 포함하고 있다. 인간이 데이터를 바탕으로 알고리즘을 생성·구축하고 작동시키고 있으므로 알고리 즘은 인간으로부터 독립할 수 없으나 알고리즘의 결정은 인간의 의사결정에 영향을 미 치게된다. 따라서 알고리즘은기술적·객관적 형태의 운영 방식이라기보다는사회적성 질을 가진 기술적 집합체로 볼 수 있다. 이러한 알고리즘이 형사사법 분야에 편입되어 법집행 과정에 영향을 미치고 형사사법을 지배하고 있는 기본원칙 등을 변화시키고 있 지만 이에 대한 논의가 부족한 현실이다. 따라서 본고는 이러한 인식하에 형사사법에서 알고리즘의 활용 현황과 문제점을 살펴보고 형사사법에서 알고리즘의 활용 원칙으로 투명성과 공정성, 설명책임에 대하여 제언한다. Algorithms are combined with machine learning and artificial intelligence technologies and are used in various fields. However, algorithms come with both advantages and risks. In other words, algorithms are used for the benefit of individuals and society, but at the same time contain the risk of promoting discrimination and inequality. This is also the case in the realm of criminal justice. Decisions made by data and algorithms bring speed, efficiency, and precision to law enforcement, but potentially contain the risk of reproducing existing prejudices and biases. Algorithms cannot be independent of humans because humans create, build, and operate algorithms based on data, but algorithmic decisions influence human decision-making. As a result, algorithms can be viewed as a technical collection with social characteristics rather than a technical or objective form of operation. These algorithms have been incorporated into the criminal justice field, affecting the law enforcement process, and changing the basic principles that govern criminal justice, but there is a lack of discussion on this. Therefore, with this recognition, this paper examines the current status and problems of algorithm use in criminal justice and suggests transparency, fairness, and accountability as principles of algorithm use in criminal justice.

코로나19 방역 정책 관련 대국민 인식조사에 대한 연구

송기복(Gi-Bok Song) 마인드교육융합학회 2023 마인드 교육 Vol.2 No.2

AI의 상용화와 개인정보 보호에 관한 논의 : 화상 데이터와 프로파일링을 중심으로

송기복(Song, Gi-Bok),이제광(Lee, Je-Kwang) 한국경호경비학회 2020 시큐리티연구 Vol.- No.65

개인에 관한 데이터(Personal Data)는 사물인터넷(Internet of Things)과 네크워크화된 기기에 의해서 빠르게 축적되고 재해석 된다. 이러한 데이터는 의료·금융·산업·서비스 분야 등에서 유용하게 활용되고 있다. 더욱이 고성능 센서기기로 수집되는 개인에 관한 데이터는 다양한 분야에서 가치를 창출하고 활용될 것으로 기대하고 있다. 그러나 다른 한편으로 개인에 관한 데이터의 무분별한 수집과 제공으로 프라이버시 침해나 당사자가 원하지 않는데도 데이터가 가공·이용되는 것에 대한 우려가 존재한다. 인공 지능(AI) 기술의 발전으로 수집된 데이터의 활용 가치와 중요도는 증가하나, 기술의 발전과 더불어 예상하지 못한 프라이버시(Privacy)에 대한 부당한 침해로 연결될 수 있다. 이러한 개인에 관한 데이터의 문제점을 해결하기 위해서 다음과 같이 개선방안을 제시하였다. 첫째는 개인정보 보호 관련 법제를 정비하여 개인정보의 범위와 종류를 세분화하고, 명확하게 규정하는 등 철저한 관리가 필요하다는 점이다. 둘째는 사물인터넷, 빅데이터(Big Data) 등 새로운 분야의 성장과 더불어 개인정보를 효율적으로 활용, 관리할 수 있는 시스 템의 정비와 인공지능(AI)이 화상 데이터를 인식하여 수집·처리·보존·활용하는 절차와 규제를 위한 법제화가 필요하다는 점이다. 셋째는 화상 데이터(Image Data)는 얼굴 인증데이터(Face Authentication Data), 속성 데이터(Attribute Data), 카운트 데이트(Count Data) 등복합적인 데이터를 포함하고 있으므로 각 유형별로 구분이 필요하다. 본고에서는 AI의 상용화에 따른 ｢개인정보 보호법｣상 개인정보의 개념과 화상 데이터를 포함한 개인정보의 이용, AI에 의한 프로파일링과 프라이버시 보호를 위한 논의를 하였다. Personal data is quickly accumulated and reinterpreted by the Internet of Things and networked devices. Data on these individuals are usefully used in medical, financial, industrial and service sectors. Furthermore, personal data collected by high-performance sensor devices is expected to generate and utilize value in various fields. On the other hand, however, there are concerns about indiscriminate collection and provision of personal data, such as privacy breaches or the processing and utilization of data even though the parties do not want it. The development of artificial intelligence (AI) technology increases the value and importance of the utilization of the collected data, but with the development of technology, it can lead to an unjust violation of unexpected privacy. To address these individual data problems, the following improvement measures were proposed: The first is that thorough management is needed, such as rearranging the scope and type of personal information by overhauling the legislation related to the protection of personal information. Second, along with the growth of new fields such as the Internet of Things and Big Data, it is necessary to overhaul systems that can efficiently utilize and manage personal information, and to legislate for procedures and regulations for collecting, processing, preserving, and utilizing video data. Third, Image Data contains complex data such as Face Authentication Data, Attribute Data, and Count Data, so it needs to be distinguished for each type. In addition to the scope of personal information under the Personal Information Protection Act, we discussed the use of personal information, including video data, freedom of decision-making by AI, and prevention of privacy infringement.