[국문번역문] 호주의 관점에서 바라본 인공지능, 윤리 및 규제 과제

David Lindsay,Jane Hogan,김태오(감수) 서울대학교 공익산업법센터 2019 경제규제와 법 Vol.12 No.2

윤리적이고 책임 있는 인공지능의 개발은 중요한 규제 및 정책 과제이며 기술 혁신의 촉진에 대한 필요성과 개인과 사회적 권익에 대한 피해를 최소화하는 균형 잡힌 방안이 필요하다. 정책 문제의 파악과 분석에 토대가 되는 윤리 및 규제의 틀을 어떻게 짜느냐에 따라서 상충하는 현안 사이에서 균형을 잡을 수 있다. 본 연구는 급부상하는 호주의 인공지능 및 윤리 프레임워크를 중심으로 인공지능이 야기하는 윤리 및 법적 과제에 대한 호주의 정책 대응을 소개 및 조사하고, 평가하고자 한다. 본 연구는 ‘원칙허용성과 실용성’을 큰 특징으로 하는 호주의 신기술 규제 접근법의 일반적인 특징을 소개하고 인공지능으로 인한 도전에 대응하기 위해서 현재 호주에서 실시하고 있는 정책 프로세스를 예시로 들어 자세히 설명하였다. 첫째, 호주에서 현재까지 인공지능 기반 기술 대응에서 가장 많은 진전을 이룩한 분야인 자율 주행차 규제와 관련하여 호주 정부가 추진한 정책계획을 설명하였다. 둘째, 데이터61의 ‘인공지능과 윤리’와 인공지능 표준 로드맵 수립을 궁극적인 목표로 하는 호주표준화위원회 프로세스를 중심으로 호주 정부의 ‘책임 있는 인공지능’ 프레임워크의 주요 내용을 개략적으로 살펴보았다. 셋째, 인공지능으로 인한 인권 문제를 다루는 기관인 호주인권위원회에서 진행하는 인권 및 기술 프로젝트를 소개하였다. 마지막으로 호주규제 전통의 주류를 이루는 결과주의와의 비교를 위해서 비도구주의(non-instrumentalist) 프레임워크를 채택하는 윤리센터의 ‘윤리중심 설계’방식에 대해서 설명하고 인공지능 적용 설계 시 윤리적 측면의 중요성을 지적하였다. 결론에서는 본 연구에서 설명한 책임 있는 인공지능 개발에 대한 호주 정책 대응에 관하여 분석한 결과로부터 도출한 평가를 제시하였다. 이러한 정책 프로세스는 여전히 개발 중에 있으며 분석 결과는 다음과 같다. 첫째, 실용주의에 입각하여 신기술을 허용하는 호주 전통에 비추어 볼 때 기술 혁신의 촉진과 개인과 사회에 끼치는 해악으로부터 보호라는 양 쪽의 균형의 측면에서 호주는 인공지능 기반 기술을 촉진 및 증진하는 방안을 선호할 것이다. 둘째, 본 연구는 국가 차원에서 인공지능 윤리 프레임워크를 개발하기 위한 데이터 61과 같이 본질적으로 실용적이고 결과주의적인 방식과 호주 인권위원회(AHRC) 인권 및 기술 프로젝트 방식과 같이 인권과 인간 중심적인 접근 방식 사이에 명백한 긴장감이 존재한다는 사실을 인지하고 있다. 호주 정부는 대부분의 경우 자율규제(또는 공동규제)를 통하여 규제 개입을 최소화 (‘light-touch’)하는 전자의 방식을 선호할 것으로 보인다. 셋째, 도구주의적 기술에 직면한 상황에서 호주 정부의 실용적이고 기술 중심의 방식은 인간의 존엄성 및 자율성과 같은 인간 중심적 가치 보호의 측면에서 볼 때 인공지능 기술로 인해 발생하는 정책 및 윤리 과제를 사실상 간과하고 있지만 앞으로도 널리 통용될 것으로 보인다. 넷째, 인공지능기술의 등장은 기술 설계에 윤리적 측면을 최적으로 고려하면서도 동시에 적절하게 ‘유연’하고 ‘선제적인’ 규제 전략을 수립해야 하는 새로운 규제 딜레마를 불러왔다. 이러한 사안들은 본 연구에서 제안한 정책 프로세스에 관한 공적 논의를 통해서 다뤄지겠지만, 결론적으로 해당 기술에 버금가는 정도로 혁신적이고 창의적인 정책 및 규제가 필요한 상황에서 호주정부는 이 분야의 정책 및 규제 대응 개척에 선도적인 역할을 할 것으로 보이지는 않는다.

인공지능 윤리원칙 분류 모델에 관한 고찰

소순주(Soon-Ju SO),안성진(OSeong-Jin Ahn) 한국컴퓨터교육학회 2021 한국컴퓨터교육학회 학술발표대회논문집 Vol.25 No.2(A)

지능정보화사회에서 가장 핵심이 되고 있는 인공지능 기술은 사회 전반에 거쳐 다양한 형태로 모든 제품이나 서비스에 큰 변화를 가져오고 있다. 오늘날 인공지능은 초거대 인공지능 기술까지 발전하면서 사회, 경제, 생활 등 모든 분야에 활용됨으로써 순기능과 역기능이 함께 공존하게 되었다. 특히, 인공지능 기술발전으로 인하여 인공지능 윤리(Artificial Intelligence Ethics) 문제가 급속하게 이슈화 되고 있다. 유럽을 비롯하여 세계 각국과 국내에서도 2016년도를 기점으로 인공지능 윤리 가이드라인이 발표되고 있으며, 인공지능 기술 개발과 사용에 인공지능 윤리 가이드라인을 적극적으로 적용해나가고 있으나, 윤리원칙에 대한 체계적인 분류와 연구가 미흡한 실정이다. 본 연구는 각 국가, 유관 단체에서 발표한 인공지능 윤리가이드라인과 인공지능 기술을 적용한 제품, 서비스 개발전략, 정책, 관련 문헌 등을 바탕으로 인공지능 윤리원칙을 영역별로 분류할 수 있는 모델을 제안하였다. 제안된 인공지능 윤리원칙 분류모델은 인공지능 소프트웨어 개발, 검증, 인증, 운영, 교육에 필요한 표준모델을 만드는데 사용될 수 있으며, 신뢰할 수 있는 지속가능한 인공지능 기술연구와 인공지능 활용에 기여할 것이다.

인공지능 윤리교육 프로그램의 효과 검증 - 초등 도덕과 교육 적용을 중심으로 -

이지형,변순용 한국초등도덕교육학회 2023 초등도덕교육 Vol.- No.84

이 연구의 목적은 인공지능 윤리교육 프로그램 실행을 통해 초등학생들의 인공지능 윤리의식 효과 검증에 있다. 아직 초등학교 교육과정에 인공지능 윤리교육이 포함되어있지 않고 도덕과에서도 다루어지고 있지 않은 것이 현실이다. 하지만 2022 도덕과 교육과정에는 인공지능 윤리가 본격적으로 들어가 있어 도덕과 연계한 인공지능 윤리교육이 필요하다. 본 연구에서는 이를 해결하기 위해 초등학교 도덕교과를 중심으로 인공지능 윤리 수업모형을 적용하고, 인공지능 윤리교육 프로그램을 설계하여 효과를 검증하였다. 본 연구에 참여한 학생은 서울시 소재 초등학교 5학년 학생 30명이며 학생들의 인공지능 윤리의식 효과 검증을 위해 혼합 연구를 실시하였다. 양적 연구는 실험 집단 내에서 대응표본 T-검정과 비교 집단과의 독립표본 T-검정을 실시하였으며 질적 연구로는 심층 면담과 사후 소감문 내용 분석을 실시하였다. 도출된 연구 결과를 토대로 인공지능 윤리교육 프로그램 운영이 초등학생의 인공지능 윤리의식 함양에 긍정적인 영향을 미쳤음을 알게 되었다. 특히 ‘투명성’이라는 학생들에게 어려울 수 있는 인공지능 윤리 개념을 도덕과의 ‘정직’이라는 핵심가치와 접목하여 인공지능 기술과 융합한 프로그램은 학생들에게 이에 대한 개념과 필요성을 인식하는데 큰 효과를 보여 주었다. The purpose of this study is to verify the effectiveness of artificial intelligence ethics among elementary school students through the implementation of artificial intelligence ethics education programs. It is a reality that artificial intelligence ethics education is not included in the elementary school curriculum and is not covered in the moral department. However, artificial intelligence ethics is included in the 2022 moral curriculum, so artificial intelligence ethics education linked to morality is needed. In this study, the effect was verified by applying an artificial intelligence ethics class model centered on elementary school moral subjects and designing an artificial intelligence ethics education program to solve this problem. The students who participated in this study were 30 fifth-grade elementary school students in Seoul, and a mixed study was conducted to verify the effectiveness of students' artificial intelligence ethics. In the quantitative study, a corresponding sample T-test and an independent sample T-test with the comparative group were conducted within the experimental group, and in-depth interviews and post-audit analysis were conducted as qualitative studies. Based on the derived research results, it was found that the operation of the artificial intelligence ethics education program had a positive effect on the cultivation of artificial intelligence ethics among elementary school students. In particular, the program that combines the concept of artificial intelligence ethics, which can be difficult for students of "transparency," with the core value of "honesty" in morality, has shown a great effect on students to recognize the concept and necessity.

교회와 목회자의 인공지능(AI) 활용과 기독교 윤리

이종민 한국교회법학회 2024 교회와 법 Vol.11 No.1

인공지능은 오늘날 급속하게 발전하여 우리 사회 저변에 막대한 영향을 미치고 있다. 때로는 긍정적인 효과도 나타나지만, 동시에 부정적인 영향을 미치고 있다. 그러하기에 인공지능과 관련한 윤리적 문제가 발생하게 되었고, 그에 대한 적절한 답변을 찾기 위한 다각적인 노력이 진행되고 있다. 이러한 움직임은 교회와 목회자에게도 예외는 아니다. 따라서 본 연구의 목적은 인공지능 시대를 살아가고 있는 교회와 목회자들이 갖춰야 하는 윤리의 필요성과 윤리적 원칙에 대해 고찰해 보고자 한다. 먼저 이를 위하여 인공지능에 대한 정의와 발달 단계에 대해 살펴보고자 한다. 미국인공지능진흥법에 따르면, 인공지능시스템(Artificial Intelligence System)이란 “전체 또는 그 일부가 동적 또는 정적 머신러닝 알고리즘 또는 그 밖의 형태의 인공지능을 사용하여 작동하는 데이터시스템, 소프트웨어, 애플리케이션, 도구 또는 공익시설로서 다음 중 어느 하나에 해당하는 것”이다. 그리고 이러한 인공지능 시스템은 약인공지능, 강인공지능, 그리고 초인공지능으로 발전하고 있다. 다음으로 인공지능시대에 발맞추어 국제기관과 한국 정부가 제시하는 인공지능에 대한 조작적 정의와 더불어 그에 걸맞는 윤리적 원칙과 지침을 살펴보고자 한다. 예를 들어 유네스코에서는 “인공지능 윤리 권고”에서 인공지능시스템을 “일반적으로 추론, 학습, 인식, 예측, 계획, 통제를 비롯하여 지적 행위와 유사한 방식으로 데이터 및 정보를 처리할 능력이 있는 시스템”으로 규정하고, AI시스템과 관련된 세 가지 요소—인공지능기술, 인공지능 수명주기, 그리고 인공지능 윤리—를 기술하였다. 그리고 그에 맞게 4가지 가치와 10가지 원칙을 제시하였다. 한편 유럽연합은 ”AI법안“을 체결하고 인공지능은 수준별로 규정하였다. 예를 들어 AI시스템, 범용AI모델(General Purpose AI Model), 생성형 AI시스템(Generative AI), 그리고 기본모델(Foundation Model) 등이다. 그리고 각각이 인공지능시스템이 야기시킬 수 있는 위험에 대해 네 가지 수준—용인할 수 없는 위험, 고위험, 제한된 위험, 그리고 최소 위험—으로 나누고, 특별히 고위험에 따른 규제와 의무사항을 제시하였다. 마지막으로 한국정부는 AT 강국을 뛰어 넘어 AI 강국으로 도약을 꿈꾸면서 ”교육분야 인공지능 윤리원칙“을 제시하였다. 정부는 인공지능이란 “인간의 지적능력을 컴퓨터로 구현하는 기술로서, ① 상황을 인지하고, ② 이성적·논리적으로 판단·행동하며, ③ 감성적·창의적인 기능을 수행하는 능력까지 포함”하고 있는 시스템으로 규정하고, 인간다움과 미래다움이 공존하는 교육 패러다임을 실천하는 교육공동체를 구축하고자 “사람의 성장을 지원하는 인공지능”이라는 대원칙 하에 교육분야에서 따라야 하는 열 가지 세부원칙을 제정하였다. 이러한 흐름을 바탕으로 인공지능을 개발하고 활용하는 점에 있어서 교회와 목회자들에게 인공지능 윤리의 필요성과 기독교적 윤리 원칙을 제시하였다. 즉 교회와 목회자에게 인공지능 윤리가 필요한 이유는 첫째, 약인공지능의 활용과 목회자료의 가치와 관련하여 인공지능시스템 개발과 출시 그리고 사용에 대한 윤리 지침이 필요하고, 둘째, 인공지능의 개발과 목회자의 인식에 있어서 AI 윤리와 윤리적 AI를 구분하여 이해할 수 있는 윤리 지침이 필요하며, 셋째, 인공지능의 사용과 교회교육과 관련하여 ...

인공지능 윤리 역량 신장을 위한 인공지능 윤리 딜레마 개발

김은경,이영준 한국컴퓨터교육학회 2023 컴퓨터교육학회 논문지 Vol.26 No.5

인공지능 기술의 빠른 확산으로 인공지능 윤리 문제는 인공지능 전문가만의 문제가 아닌 사회 문제가 되었다. 이에 따라 인공지능 윤리 문제 상황을 해결하기 위해 인공지능 윤리 문제를 파악하고 상황에 맞는 적절한 윤리적 판단을 내릴 수 있는 인공지능 윤리 역량이 요구되고 있다. 윤리 딜레마를 활용한 토론 수업은 다수의 연구에서 윤리 역량을 신장시키는 것으로 나타났다. 이에 인공지능 윤리 교육에서도 인공지능 윤리 딜레마를 활용한 인공지능 윤리 수업이 활발히 이루어지고 있다. 그러나 이에 활용되는 인공지능 딜레마가 한 사례에 매우 치중되어 있어 다양한 인공지능 윤리 요소를 다루지 못한다는 문제가 있다. 이에 본 연구에서는 교육부의 ‘사람이 중심이 되는 인공지능 윤리 기준’의 3대 원칙과 10대 핵심 요소가 반영된 인공지능 윤리 딜레마 9개를 개발하고 전문가를 통해 타당성을 확보하였다. 본 인공지능 윤리 딜레마가 인공지능 윤리 딜레마 활용 교육에 다양성을 높이고 학습자의 인공지능 윤리 역량 신장에 도움이 되길 기대한다. With the rapid spread of AI technology, the AI ethics issue has become a social issue, not just an issue for AI experts. Accordingly, in order to solve AI ethical problems, AI ethicsal competence are required to identify AI ethical problems and make appropriate ethical judgments appropriate to the situation. Discussion classes using ethical dilemmas have been shown to increase ethical competency in a number of studies. Accordingly, in AI ethics education, AI ethics classes using AIethics dilemmas are being actively conducted. However, there is a problem that the AI dilemma used for this is very focused on one case, so that it cannot deal with various AI ethical factors. Accordingly, in this study, nine AI ethical dilemmas that reflect the three principles and ten core elements of the Ministry of Education’s “human-centered AI ethical standards” were developed, and validity was secured through experts. It is hoped that this AI ethical dilemma will help increase diversity in AI ethical dilemma utilization education and enhance learners' AI ethical competency.

인공지능 윤리원칙 기반의 인격권 및 재산보호를 위한 인공지능 윤리 측정지표에 관한 연구

소순주,안성진 한국인터넷정보학회 2022 인터넷정보학회논문지 Vol.23 No.3

지능정보화 사회에서 가장 핵심으로 발전하고 있는 인공지능은 인간에게 편의성과 긍정적인 삶의 변화를 가져오고 있다. 하지만인공지능 발전과 함께 인간의 인격권과 재산이 위협받고, 윤리적인 문제가 발생하는 사례도 증가하고 있기 때문에 그에 따른 대안이필요하다. 본 연구에서는 인공지능의 역기능에서 가장 쟁점화되고 있는 인공지능 윤리(Artificial Intelligence Ethics) 문제를 인공지능 윤리원칙과 구성요소 기반 하에 우선적으로 인간의 인격권과 재산을 보호할 수 있도록 인공지능 윤리 측정지표를 연구, 개발하는 데목표를 두었다. 인공지능 윤리 측정지표를 연구, 개발하기 위해 다양한 관련 문헌과 전문가 심층 면접(FGI), 델파이 설문조사를 실시하여 43개 항목의 윤리 측정지표를 도출하였다. 설문조사와 통계분석에 의하여 윤리 측정지표에 대한 기술통계량 분석, 신뢰도 분석, 상관관계 분석으로 40개 항목의 인공지능 윤리 측정지표를 확정하여 제안하였다. 제안된 인공지능 윤리 측정지표는 인공지능 설계, 개발, 교육, 인증, 운영, 표준화 등에 활용될 수 있으며, 안전하고 신뢰할 수 있는 인공지능 발전에 기여할 수 있을 것이다. Artificial intelligence, which is developing as the core of an intelligent information society, is bringing convenience and positive life changes to humans. However, with the development of artificial intelligence, human rights and property are threatened, and ethical problems are increasing, so alternatives are needed accordingly. In this study, the most controversial artificial intelligence ethics problem in the dysfunction of artificial intelligence was aimed at researching and developing artificial intelligence ethical measurement indicators to protect human personality rights and property first under artificial intelligence ethical principles and components. In order to research and develop artificial intelligence ethics measurement indicators, various related literature, focus group interview(FGI), and Delphi surveys were conducted to derive 43 items of ethics measurement indicators. By survey and statistical analysis, 40 items of artificial intelligence ethics measurement indicators were confirmed and proposed through descriptive statistics analysis, reliability analysis, and correlation analysis for ethical measurement indicators. The proposed artificial intelligence ethics measurement indicators can be used for artificial intelligence design, development, education, authentication, operation, and standardization, and can contribute to the development of safe and reliable artificial intelligence.

인공지능 윤리의 주요 쟁점과 필수 고려사항

박휴용(Hyu-Yong Park) 한국열린교육학회 2022 열린교육연구 Vol.30 No.6

최근 인공지능이 급속도로 발전해나감에 따라 지난 10여 년간 학계와 산업계에선 수많은 윤리적 지침들과 가이드라인이 개발되었지만, 그러한 윤리적 지침들이 현실 세계에 적용되기에 얼마나 타당하고 실제적인지에 대한 많은 논란과 문제제기가 이어져 왔다. 본고는 이 문제를 다루기 위한 핵심 가설인 ‘인공지능이 윤리적 주체가 될 수 있는가?’라는 질문을 바탕으로 다섯 가지 연구문제에 대해 논의하였다: i) 인공지능 윤리의 개발과정의 문제점과 논점은 무엇인가?, ii) 인공지능 윤리지침은 타당성과 적절한 이론적 근거를 가지고 있는가?, iii) 인공지능 윤리지침은 현실적으로 얼마나 실천가능한가?, iv) 인공지능 윤리 교육의 대상과 내용적 구조는 무엇인가? 마지막으로 v) 인공지능 윤리 교육을 위한 실천적 고려사항은 무엇인가? 본고의 논의의 핵심사항은 첫째, 기존의 인공지능 윤리지침은 피상성, 모호성, 편향성을 가지고 있고, 현실 세계의 다양한 사회문화적 배경을 충분히 반영하지 못하고 있다는 것이다. 둘째, 인공지능 윤리의 세 가지 윤리철학적 배경들(덕윤리, 의무론, 공리주의) 중에서 인공지능 개발자, 알고리즘, 사용자의 모든 특성을 반영하기에 용이한 공리주의적 철학이 향후 인공지능 윤리의 방향성이 될 것이고, 그것이 ‘윤리적 인공지능’의 특성에도 부합하다는 것이다. 셋째, 윤리적 지침들 자체(이론적 측면)와 실제 효과성(실천적 측면) 간의 간극을 메우기 위해서는 인공지능을 단순한 도구(명시적 대리자)가 아니라 윤리적 주체(실질적 대리자)로서의 역할을 인정하는 것이 필요하다는 것이다. 인공지능이 점차 고도화, 편재화되어가고 인공지능에의 의존성이 높아지는 미래 사회에서 인공지능의 윤리적 역할과 책임을 이해하는데 핵심이라는 것이다. 본고의 이러한 관점은 인공지능 윤리의 미래 방향성에 대한 학계의 다양한 논의를 촉발할 수 있을 것이다. Recently numerous ethical principles and guidelines for Artificial intelligence (henceforth, AI) have been developed though there are still many contentions and criticisms on the validity and practicality of AI ethics. To address this issue, this paper proposed five kernel research questions on the ethical issues of AI, based on the author’s seminal hypothesis, ‘can AI be an ethical subject?’. They are as follows: i) What are the problems and discrepancies in the development phases of AI ethics, ii) How much is AI ethics valid and on what theoretical basis does it stand on?, iii) Are the ethical guidelines practical in the real world?, iv) Who is the target of AI ethics development and how is the content structure of AI Ethics like? Finally, v) what are the practical considerations of AI ethics education and development? The major conclusive arguments of this paper are: first, current ethical guidelines are superficial, ambiguous, and biased in many aspects so that they can hardly represent the diverse socio-cultural conditions and backgrounds. Second, utilitarianism, rather than virtue or deontological ethics, would be most suitable philosophical basis since it can balance and reflect the characteristics of the developer, the algorithm, and the user. Third, to close the gap between the theory and practice AI should be an ethical subject, rather than an explicit proxy of ethics. This paper argued that developing ‘ethical AI’ should be the eventual goal of AI ethics in responding the sheer changes of a future society. This paper’s discussion may open the room for arguments in the area of AI studies.

인공지능 윤리와 형사정책적 시사점 : 형사사법에서의 인공지능 윤리 이슈를 중심으로

김희정(Kim, HeeJung) 한국형사정책학회 2022 형사정책 Vol.34 No.1

우리는 컴퓨터, 인터넷, 스마트폰을 통해 디지털 혁명을 경험했고, 이후 자율주행, 인공지능, 로봇 등 4차산업 혁명 기술의 발전으로 인해 개인의 삶뿐 아니라 사회 전반의 혁신적 변화를 경험하고 있다. 인공지능은 사고나 학습 등 인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술로 인간처럼 스스로 학습, 추리, 적응, 논증을 할수 있는 지능을 말한다. 인공지능은 다양한 분야에서 인간을 대신해 위험하고, 힘들고 어려운 일을 할 수 있으며, 단순 반복적인 업무를 빠른 시간 내에 효율적으로 처리할 수도 있다. 이렇듯 인공지능은 우리의 삶을 매우 편리하게 만들고 인간을 위해로부터 보호하는 등 인공지능의 발전으로 인간 삶이 좀 더 편하게 변화될 수는 있겠지만 이런 긍정적 변화에 반해 사고의 확증편향, 인간소외, 기본권 침해, 차별 문제 등사회적 문제가 발생시킬 위험도 있어, 인간을 위한 신뢰할 만한 인공지능(AI) 발전을 위한 인공지능 윤리 가이드라인의 필요성이 제기되었다. 세계 각 국은 다양한 인공지능 윤리 가이드를 마련하였고 특히, 유럽연합은 인공지능법(안)을 제시하기도하였다. EU 인공지능법(안)은 인공지능시스템의 안전성을 보장하고 기본적 권리와 유럽연합의 가치 존중, 인공지능시스템에 적용될 수 있는 기본권 및 안전기준 관련 법령의 효율적 집행 강화 등을 목표로 인공지능 개발 및 활용에 대한 신뢰, 기본권및 사용자 안전을 보장하기 위한 위험 기반 규제방식(risk-based regulatory approach)의 규정을 제시하였다. 인공지능은 현재 다양한 영역에서 개발 및 활용되고 있으며 형사사법 분야에서도 인공지능의 이용이 점차 증가하고 있는데, 범죄예방예측, 재범예측, 형사사법 절차, 보호관찰 등 다양한 분야에 인공지능의 이용 영역이 점차 확대되고 있어 형사정책적 측면에 상당히 긍정적 효과를 가져올 것으로기대된다. 하지만 형사사법에서의 인공지능 활용에 따른 긍정적 효과에 대한 기대와더불어 인공지능 편향성과 차별, 인공지능 투명성 이슈, 프라이버시권 침해, 기술의안정성 문제 등 다양한 윤리적 이슈가 문제 되고 있다. 이에 이 논문에서는 형사사법 분야에서의 신뢰할만한 인공지능의 개발과 활용에있어 인공지능에 대한 기본 윤리 가이드와 법제도 정비의 필요성을 강조하고, 국내외 인공지능 윤리가이드와 법제 동향, 형사사법에서 이용되는 인공지능의 윤리 이슈를 분석하여 우리 형사사법에서 인공지능 활용을 위한 법정책적 시사점을 도출하였다. After the digital revolution, there is a big change in all parts of life due to the 4th industrial revolution such as autonomous driving, artificial intelligence, and robots. Artificial intelligence (AI) refers to the simulation of human intelligence in machines that are programmed to think like humans. Artificial intelligence can do dangerous, difficult, and difficult tasks on behalf of humans in various fields. Artificial intelligence can make our lives very convenient, protect humans from danger. but against these positive changes, social problems such as confirmation bias, discrimination, data security and fundamental right issue can arise. For this reason, the necessity of artificial intelligence ethics guidelines for trustworthy artificial intelligence (AI) for humans was raised, and various artificial intelligence ethics guides were prepared with the efforts of experts around the world, and the European Union later proposed artificial intelligence regulation. The EU Artificial Intelligence Act proposed a risk-based regulatory approach to ensure the safety of artificial intelligence systems, respecting fundamental rights and European Union values, and strengthening the efficient enforcement of laws and regulations related to safety standards. Artificial intelligence is currently being developed and used in various areas, and the use of artificial intelligence is gradually increasing in the field of criminal justice, and it is expected to have a positive effect on criminal policy such as crime prevention, criminal justice, assess the likelihood of a recidivist and probation. However, in the use of artificial intelligence in criminal justice, various ethical issues such as artificial intelligence bias and discrimination, artificial intelligence transparency issues, privacy rights infringement, and technology stability are being problematic. This paper emphasized the necessity of artificial intelligence ethics guideline and legal system for artificial intelligence in the field of criminal justice, analyzed domestic and foreign artificial intelligence ethics guidelines and legal trends, and derived legal implications for the use of artificial intelligence in Korean criminal justice.

인공지능과 윤리적 이슈

박남기(Namkee Park) 서울대학교 언론정보연구소 2020 언론정보연구 Vol.57 No.3

본 연구는 최근 인공지능 기술의 발달과 함께 사용이 증가됨에 따라 발생할 수 있는 윤리적 이슈에 대해 알아보고 철학, 윤리학 등에서 이루어지고 있는 연구와 논의에 대해 살펴보았다. 이를 통해 인공지능과 관련한 윤리적 이슈의 이해와 문제해결을 위해서는 인공지능이나 로봇에 대한 존재론적 인식이 가장 중요한 틀과 기준이 됨을 제시하였다. 또한 커뮤니케이션 분야에서 윤리적 이슈가 제기되는 세부 영역과 쟁점들을 고찰하였다. 구체적으로 로봇 저널리즘과 인간-인공지능 상호작용 영역을 들어, 주요 이슈와 관련 연구의 현황을 소개하였다. 마지막으로 경험적 연구의 부족을 보완하고 향후 연구를 진작하기 위한 목적으로 탐색적 연구를 통해 연구 어젠다의 제시와 함께 경험적 연구의 가능성을 모색하였다. 탐색적 연구는 전국 대표표본을 이용한 온라인 서베이를 통해 인공지능 사용자들은 본인이 비윤리적 행동이나 비윤리적 언어를 사용하더라도 인공지능 로봇은 윤리적인 측면에서 올바른 방향으로 반응해 줄 것을 기대함을 발견했다. 또한 비윤리적 행위나 언어사용의 행위자가 본인일 때보다 제3자일 때 인공지능 로봇이 더 높은 수준의 도덕적 기준을 적용할 것을 기대하는 것으로 나타났다. 이러한 결과는 사용자의 비윤리적 행위나 언어사용에 대해 인공지능 로봇이 인간의 행동을 바람직한 방향으로 이끌어주기를 기대하는 사회적 인식을 보여준다. 이는 또한 사용자들이 부분적으로나마 도덕적 주체로서의 인공지능의 역할을 인식하고 있다는 것을 의미한다. 결론적으로 본 연구는 커뮤니케이션 연구에서 인공지능과 관련된 윤리문제에 대해 살펴보고 이를 바탕으로 학문적 측면에서 현실에 적용될 수 있는 기준과 고려해야 할 사항들을 제시했다는데 그 의의가 있다. This study examined ethical issues related to the development and usage of artificial intelligence (AI) in recent years. First, the study explored the research and discussions from the disciplines of philosophy and ethics. It found that ontological perception toward AI and robots could be the most important framework and standard for the understanding of, and the solution for ethical issues and problems associated with AI. Second, the study investigated the sub-areas and their ethical issues in the study of communication, including robot journalism and human-AI interaction. Finally, the study introduced an exploratory study that examined users" attitude toward the responses and role of AI robot when the users committed unethical behaviors or unethical language use. The exploratory study uncovered that the users expected socially desirable responses and ethical guideline from AI robot even when they were involved in unethical behaviors or unethical language use. Moreover, the users expected a higher moral standard when unethical behaviors or language use were committed from the third person, compared to when such behaviors were committed from the users themselves. These findings suggest that AI users perceive AI robots as partially moral and responsible agents. In conclusion, this study contributes to the study of communication in that it offers both an ethical guideline that can be applied to the use of AI and an opportunity that promotes empirical studies relevant to ethical issues in the study of communication.

인공지능 윤리원칙 분류 모형 및 구성요소에 관한 연구

소순주,안성진 한국컴퓨터교육학회 2021 컴퓨터교육학회 논문지 Vol.24 No.6

Artificial intelligence is the most core technology in the intelligent information society and is rapidly growing by being applied to all industrial fields. At the same time, the issue of Artificial Intelligence Ethics is rapidly becoming an issue, but an AI ethics classification system to be applied to the AI industry has not yet been prepared. In this study, in order to systematize the classification model for the ethical principles of artificial intelligence, the five artificial intelligence ethical principles and the composition included in each principle were conducted through expert interviews based on the analysis of artificial intelligence ethics guidelines, policies, legal systems, services, and literature. 20 elements were derived. Through the questionnaire, the AI ethical principle classification model was verified and proposed by descriptive statistical analysis and correlation analysis for each component. The proposed AI ethical principle classification model can be applied to AI software design, development verification, certification, operation, and education, and can contribute to reliable AI utilization and industry. 인공지능은 지능정보화사회에서 가장 핵심이 되는 기술로서 모든 산업분야에 적용되어 급성장하고 있다. 이와 함께 인공지능 윤리(Artificial Intelligence Ethics) 문제가 급속하게 이슈화되고 있으나 인공지능 산업에 적용할 인공지능 윤리 분류체계는 아직 마련되지 못하고 있는 실정이다. 본 연구에서는 인공지능 윤리원칙에 대한 분류 모형을 체계화하기 위하여 인공지능 윤리가이드라인, 정책, 서비스, 문헌 분석을 바탕으로 전문가 심층 면접(FGI)를 통해 5개의 인공지능 윤리원칙과 각 윤리원칙에 포함되는 구성요소 20개 항목을 도출하였다. 설문조사를 통하여 인공지능 윤리원칙과 각 구성요소에 대한 기술통계량분석, 상관분석에 의하여 인공지능 윤리원칙 분류 모형을 검증하여 제안하였다. 제안된 인공지능 윤리원칙 분류 모형은 인공지능 소프트웨어 설계, 개발검증, 인증, 운영, 교육 등에 적용될 수 있으며, 신뢰할 수 있는 인공지능 활용과 산업에 기여할 수 있을 것이다.