AI로봇의 도덕성 유형에 근거한 윤리인증 프로그램(ECP) 연구 = A Study on the Ethics Certification Program Based on the Morality Types of AI Robots

다국어 초록 (Multilingual Abstract)

The goal of the Ethics Certification Program for Autonomous and Intelligent System (ECPAIS), recently proposed by the Institute of Electrical and Electronics Engineers (IEEE), is to improve the transparency, accountability and to reduce algorithmic bias of autonomous intelligence systems. Citizens and consumers are concerned about the proliferation of these systems in the form of smart homes, companion robots, autonomous vehicles, or many of the products and services associated with them, whether they are considered “safe” or “trustworthy” by professionals.
It cannot be denied that safety and reliability are important and that they should act as important thresholds in our introduction to real life. One thing is clear, however, is that ethics cannot be replaced by safety or reliability. It is important to distinguish between ethical certification and safety or reliability certification.
Therefore, this study critically examines the contents of the ethical certification program, which is being discussed as the main criteria of accountability, transparency, and algorithm bias, and combines types of ethics certification and AI morality. I would like to present a ethical certification program that is dualized by ethical autonomy.

국문 초록 (Abstract)

최근 전기전자공학자협회(IEEE)에서 제안하고 있는 자율 지능 시스템의 윤리인증 프로그램(Ethics Certification Program for Autonomous and Intelligent System, ECPAIS)의 목표는 자율 지능 시스템의 투명성, 책임성 그리고 알고리즘 편향성의 축소를 증진시키는 인증 및 검토 과정에 필요한 것들을 만드는 것이다. 여기에서도 스마트 홈, 반려 로봇, 자율 주행차 혹은 이와 관련된 수많은 생산품과 서비스들의 형식으로 이러한 시스템이 확산되면서 이것들이 전문가들에 의해 “안전”하거나 “신뢰할 만한다”라고 평가되는지에 대해 시민이나 소비자들에게 알려야 할 필요성을 부정할 수는 없다. 이러한 필요성이 바로 윤리에 대한 ‘인증’이라는 개념이 도출되고 있는 이유일 것이다. 안전성이나 신뢰성이 중요하고, 우리들의 실생활의 도입에서 중요한 문턱으로 작용해야 한다는 주장을 거부할 수는 없을 것이다. 그런데 한 가지 분명한 것은 윤리성이 안전성이나 신뢰성으로 대체될 수 없다는 사실이다. 윤리인증과 안전성 내지 신뢰성 인증을 구분하는 것은 중요하다. 그래서 이 연구에서는 현재 논의되고 있는 책임성, 투명성, 그리고 알고리즘 편향성을 주요 기준으로 논의되고 있는 윤리인증 프로그램의 내용을 비판적으로 검토해보고, 윤리인증과 인공지능도덕성의 유형을 결합하여 기준 내지 준거인증과 자율성인증으로 이원화된 윤리인증 프로그램을 제시하고자 한다.

참고문헌 (Reference)

1 정진규, "트롤리 문제와 다원론적 규범 윤리 이론" 한국동서철학회 (81) : 423-446, 2016

2 한국정보화진흥원, "지능정보사회 윤리 가이드라인"

3 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안" 법조협회 66 (66): 60-105, 2017

4 변순용, "윤리적 AI로봇 프로젝트" 어문학사 2019

5 김형주, "모럴튜링테스트(Moral Turing Test) 개발의 이론적 토대" 한국윤리학회 1 (1): 319-339, 2018

6 변순용, "로봇윤리헌장의 필요성과 내용에 대한 연구" 한국윤리학회 1 (1): 295-319, 2017

7 "https://www.kakaocorp.com/kakao/ai/algorithm"

8 "https://www.kakaocorp.com/kakao/ai/algorithm"

9 "https://standards.ieee.org/industry-connections/ecpais.html"

10 정보통신정책연구원, "ICT 기반 사회현안 해결방안 연구" 정보통신정책연구원 2017

11 The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, "Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, Version 2"

12 김은수, "10세 아동 수준의 도덕적 인공지능개발을 위한 예비 연구 - 인공지능 발달 과정을 중심으로 -" 한국초등도덕교육학회 (57) : 105-127, 2017

13 정진규, "10세 수준 인공지능의 도덕성 판단 적용기준에 관한 연구" 한국윤리교육학회 (50) : 385-411, 2018