인공적 도덕 행위자에 대한 융합접근의 철학적 기획 = A Philosophical project of hybrid approach to artificial moral agents

다국어 초록 (Multilingual Abstract)

This article aims at philosophical analysis and planning for a hybrid approach to artificial moral agents. The goal of the AMA is to establish a realistic plan that has a moral awareness similar to human beings in the ethical dimension among the various approaches to AMA. Therefore, this study summarizes the moral cognitive models that have been discussed in philosophy, especially ethics, in order to accomplish these aims and goals. Through this process, this study regards the position that morality can be reduced to formal reasoning as the main idea of ​​top - down approach and distinguishes the main idea of ​​bottom - up approach that morality has self - manipulation as an emergent process. As a result, the study has gone beyond the limitations of virtue theory emphasized by W. Wallach & C. Allen in a hybrid approach, suggesting new plans for a more realistic AMA hybrid approach.

국문 초록 (Abstract)

이 글은 인공적 도덕 행위자(Artificial Moral Agents)에 대한 융합(hybrid) 접근에 대해 철학적 분석과 기획을 목적으로 한다. 그리고 AMA를 둘러싼 여러 접근들 중 융합적 접근이 윤리학 차원에서 인간과 유사한 도덕적 인지를 갖추게 하는 현실적으로 기획 수립을 그 목표로 한다. 따라서 본 연구는 이러한 목적과 목표를 수행하기 위해 철학계에서, 특히 윤리학에서 지금까지 논의되고 있는 도덕적 인지 모형들을 정리하였다. 이 정리를 통해 본 연구는 도덕성이 형식적 추론으로 환원될 수 있다는 입장을 하향식의 주요 이념으로 간주하고 도덕성이 창발적 과정으로 자기 조작성을 가진다는 입장을 상향식의 주요 이념을 구분하였다. 그 결과로 본 연구는 웬델 월러치와 클린 알렌(W. Wallach & C. Allen)이 융합적 접근으로 강조한 덕 이론의 한계를 넘어, 보다 현실적인 AMA 융합적 접근에 대한 새로운 기획들을 제시하게 되었다.

참고문헌 (Reference)

1 이정열, "콜버그(Kohlberg)의 도덕성 발달이론에 기초한 토의수업에 관한 연구" 서울대학교 대학원 2002

2 변순용, "인공지능로봇을 위한 윤리 가이드라인 연구 - 인공지능로봇윤리의 4원칙을 중심으로 -" 한국윤리교육학회 (47) : 233-252, 2018

3 최현철, "인공적 도덕행위자(AMA) 개발을 위한 윤리적 원칙 개발 - 하향식 접근(공리주의와 의무론)을 중심으로 -" 한국윤리학회 1 (1): 31-53, 2016

4 최용성, "인공적 도덕 행위자에 관한 도덕철학·심리학적 성찰" 한국윤리교육학회 (46) : 93-129, 2017

5 최현철, "인공적 도덕 행위자(AMA) 윤리적 프로그래밍을 위한 논리 연구 Ⅰ" 한국윤리교육학회 (46) : 65-91, 2017

6 웬델 월러치, "왜 로봇의 도덕인가" 메디치미디어 2014

7 김형주, "모럴튜링테스트(Moral Turing Test) 개발의 이론적 토대" 한국윤리학회 1 (1): 319-339, 2018

8 아리스토텔레스, "니코마코스 윤리학" 서광사 1984

9 노영란, "그린(Joshua D. Greene)의 이중과정이론의 규범적 함의에 대한 고찰" 범한철학회 79 (79): 433-464, 2015

10 Mikhail, J., "Universal moral grammar: Theory, evidence and the future" 11 : 2007

11 Gips, J., "Toward the Ethical Robot"

12 McCarth, J., "Some philosophical problems from the standpoint of artificial intelligence" 4 : 1969

13 Lin, P., "Robot Ethics: the Ethical and Social Implications of Robotics" The MIT Press 2012

14 Haidt, J., "REASONING" Cambridge University Press 2008

15 Powers T., "Prospects for a Kantian Machine" 21 (21): 2006

16 Gleeson, A., "Moral Particularism Reconfigured" 30 (30): 2007

17 Wallach, W., "Moral Machines: Teaching Robots Right from Wrong" Oxford Univ. press 2009

18 Scheutz, M., "Fundamental Issues of Artificial Intelligence" Springer 2014

19 Patrzyk, P. M., "Artificial Moral Agents: Current Approaches and Challenge"

20 Gips, J., "Android Epistemology" MIT Press(AAAI Press) 1995

21 Greene, J., "An fMRI investigation of emotional engagement in moral judgment" 293 : 2001

22 정진규, "10세 수준 인공지능의 도덕성 판단 적용기준에 관한 연구" 한국윤리교육학회 (50) : 385-411, 2018