자율운항선박 인공지능의 윤리문제에 대한 소고 - 사고 알고리즘을 중심으로 -

국문 초록 (Abstract)

제4차 산업혁명이 시작되면서 주목받기 시작한 인공지능은 선박에도 적용되 어 자율운항선박 개발이 진행되고 있다. 자율운항선박은 선원의 승선유무와 원 격조종자의 조종여부에 따라 총 4단계로 구분되며, 완전자율운항선박은 인간의 개입 없이 설계자가 설계한 알고리즘에 따라 최적의 결정을 내리게 된다. 그러 나 인공지능의 자율성과 예측곤란성이라는 특징으로 인하여 완전자율운항선박 의 결정이 예측하기 어려우며 이러한 결정이 항상 윤리적이라고 기대하기 어렵 다. 그러나 인공지능의 예측불가능성을 인공지능의 자율성에 의존해서는 안되므로 인간의 가치가 반영된 인공지능의 알고리즘이 설계되어야 한다. 특히, 충 돌의 위험을 피할 수 없는 상황에서 인공지능이 어떠한 원칙과 기준에 따라 결 정을 내리는 것인지 이러한 과정을 결정하는 사고 알고리즘에 대해 설명가능하 고 이러한 결정이 사회 구성원들에게 합리적으로 받아들여져야 한다.
이와 같은 인공지능의 윤리문제에 대한 논의는 자율주행자동차 분야에서 가 장 활발하게 이루어지고 있다. 그러나 인간의 가치가 일관성과 보편성을 가지 기 어렵다는 한계가 있다. 특히, 윤리적 딜레마 상황에서는 ‘실천이성의 이중성’ 으로 인하여 이성적이며 윤리적인 판단과는 다른 결정을 내리게 되며, 윤리적 이라는 행동에 대한 기준 역시 지역·문화·경제 상황에 따라 다르게 인식하고 있다. 그 결과 인공지능의 윤리적 가이드라인의 필요성에 대해 인식하면서도 사고 알고리즘에 대한 구체적인 기준을 정립하는 것에 대해서는 회의적이다. 자율주행자동차의 윤리적 딜레마 상황을 예견하여 사용과정에서 발생하게 될 현실적인 문제를 완벽하게 대응할 수 없다는 것이다. 그러나 문제가 발생한 이 후 대응책을 마련한다는 것은 현실적으로 발생한 피해를 구제하기 위한 조치일 뿐 근본적인 문제를 해결하는 방법이 아니다. 특히, 전 세계 해역을 운항하는 자율운항선박은 전 세계 구성원들에게 합리적으로 받아들여지는 결정을 내려 야 한다. 따라서 국제해사기구를 중심으로 자율운항선박과 관계된 사고 알고리 즘을 포함한 윤리적 가이드라인을 마련하고 이를 개별국가에서 정책적으로 반 영함으로써 자율운항선박 개발 단계부터 사용단계에 이르는 전 과정에서 프로 그램 개발자와 이해관계자가 윤리규범을 준수하고, 축적된 정보를 기초로 보완 작업을 통해 자율운항선박의 윤리문제에 대응해 나가야 할 것이다.

다국어 초록 (Multilingual Abstract)

Ship is divided into four stages depending on whether the crew is on board and whether remote controllers are controlled, and fully Autonomous Ships will make optimal decisions based on algorithms designed by designers without human intervention. However, due to the characteristics of Artificial Intelligence such as autonomy and unforeseeability, the decision of a fully autonomous ship cannot always be expected to be ethical. However, Artificial Intelligence should make decisions that reflect human values. Especially in situations where the risk of conflict is unavoidable so called accidental algorithm, it should be able to explain what principles and criteria Artificial Intelligence makes decisions and these decisions should be reasonably accepted by society.
This discussion of the ethical issues of Artificial Intelligence is the most active in the field of self-driving cars. However, there is a limitation that human values are difficult to have consistency and universality. In particular, in ethical dilemma situations, "Dualism of Practical Reason" makes decisions different from rational and ethical judgments, and standards for ethical behavior are also recognized differently depending on regional, cultural, and economic situations. As a result, while recognizing the need for ethical guidelines for Artificial Intelligence, it is skeptical about establishing specific standards. Because the ethical dilemma situation of self-driving cars cannot be predicted and fully responded to the real problems that will arise in the process of use. However, coming up with countermeasures after the problem occurs is only a measure to remedy the damage that has occurred in reality and is not a way to solve the fundamental problem. In particular, Maritime Autonomous ships operating in waters all around the world must make decisions that are reasonably accepted by world society. Therefore, Ethical guidelines, including accidental algorithms, should be prepared by the International Maritime Organization and reflected their legal system in individual countries. In the entire process from the development stage to the use stage, program developers and stake-holders will have to comply with Ethical standards and respond to Maritime Autonomous Surface Ships’s ethical issue through complementary work based on accumulated information.

목차 (Table of Contents)

• 국문초록
• Abstract
• I. 서 론
• Ⅱ. 인공지능의 윤리문제
• 1. 인공지능의 윤리문제
• 2. 인공지능의 윤리적 판단기준
• Ⅲ. 자율주행자동차의 윤리문제
• 1. 윤리적 가이드라인
• 2. 윤리문제에 대한 사회적 인식
• Ⅵ. 자율운항선박의 윤리문제
• 1. 윤리문제와 윤리적 가이드라인의 필요성
• 2. 자율운항선박의 윤리적 가이드라인
• V. 결 론
• 참고문헌

참고문헌 (Reference)

1 이윤철, "해상교통법" 다솜출판사 2019

2 김성룡, "자율주행자동차의 교통사고 알고리즘에 관한 윤리학적 접근 현황과 그 법적 시사" IT와 법연구소 (15) : 193-219, 2017

3 박혜리, "자율운항선박 도입 관련 대응정책 방향 연구" 한국해양수산개발원

4 양종모, "인공지능의 윤리/정책/사회 이슈" Korea Policy Center for the Fourth Industrial Revolution 2019

5 강준호, "벤담의 공리주의에서 사익 추구와 공익 추구의 조화" 범한철학회 86 (86): 299-326, 2017

6 김동균, "국제해상충돌예방규칙에 따른 충돌회피 알고리즘에 관한 연구" 한국지능시스템학회 21 (21): 290-295, 2011

7 임이정, "공리적, 의무적, 융합적 접근 방법을 활용한 자율주행자동차의 윤리문제 극복방안에 관한 연구" 홍익대학교 2019

8 Jean-François Bonnefon, "The social dilemma of autonomous vehicles" 352 (352): 2016

9 Judith Jarvis Thomson, "The Trolley Problem" 94 (94): 1985

10 DataRobot, "The State of AI Bias in 2019"

11 Awad, "The Moral Machine Experiment" 563 : 2018

12 IMO, "Status of Treaties"

13 IMO, "Report of the Maritime Safety Committee on its Ninety-Ninety Session(MSC 99/22/add.1)"

14 Joshua D. Greene, "Our driverless dilemma" 352 (352): 2016

15 Thomas Burri, "Machine Learning and the Law: Five Theses" 2017

16 James P. Gunderson, "Intelligence≠Autonomy≠Capability"

17 IMO, "Framework for the Regulatory Scoping Exercise(MSC 99/WP.9)"

18 U.S. Department of Transportation, "Federal Automated Vehicles Policy"

19 Federal Ministry of Transport and Digital Infrastructure, "Ethics Commission Automated and connected driving"

20 Milton Friedman, "Essays in Positive Economics" The University of Chicago Press 1954

21 Jeffrey Gurney, "Crashing into the Unknown: An Examination of Crash-optimization Algorithms Through the Two Lanes of Ethics and Law" 79 (79): 2015

22 Patric Lin, "Autonomous Driving" Springer 2005

23 Stuart J. Russel, "Artificial Intelligence: A Modern Approach" Prentice-Hall International Limited 2013

24 Amy Maxmen, "A Moral Map for Ai Cars" 562 : 2018