로봇윤리헌장의 필요성과 내용에 대한 연구

변순용 ( Byun Sun-yong ),신현우 ( Shin Hyun-woo ),정진규 ( Jeong Jin-kyu ),김형주 ( Kim Hyeong-joo ) 한국윤리학회(구 한국국민윤리학회) 2017 倫理硏究 Vol.112 No.1

이미 로봇은 우리의 일상생활과 매우 밀접하게 관계를 맺고 있으며, 우리의 삶을 윤택하게 할 수 있는 로봇을 거부할 사람은 없을 것이다. 이에 반하여, 인간과 로봇의 관계 설정에 대한 논의와 로봇의 설계, 제작, 그리고 사용에 대한 논의 또한 매우 미흡한 실정이다. 따라서 본 논문은 이에 대한 명확한 가이드라인을 제시하기 위해서 2007년에 제정되기로 했던 미완의 로봇윤리헌장에 대한 수정의 필요성과 그 의미에 대하여 살펴보는 것에 그 목적이 있다. 2007년 당시 산업자원부는 세계 최초로 로봇윤리헌장을 제정하려 했지만, 국가적 차원에서 로봇윤리헌장을 공식화하지는 않았다. 그러나 인간과 로봇의 공존을 위해 이 윤리헌장은 매우 큰 의미를 지니고 있다고 할 수 있다. 본 논문은 현재의 로봇산업 발전에 발맞춰 앞으로 개정해야하는 로봇윤리헌장의 윤리적 근거를 제시함과 동시에 그 수정방향에 대하여 제시할 것이며, 로봇윤리헌장의 초안에 대한 내용분석을 통해 인간과 로봇의 관계에 대한 명확한 설정과 로봇 설계자, 제작자, 그리고 사용자가 준수해야하는 윤리원칙에 대한 세련화와 명료화에 대하여 논의할 것이다. Robots are already very closely related to our daily lives, and no one will reject robots that can enrich our lives. On the other hand, discussions about the relationship between human and robot are very inadequate. And also, discussions about the design, manufacture, and use of robots are insufficient at the same time. Therefore, in order to provide clear guidelines for this, the purpose of this paper is to examine the necessity and implications of the amendment to the Chart of Robot Ethics, which was enacted in 2007. In 2007, the Ministry of Commerce Industry and Energy the world`s first established the Chart of Robot Ethics, but did not promulgate the Chart of Robot Ethics. However, in order to coexist human and robot in the future, the Chart of Robot Ethics is very meaningful. Therefore, this paper will present the ethical basis of the Chart of Robot Ethics which should be revised in the future in line with the development of the current robot industry, and simultaneously offer guidance on the direction of the correction. Through the analysis of the Chart of Robot Ethics, we will discuss the clear setting of the relation between human and robot and refinement and clarification of the ethical principle that robot designers, manufacturer and users should comply with.

포스트휴먼 시대의 로봇과 인간의 윤리

유은순(Eun-Soon You),조미라(Mi-Ra Cho) 한국콘텐츠학회 2018 한국콘텐츠학회논문지 Vol.18 No.3

로봇의 영역이 인간의 정신적, 감정적 노동까지 대신하는 지능형 로봇으로 진화하면서 인간과 로봇 관계에서 발생할 수 있는 ‘로봇윤리’가 중요한 이슈로 떠오르고 있다. 본 연구는 포스트휴먼 시대에 필요한 인간과 로봇의 윤리 성찰을 고찰하고자 하며, 그 중심 내용은 다음과 같다. 첫째, 로봇의 윤리적 실천 가능성에 도전하는 윤리 소프트웨어 개발 사례를 통해 오로지 강제 입력된 윤리 코드만으로 로봇이 과연 옳고 그름을 판단할 수 있는가라는 문제의식에서 출발한다. 둘째, 로봇윤리는 인간의 편향성이 내재된 데이터를 학습했을 때 발생할 수 있는 비윤리적 문제들을 고려하고, 더불어 국가와 문화 간의 윤리적 상대주의를 인정해야 한다. 셋째, 로봇윤리는 로봇을 위한 윤리 강령만이 아니라, 인간과 로봇이 서로 공진화할 수 있는 새로운 개념의 ‘인간 윤리’가 전제되어야 한다. As the field of robots is evolving to intelligent robots that can replace even humans’ mental or emotional labor, ‘robot ethics’ needed in relationship between humans and robots is becoming a crucial issue these days. The purpose of this study is to consider the ethics of robots and humans that is essential in this post-human age. It will deal with the followings as the main contents. First, with the cases of developing ethics software intended to make robots practice ethics, the authors begin this research being conscious about the matter of whether robots can really judge what is right or wrong only with the ethics codes entered forcibly. Second, regarding robot ethics, we should consider unethicality that might arise from learning data internalizing human biasness and also reflect ethical differences between countries or between cultures, that is, ethical relativism. Third, robot ethics should not be just about ethics codes intended for robots but reflect the new concept of ‘human ethics’ that allows humans and robots to coevolve.

대학생의 인공지능 로봇 윤리에 관한 인식 연구

홍준성,강윤지,윤혜경 한국콘텐츠학회 2024 한국콘텐츠학회논문지 Vol.24 No.4

본 연구는 대학생들의 인공지능 로봇 윤리에 대한 인식 및 인공지능 윤리 교육의 필요성에 대하여 고찰해 보고자 한다. 이를 위해 부산광역시에 소재한 대학생 219명을 대상으로 자료를 수집하고, 기술통계, 교차분석, 독립표본 t 검정, 일원 배치 분산분석을 실시하였다. 연구 결과는 첫째, 대학생들은 인공지능 로봇에 대한 이해가 높은 것으로 나타났다. 둘째, 인공지능 로봇에 대한 대학생의 경험을 분석한 결과, 전공계열에 따라 통계적으로 유의미한 차이가 있었으며 의료·보건계열, 공학 계열이 인공지능 로봇에 대한 경험이 많은 것으로 나타났다. 셋째, 인공지능 로봇 윤리에 대한 대학생의 관심을 분석한 결과, ‘보통이다’라는 답변이 대부분으로 많은 관심은 없는 것으로 나타났다. 대학생의 배경 변인에 따라 인공지능 로봇 윤리에 대한 인식은 유의한 차이가 없는 것으로 나타났다. 윤리적 판단은 사고방식과 국가별, 문화적 차이에 따라 다르게 나타날 수 있다. 도덕이나 윤리성은 타고나는 것이 아니라 교육에 의해서 가치관이 정립되는 것이므로 학생들이 적극적으로 참여할 수 있는 로봇 윤리의 토론중심형 프로젝트 학습법을 제안하고, 윤리교육을 통해 인공지능 로봇의 이해와 로봇윤리를 함양하는 것이 중요하다. This study aims to examine university students' awareness of A.I. robot ethics and the need for A.I. ethics education. To this end, data were collected from 219 university students in Busan Metropolitan City, and descriptive statistics, cross-analysis, independent samples t-test, and one-way analysis of variance were conducted. The results of the study showed that, first, college students have a high understanding of A.I. robots. Second, when analyzing college students' experiences with A.I. robots, there were statistically significant differences by major, and medical and health majors and engineering majors had more experiences with A.I. robots. Third, we analyzed university students' interest in the ethics of A.I. robots, and found that most of them answered 'moderate', indicating that they are not very interested. There is no significant difference in the awareness of AI robot ethics according to the background variables of university students. Ethical judgment can vary depending on the mindset and cultural differences across countries and cultures. Since morality and ethics are not innate, but values are established by education, it is important to propose a discussion-based project learning method of robot ethics in which students can actively participate, and to cultivate understanding of AI robots and robot ethics through ethics education.

홈헬스케어 AI Robot의 윤리인증의 필요성과 그 준거에 대한 연구

정진규,변순용,김영걸,김종욱 한국윤리학회 2019 倫理硏究 Vol.127 No.1

In the era of fourth industrial revolution, people have been discussing AI robot continuously. There are two of the most discussed issues with regard to AI robots. The first is, "What AI robot do we build?" These are related to programs to be installed on AI robots. The second is, "If an ethical AI robot is built, what are the criteria for evaluating it as an ethical AI robot?" In other words, it is a discussion of what criteria can be considered to be ethical in conducting an AI robot. This paper is about the second discussion, ethical certification of what criteria can be used to evaluate AI robots as ethical. This paper is about the second discussion, what are the criteria for evaluating AI robots as ethical and ethics certification related to AI robots. Therefore, this paper will be described as follows. First, we will discuss what ethics certification system is and why it is necessary to develop home healthcare AI robots. Second, we will examine what kinds of ethics certification criteria are currently being discussed in various countries, analyze the implications of those criteria, and identify the necessity of various criteria. Finally, based on the analysis, I will suggest what are the ethics certification criteria for the ethics certification system that should be introduced in the future. 제 4차 산업혁명 시대의 도래 이후 AI에 대한 논의가 지속적으로 이루어지고 있다. 그 중 AI robot과 관련하여 현재 가장 핵심적으로 논의되는 것은 대략적으로 두 가지이다. 첫 번째는 “어떤 AI robot을 만들까?”, 즉 AI robot에 장착할 프로그램과 관련된 것들이다. 두 번째는 윤리적 AI robot이 제작되었다는 가정 하에 논의되는 것으로 “윤리적인 AI robot이 제작되었다면, 그것이 윤리적 AI robot이라고 평가할 수 있는 그 준거는 무엇인가?”이다. 즉, AI robot이 윤리적이라고 평가할 수 있는 준거는 무엇인가에 대한 논의이다. 본 논문은 두 번째 논의, AI robot이 윤리적이라고 평가할 수 있는 준거가 무엇인가에 대한 윤리인증에 관한 것이다. 그러므로 본 논문은 다음과 같이 서술될 것이다. 첫째, 윤리인증제가 무엇이며, 왜 홈헬스케어용 인공지능로봇을 개발하는데 있어서 그것이 필요한 것인가에 대하여 논의할 것이다. 둘째, 다양한 국가에서 현재 논의되고 있는 윤리인증 준거들에는 어떤 것들이 있는가를 살펴보고, 그 준거들이 함축하고 있는 내용들을 분석하여, 다양한 준거들의 필요성을 밝힐 것이다. 마지막으로 분석된 내용에 근거하여 앞으로 우리나라에 도입되어야 하는 윤리 인증제에 필요한 윤리인증 준거가 무엇인가를 제시할 것이다.

인공지능과 로봇의사윤리

맹주만 중앙대학교 중앙철학연구소 2018 철학탐구 Vol.52 No.-

The existing professional ethics of doctors consists of ethical principles which are centred in the vocation and obligation of doctors, and the relationship between doctors and patients. In the near future robot doctor with on-board the medical artificial intelligence will play important roles of diagnosis and treatment of disease. As the human doctor’s reliance on robot doctors increases with this, more and more ethical problems will arise. In that case the human doctor-centred medical ethics limits to solving these problems. Beacuse of this I think we need to enact robot doctor’s ethics. It is even more so when considering the expected cooperative relationship in the inevitable times of robot doctor’s help in medical practice. This paper is a preliminary consideration for this. I would suggest the fundamental principles of possible medical ethics that should be applied the future robot doctor under the name the ethical principles of robot doctor. 현행 의사의 직업윤리는 의사의 윤리적 소명과 책무 및 의사와 환자 사이의 윤리적 관계 중심의 원칙을 담고 있다. 가까운 장래에 의료인공지능이 탑재된 로봇의사는 인간의사의 질병 진단과 처방에 중요한 역할을 할 것이다. 이와 함께 인간의사의 로봇의사에 대한 의존도가 커질수록 더욱 더 많은 윤리적 문제들이 발생할 것이다. 그럴 경우에 이러한 문제들을 해결하는데 인간의사 중심의 의료윤리만으로는 한계가 있다. 이에 나는 로봇의사윤리의 제정이 필요하다고 생각한다. 의료행위에 인공지능의 도움이 불가피한 시대에서 예상되는 인간의사와의 협업 관계를 고려하면 더욱 그렇다. 이 글은 이를 위한 예비적 고찰이다. 나는 미래의 로봇의사에게 적용되어야 할 가능한 의료윤리의 근본 원칙을 로봇의사의 윤리원칙이라는 이름 아래 제시할 것이다.

진화론적 지능형 서비스 로봇에 대한 실천윤리학적 고찰

신현우 ( Hyun Woo Shin ) 한국윤리학회 2010 倫理硏究 Vol.79 No.1

Robot ethics that deals with ethical issues associated with the robot is in an area of practical ethics. By the way, these kinds of problems with the practice ethics is not entirely different. Gradual development of robot technology has made intelligent service robot which has human emotions and intelligence. For that reason, Robot ethics which deals with the matters of responsibility is increasingly needed. In this study I investigated practical ethical norms which are related to the intelligent service robot. For this study I have investigated intelligent service robots base on the theory of evolution and practical ethical issues which are related to intelligent service robots base on the theory of evolution.

초등학생을 위한 로봇윤리 교육 내용 개발

박주현,한정혜 한국창의정보문화학회 2018 창의정보문화연구 Vol.4 No.2

For elementary students, SW education using creative robots or drones started after school has already been conducted, has been recently introduced into the curriculum. But the contents of robot ethics have not been studied yet unlike information and communication ethics. In this paper, we investigate the types of robots that are mainly contacted with elementary students, collected the ethical problems related to robots through the literature research and interviews with robot education experts. Based on this, we extracted the contents of robot ethics education that elementary students should know and classified them by related to 'design · manufacturer', 'service provider', and 'user' in robot ethics guideline that Korean Robot Ethics Society presented. And we surveyed the elementary school teachers and present the contents of robot ethics of drones and creative robots through principal component analysis. 방과후학교를 중심으로 시작된 창작로봇이나 드론을 활용한 SW교육은 이미 초등학생에게 이루어지고 있으며, 최근 정보과학적 사고의 중요성과 함께 정규교과에서도 도입되었는데, 정보통신윤리와는 달리 로봇윤리의 교육내용은 아직 연구된 바가 없는 실정이다. 이 논문에서는 초등학교 학생들을 대상으로 주로 접하는 로봇의 종류를 알아보고, 문헌 연구를 통해 로봇과 관련된 윤리적 사례와 로봇교육 전문가 인터뷰를 통해 현장에서 발생하는 윤리적 문제들을 수집하였다. 이를 바탕으로 초등학생들이 숙지해야 할 로봇윤리 교육 내용들을 추출하고, 로봇윤리연구회에서 제시한 로봇윤리가이드라인의 ‘설계·제조자’, ‘서비스 제공자’, ‘사용자’와 연결하여 분류하였다. 그리고 초등교사 집단을 대상으로 설문조사를 실시하고 주성분분석을 통하여 드론과 창작로봇에 대한 로봇윤리 내용을 제시하였다.

한국의 인공지능과 로봇에 관한 법제정비방안 연구 : EU의 ｢로봇공학에 관한 민사법 규칙｣과 주요국들의 AI 로봇법제 동향 비교분석

심민석(Sim, Min-Seok) 경희법학연구소 2020 경희법학 Vol.55 No.3

인공지능(Artificial Intelligence, AI) 기술의 빠른 발전과 관련 산업의 성장은 국내 및 주요국의 인공지능과 관련한 법률의 제･개정을 빠르게 변화시키고 있다. 우리는 인공지능과 관련하여 2008년 3월에 ｢지능형 로봇개발 및 보급 촉진법｣을 제정하여 인공지능과 관련한 법률을 선진적으로 입법하였다. 다만, 지능형 로봇은 소프트웨어인 인공지능과 하드웨어인 로봇이 서로 결합한 기계장치임에도 인공지능과 로봇에 관한 규정들을 균형 있게 규정하지 않았다. 이를 보완하기 위하여 EU의 ｢로봇공학에 관한 민사법 규정｣과 부속서인 ｢로봇공학 헌장｣, EC의 ｢신뢰할 수 있는 인공지능 윤리원칙｣, 그리고 미국, 일본, 중국의 인공지능과 관련한 정책 및 입법 동향을 살펴보면서 시사점을 알아보았다. 그리고 이에 기반하여 현행 ｢지능형 로봇개발 및 보급 촉진법｣을 보완하는 입법방안으로 ‘지능형 로봇윤리헌장’의 제정공표, 인공지능 윤리원칙의 감시기관으로 연구윤리위원회 설립, 인공지능과 지능형 로봇의 정의개념 정립, 지능형 로봇 등록시스템 구축과 전담기관 설치, 의무보험제도의 도입, 지능형 로봇의 전자인격과 법적 책임의 일반원칙 수립에 관한 내용을 제시하였다. 다만, 법률의 명칭을 ｢인공지능과 로봇개발 및 보급 촉진법(가칭)｣ 또는 ｢인공지능과 지능형 로봇개발 및 보급 촉진법(가칭)｣으로 변경할 필요가 있다. 또한 4차산업혁명을 주도하는 인공지능과 관련한 다양한 분야의 기술개발과 정책을 추진하고, 4차산업혁명 전반의 발전을 이끌 수 있는 컨트롤 타워의 역할을 수행할 수 있도록 4차산업혁명위원회의 지위와 역할을 강화시킬 수 있는 방안을 제시하였다. The rapid development of artificial intelligence technology and the growth of related industries are rapidly changing the enactment and amendment of laws related to artificial intelligence in domestic and major countries. In relation to artificial intelligence, we enacted the ｢Intelligent Robot Development and Distribution Promotion Act｣ in March 2008, and advanced legislation related to artificial intelligence. However, although an intelligent robot is a mechanical device in which artificial intelligence (software) and robot (hardware) are combined with each other, regulations on artificial intelligence and robots are not stipulated in a balanced way. To supplement this, I examined the implications of the EU s ｢Civil Law Rules on Robotics｣, the annexed ｢CHARTER ON ROBOTICS｣, the EC s ｢Ethics guidelines for trustworthy AI｣, and policies and legislative trends related to artificial intelligence in the US, Japan, and China. Based on this, the legislative plan to supplement the current ｢Intelligent Robot Development and Distribution Promotion Act｣, announced the enactment of the Intelligent Robot Ethics Charter , established the Research Ethics Committee as a monitoring institution for artificial intelligence ethics principles, and the definition concept of artificial intelligence and intelligent robots. Contents on the establishment, establishment of an intelligent robot registration system and installation of a dedicated agency, introduction of a compulsory insurance system, and establishment of the general principles of the electronic personality and legal responsibility of intelligent robots are presented. In addition, the status and position of the 4th Industrial Revolution Committee and the role of the 4th Industrial Revolution Committee to play the role of a control tower that can lead the overall development of the 4th Industrial Revolution and promote technology development and policies in various fields related to artificial intelligence leading the 4th Industrial Revolution. It suggested a way to strengthen the role.

로봇과 인공지능 시대의 시민윤리와 도덕교육적 함의 -인공지능형 로봇의 활용을 중심으로-

송선영 ( Song Sun-young ) 한국윤리학회(구 한국국민윤리학회) 2017 倫理硏究 Vol.115 No.1

이번 연구의 목적은 인공지능형 로봇의 등장에 따른 시민윤리의 전망을 살펴보고, 이를 통해 도덕교육에 대한 함축적 의미를 검토하는데 있다. 인공지능형 로봇의 활용이 점차 사적 영역과 공적 영역으로 확대되면서, 인공지능형 로봇은 인간에 대해 일정한 조건에서 자율적인 행위를 취한다. 과거와는 달리 모든 인간의 지식정보가 빅데이터로 저장되고 네트워크로 연결되면서, 인공지능형 로봇의 활용은 점차 인간간의 관계망에 관여하고 있다. 이에 따라 인공지능형 로봇 자체에 대한 존재론적 전망을 넘어서 인간과 인공지능형 로봇간의 관계망에서 요구되는 조건적 자율성과 시민윤리적 알고리즘의 기준이 필요하다. 우리가 활용할 인공지능형 로봇은 특정 분야 및 상황에서 발생하는 시민적 삶의 문제들을 해결하는데 유용한 도구여야 한다. 이런 점에서 특화된 인공지능형 로봇은 세계 시민의 소통망에서도 유용한 도구가 될 수 있다. 나아가 시민윤리교육에 있어서도 시민윤리적 알고리즘개발을 위한 도덕발달 교육과 연계할 수 있고, 다양한 교육방법을 활용할 수 있는 교육도구가 될 수 있다. This paper aims to consider the perspective of civic ethics in the development of AI robotics. AI robots are able to do autonomous actions by their own algorithm in the fields of the public and the private. The main reason why they do so is to be utilized in the network of big-data that includes all human activities connected with human life in history. This means that AI robots are in the middle of relationship between humans and interacted with them. At that point, AI robots are required to have some flexible standards of algorithm of civic ethics, for they have autonomous ability to respond to human activities. The main rule to take is AI robots as useful tools that enable us to solve particular problems in limited and specific situations or environments. This also makes it possible that specialized AI robots by algorithm of civic ethics in civil society is utilized in the network of global citizenship. In terms of ethics education of citizenship for next generations, the utilization and perspective for AI robots is connected with moral development of algorithm by students and with educational tools in teaching & learning methods.

로봇윤리의 이론적 기초를 위한 근본 과제 연구

변순용,송선영 한국윤리학회 2013 倫理硏究 Vol.88 No.1

The main purpose of this paper is to consider ethical effects of the production and use of robots to human lives, in terms of the fundamental goal of roboethics. Due to different interests in robots technology, the levels of developing robots are different from various industrial fields of robots. At the moment a study of roboethics centred on western countries like EU and the USA tends to be focused on each case from their own interests of robotics. To give any desirable foundation of roboethics in ethics as well as in robotics, therefore, this paper would like to point out the limit of roboethics in contemporary tendency and to have certain perspective to the ethical nature of responsibility for the next generations. 이 연구의 목적은 로봇 제작 및 사용에 따라 인간 삶에 미치는 다양한 영향들에 관한 윤리적 성찰을 탐구하는데 있으며, 이것은 또한 로봇윤리의 근본적인 목표이다. 현재 로봇 공학의 기술 발달에 따라 분야별로 전개되는 로봇의 제작 및 사용의 양상은 매우 다양하게 나타나고 있다. 이로 인해 현재 서양 중심으로 전개되고 있는 로봇윤리 연구는 각 분야별 사례에 따라 개별적인 사례들 위주로 진행되고 있는 실정이다. 이에 이번 연구에서는 이러한 로봇윤리의 기본적 특징과 한계를 밝히고, 로봇윤리의 이론적 기초를 모색해보고, 향후 미래에 대한 책임윤리로서 로봇윤리의 본질을 전망해 본다.