초등학생을 위한 로봇윤리 교육 내용 개발

박주현,한정혜 한국창의정보문화학회 2018 창의정보문화연구 Vol.4 No.2

For elementary students, SW education using creative robots or drones started after school has already been conducted, has been recently introduced into the curriculum. But the contents of robot ethics have not been studied yet unlike information and communication ethics. In this paper, we investigate the types of robots that are mainly contacted with elementary students, collected the ethical problems related to robots through the literature research and interviews with robot education experts. Based on this, we extracted the contents of robot ethics education that elementary students should know and classified them by related to 'design · manufacturer', 'service provider', and 'user' in robot ethics guideline that Korean Robot Ethics Society presented. And we surveyed the elementary school teachers and present the contents of robot ethics of drones and creative robots through principal component analysis. 방과후학교를 중심으로 시작된 창작로봇이나 드론을 활용한 SW교육은 이미 초등학생에게 이루어지고 있으며, 최근 정보과학적 사고의 중요성과 함께 정규교과에서도 도입되었는데, 정보통신윤리와는 달리 로봇윤리의 교육내용은 아직 연구된 바가 없는 실정이다. 이 논문에서는 초등학교 학생들을 대상으로 주로 접하는 로봇의 종류를 알아보고, 문헌 연구를 통해 로봇과 관련된 윤리적 사례와 로봇교육 전문가 인터뷰를 통해 현장에서 발생하는 윤리적 문제들을 수집하였다. 이를 바탕으로 초등학생들이 숙지해야 할 로봇윤리 교육 내용들을 추출하고, 로봇윤리연구회에서 제시한 로봇윤리가이드라인의 ‘설계·제조자’, ‘서비스 제공자’, ‘사용자’와 연결하여 분류하였다. 그리고 초등교사 집단을 대상으로 설문조사를 실시하고 주성분분석을 통하여 드론과 창작로봇에 대한 로봇윤리 내용을 제시하였다.

홈헬스케어 AI Robot의 윤리인증의 필요성과 그 준거에 대한 연구

정진규,변순용,김영걸,김종욱 한국윤리학회 2019 倫理硏究 Vol.127 No.1

In the era of fourth industrial revolution, people have been discussing AI robot continuously. There are two of the most discussed issues with regard to AI robots. The first is, "What AI robot do we build?" These are related to programs to be installed on AI robots. The second is, "If an ethical AI robot is built, what are the criteria for evaluating it as an ethical AI robot?" In other words, it is a discussion of what criteria can be considered to be ethical in conducting an AI robot. This paper is about the second discussion, ethical certification of what criteria can be used to evaluate AI robots as ethical. This paper is about the second discussion, what are the criteria for evaluating AI robots as ethical and ethics certification related to AI robots. Therefore, this paper will be described as follows. First, we will discuss what ethics certification system is and why it is necessary to develop home healthcare AI robots. Second, we will examine what kinds of ethics certification criteria are currently being discussed in various countries, analyze the implications of those criteria, and identify the necessity of various criteria. Finally, based on the analysis, I will suggest what are the ethics certification criteria for the ethics certification system that should be introduced in the future. 제 4차 산업혁명 시대의 도래 이후 AI에 대한 논의가 지속적으로 이루어지고 있다. 그 중 AI robot과 관련하여 현재 가장 핵심적으로 논의되는 것은 대략적으로 두 가지이다. 첫 번째는 “어떤 AI robot을 만들까?”, 즉 AI robot에 장착할 프로그램과 관련된 것들이다. 두 번째는 윤리적 AI robot이 제작되었다는 가정 하에 논의되는 것으로 “윤리적인 AI robot이 제작되었다면, 그것이 윤리적 AI robot이라고 평가할 수 있는 그 준거는 무엇인가?”이다. 즉, AI robot이 윤리적이라고 평가할 수 있는 준거는 무엇인가에 대한 논의이다. 본 논문은 두 번째 논의, AI robot이 윤리적이라고 평가할 수 있는 준거가 무엇인가에 대한 윤리인증에 관한 것이다. 그러므로 본 논문은 다음과 같이 서술될 것이다. 첫째, 윤리인증제가 무엇이며, 왜 홈헬스케어용 인공지능로봇을 개발하는데 있어서 그것이 필요한 것인가에 대하여 논의할 것이다. 둘째, 다양한 국가에서 현재 논의되고 있는 윤리인증 준거들에는 어떤 것들이 있는가를 살펴보고, 그 준거들이 함축하고 있는 내용들을 분석하여, 다양한 준거들의 필요성을 밝힐 것이다. 마지막으로 분석된 내용에 근거하여 앞으로 우리나라에 도입되어야 하는 윤리 인증제에 필요한 윤리인증 준거가 무엇인가를 제시할 것이다.

대학생의 인공지능 로봇 윤리에 관한 인식 연구

홍준성,강윤지,윤혜경 한국콘텐츠학회 2024 한국콘텐츠학회논문지 Vol.24 No.4

This study aims to examine university students' awareness of A.I. robot ethics and the need for A.I. ethics education. To this end, data were collected from 219 university students in Busan Metropolitan City, and descriptive statistics, cross-analysis, independent samples t-test, and one-way analysis of variance were conducted. The results of the study showed that, first, college students have a high understanding of A.I. robots. Second, when analyzing college students' experiences with A.I. robots, there were statistically significant differences by major, and medical and health majors and engineering majors had more experiences with A.I. robots. Third, we analyzed university students' interest in the ethics of A.I. robots, and found that most of them answered 'moderate', indicating that they are not very interested. There is no significant difference in the awareness of AI robot ethics according to the background variables of university students. Ethical judgment can vary depending on the mindset and cultural differences across countries and cultures. Since morality and ethics are not innate, but values are established by education, it is important to propose a discussion-based project learning method of robot ethics in which students can actively participate, and to cultivate understanding of AI robots and robot ethics through ethics education.

로봇윤리헌장의 필요성과 내용에 대한 연구

변순용 ( Byun Sun-yong ),신현우 ( Shin Hyun-woo ),정진규 ( Jeong Jin-kyu ),김형주 ( Kim Hyeong-joo ) 한국윤리학회(구 한국국민윤리학회) 2017 倫理硏究 Vol.112 No.1

이미 로봇은 우리의 일상생활과 매우 밀접하게 관계를 맺고 있으며, 우리의 삶을 윤택하게 할 수 있는 로봇을 거부할 사람은 없을 것이다. 이에 반하여, 인간과 로봇의 관계 설정에 대한 논의와 로봇의 설계, 제작, 그리고 사용에 대한 논의 또한 매우 미흡한 실정이다. 따라서 본 논문은 이에 대한 명확한 가이드라인을 제시하기 위해서 2007년에 제정되기로 했던 미완의 로봇윤리헌장에 대한 수정의 필요성과 그 의미에 대하여 살펴보는 것에 그 목적이 있다. 2007년 당시 산업자원부는 세계 최초로 로봇윤리헌장을 제정하려 했지만, 국가적 차원에서 로봇윤리헌장을 공식화하지는 않았다. 그러나 인간과 로봇의 공존을 위해 이 윤리헌장은 매우 큰 의미를 지니고 있다고 할 수 있다. 본 논문은 현재의 로봇산업 발전에 발맞춰 앞으로 개정해야하는 로봇윤리헌장의 윤리적 근거를 제시함과 동시에 그 수정방향에 대하여 제시할 것이며, 로봇윤리헌장의 초안에 대한 내용분석을 통해 인간과 로봇의 관계에 대한 명확한 설정과 로봇 설계자, 제작자, 그리고 사용자가 준수해야하는 윤리원칙에 대한 세련화와 명료화에 대하여 논의할 것이다. Robots are already very closely related to our daily lives, and no one will reject robots that can enrich our lives. On the other hand, discussions about the relationship between human and robot are very inadequate. And also, discussions about the design, manufacture, and use of robots are insufficient at the same time. Therefore, in order to provide clear guidelines for this, the purpose of this paper is to examine the necessity and implications of the amendment to the Chart of Robot Ethics, which was enacted in 2007. In 2007, the Ministry of Commerce Industry and Energy the world`s first established the Chart of Robot Ethics, but did not promulgate the Chart of Robot Ethics. However, in order to coexist human and robot in the future, the Chart of Robot Ethics is very meaningful. Therefore, this paper will present the ethical basis of the Chart of Robot Ethics which should be revised in the future in line with the development of the current robot industry, and simultaneously offer guidance on the direction of the correction. Through the analysis of the Chart of Robot Ethics, we will discuss the clear setting of the relation between human and robot and refinement and clarification of the ethical principle that robot designers, manufacturer and users should comply with.

포스트휴먼 시대의 로봇과 인간의 윤리

유은순(Eun-Soon You),조미라(Mi-Ra Cho) 한국콘텐츠학회 2018 한국콘텐츠학회논문지 Vol.18 No.3

로봇의 영역이 인간의 정신적, 감정적 노동까지 대신하는 지능형 로봇으로 진화하면서 인간과 로봇 관계에서 발생할 수 있는 ‘로봇윤리’가 중요한 이슈로 떠오르고 있다. 본 연구는 포스트휴먼 시대에 필요한 인간과 로봇의 윤리 성찰을 고찰하고자 하며, 그 중심 내용은 다음과 같다. 첫째, 로봇의 윤리적 실천 가능성에 도전하는 윤리 소프트웨어 개발 사례를 통해 오로지 강제 입력된 윤리 코드만으로 로봇이 과연 옳고 그름을 판단할 수 있는가라는 문제의식에서 출발한다. 둘째, 로봇윤리는 인간의 편향성이 내재된 데이터를 학습했을 때 발생할 수 있는 비윤리적 문제들을 고려하고, 더불어 국가와 문화 간의 윤리적 상대주의를 인정해야 한다. 셋째, 로봇윤리는 로봇을 위한 윤리 강령만이 아니라, 인간과 로봇이 서로 공진화할 수 있는 새로운 개념의 ‘인간 윤리’가 전제되어야 한다. As the field of robots is evolving to intelligent robots that can replace even humans’ mental or emotional labor, ‘robot ethics’ needed in relationship between humans and robots is becoming a crucial issue these days. The purpose of this study is to consider the ethics of robots and humans that is essential in this post-human age. It will deal with the followings as the main contents. First, with the cases of developing ethics software intended to make robots practice ethics, the authors begin this research being conscious about the matter of whether robots can really judge what is right or wrong only with the ethics codes entered forcibly. Second, regarding robot ethics, we should consider unethicality that might arise from learning data internalizing human biasness and also reflect ethical differences between countries or between cultures, that is, ethical relativism. Third, robot ethics should not be just about ethics codes intended for robots but reflect the new concept of ‘human ethics’ that allows humans and robots to coevolve.

진화론적 지능형 서비스 로봇에 대한 실천윤리학적 고찰

신현우 ( Hyun Woo Shin ) 한국윤리학회 2010 倫理硏究 Vol.79 No.1

Robot ethics that deals with ethical issues associated with the robot is in an area of practical ethics. By the way, these kinds of problems with the practice ethics is not entirely different. Gradual development of robot technology has made intelligent service robot which has human emotions and intelligence. For that reason, Robot ethics which deals with the matters of responsibility is increasingly needed. In this study I investigated practical ethical norms which are related to the intelligent service robot. For this study I have investigated intelligent service robots base on the theory of evolution and practical ethical issues which are related to intelligent service robots base on the theory of evolution.

인공지능과 로봇의사윤리

맹주만 중앙대학교 중앙철학연구소 2018 철학탐구 Vol.52 No.-

The existing professional ethics of doctors consists of ethical principles which are centred in the vocation and obligation of doctors, and the relationship between doctors and patients. In the near future robot doctor with on-board the medical artificial intelligence will play important roles of diagnosis and treatment of disease. As the human doctor’s reliance on robot doctors increases with this, more and more ethical problems will arise. In that case the human doctor-centred medical ethics limits to solving these problems. Beacuse of this I think we need to enact robot doctor’s ethics. It is even more so when considering the expected cooperative relationship in the inevitable times of robot doctor’s help in medical practice. This paper is a preliminary consideration for this. I would suggest the fundamental principles of possible medical ethics that should be applied the future robot doctor under the name the ethical principles of robot doctor. 현행 의사의 직업윤리는 의사의 윤리적 소명과 책무 및 의사와 환자 사이의 윤리적 관계 중심의 원칙을 담고 있다. 가까운 장래에 의료인공지능이 탑재된 로봇의사는 인간의사의 질병 진단과 처방에 중요한 역할을 할 것이다. 이와 함께 인간의사의 로봇의사에 대한 의존도가 커질수록 더욱 더 많은 윤리적 문제들이 발생할 것이다. 그럴 경우에 이러한 문제들을 해결하는데 인간의사 중심의 의료윤리만으로는 한계가 있다. 이에 나는 로봇의사윤리의 제정이 필요하다고 생각한다. 의료행위에 인공지능의 도움이 불가피한 시대에서 예상되는 인간의사와의 협업 관계를 고려하면 더욱 그렇다. 이 글은 이를 위한 예비적 고찰이다. 나는 미래의 로봇의사에게 적용되어야 할 가능한 의료윤리의 근본 원칙을 로봇의사의 윤리원칙이라는 이름 아래 제시할 것이다.

Role-based Morality, Ethical Pluralism, and Morally Capable Robots

Zhu, Qin,Williams, Tom,Wen, Ruchen World Association for Triple Helix and Future Stra 2021 Journal of Contemporary Eastern Asia Vol.20 No.1

Dominant approaches to designing morally capable robots have been mainly based on rule-based ethical frameworks such as deontology and consequentialism. These approaches have encountered both philosophical and computational limitations. They often struggle to accommodate remarkably diverse, unstable, and complex contexts of human-robot interaction. Roboticists and philosophers have recently been exploring underrepresented ethical traditions such as virtuous, role-based, and relational ethical frameworks for designing morally capable robots. This paper employs the lens of ethical pluralism to examine the notion of role-based morality in the global context and discuss how such cross-cultural analysis of role ethics can inform the design of morally competent robots. In doing so, it first provides a concise introduction to ethical pluralism and how it has been employed as a method to interpret issues in computer and information ethics. Second, it reviews specific schools of thought in Western ethics that derive morality from role-based obligations. Third, it presents a more recent effort in Confucianism to reconceptualize Confucian ethics as a role-based ethic. This paper then compares the shared norms and irreducible differences between Western and Eastern approaches to role ethics. Finally, it discusses how such examination of pluralist views of role ethics across cultures can be conducive to the design of morally capable robots sensitive to diverse value systems in the global context.

로봇과 인공지능 시대의 시민윤리와 도덕교육적 함의 -인공지능형 로봇의 활용을 중심으로-

송선영 ( Song Sun-young ) 한국윤리학회(구 한국국민윤리학회) 2017 倫理硏究 Vol.115 No.1

이번 연구의 목적은 인공지능형 로봇의 등장에 따른 시민윤리의 전망을 살펴보고, 이를 통해 도덕교육에 대한 함축적 의미를 검토하는데 있다. 인공지능형 로봇의 활용이 점차 사적 영역과 공적 영역으로 확대되면서, 인공지능형 로봇은 인간에 대해 일정한 조건에서 자율적인 행위를 취한다. 과거와는 달리 모든 인간의 지식정보가 빅데이터로 저장되고 네트워크로 연결되면서, 인공지능형 로봇의 활용은 점차 인간간의 관계망에 관여하고 있다. 이에 따라 인공지능형 로봇 자체에 대한 존재론적 전망을 넘어서 인간과 인공지능형 로봇간의 관계망에서 요구되는 조건적 자율성과 시민윤리적 알고리즘의 기준이 필요하다. 우리가 활용할 인공지능형 로봇은 특정 분야 및 상황에서 발생하는 시민적 삶의 문제들을 해결하는데 유용한 도구여야 한다. 이런 점에서 특화된 인공지능형 로봇은 세계 시민의 소통망에서도 유용한 도구가 될 수 있다. 나아가 시민윤리교육에 있어서도 시민윤리적 알고리즘개발을 위한 도덕발달 교육과 연계할 수 있고, 다양한 교육방법을 활용할 수 있는 교육도구가 될 수 있다. This paper aims to consider the perspective of civic ethics in the development of AI robotics. AI robots are able to do autonomous actions by their own algorithm in the fields of the public and the private. The main reason why they do so is to be utilized in the network of big-data that includes all human activities connected with human life in history. This means that AI robots are in the middle of relationship between humans and interacted with them. At that point, AI robots are required to have some flexible standards of algorithm of civic ethics, for they have autonomous ability to respond to human activities. The main rule to take is AI robots as useful tools that enable us to solve particular problems in limited and specific situations or environments. This also makes it possible that specialized AI robots by algorithm of civic ethics in civil society is utilized in the network of global citizenship. In terms of ethics education of citizenship for next generations, the utilization and perspective for AI robots is connected with moral development of algorithm by students and with educational tools in teaching & learning methods.

로봇과 인공지능(AI)의 법적․윤리적 입법방안에 관한 연구

심민석 동국대학교 비교법문화연구소 2019 比較法硏究 Vol.19 No.2

It is no exaggeration to say that we stand at the threshold of a Fourth industrial revolution that can not be stopped. There are many positive views on artificial intelligence technology, which is the core technology of this new industrial revolution, but there are also high voices of concern. At this level, the resolution of the European Union's 「Civil Law Rules on Robotics」 in 2017 is highly suggestive of our legislation on legal and ethical issues in the Fourth Industrial Revolution. First of all, as described in the preface of the resolution, the development of artificial intelligence is based on the assumption of safety devices for automated algorithms and the establishment of human control and verification. Basic ethical principles and codes of conduct for designers, producers and users should be established. As far as possible, the parts that can be disputed within the scope of current liability should be judged to the maximum extent possible. In addition, the definitions of our intelligent robots need to be defined more specifically, such as 「Civil Law Rules on Robotics」. And a registration system for robots and artificial intelligence needs to be established, and it is necessary to establish an agency that can do this. And securing the openness of the digital infrastructure proposed by 「Civil Law Rules on Robotics」 is very important in order to form our desirable intelligent information society. The ethical principles of robotics, which are described in 「Civil Law Rules on Robotics」, have great implications for future intelligent robot ethics charters. These legislations can be a great reference for us in defining the legal responsibilities for the future development of robotics and artificial intelligence. 우리는 멈출 수 없는 새로운 산업혁명이라는 시대적인 변화의 문턱에 서있다고 해도 과언은 아니다. 이러한 새로운 산업혁명의 핵심 기술이라고 할 수 있는 인공지능기술에 관해서는 긍정적인 시각도 많지만 우려의 목소리도 높다. 이러한 차원에서 2017년에 의결한 EU의 「로봇공학에 관한 민법 규칙」의 결의안은 제4차 산업혁명에 있어서의 법적․윤리적인 문제에 관한 우리의 입법에 시사하는 바가 크다. 이와 관련하여 살펴보면, 우리의 지능형 로봇에 관한 정의 규정을 「로봇공학에 관한 민법 규칙」과 같이 좀 더 구체화할 필요성이 있고, 국내 및 국제적인 차원에서 등록시스템의 구축은 필요하며 이를 전담할 수 있는 기관의 설립도 필요하다고 본다. 그리고 아직 지능형 로봇윤리헌장은 정식으로 공표되어 있지는 않아 「로봇공학에 관한 민법 규칙」 결의안에 밝히고 있는 로봇공학의 윤리적인 원칙은 향후 지능형 로봇윤리헌장을 작성하는데 있어서 시사해 주는 바가 크다고 할 수 있다. 또한 「로봇공학에 관한 민법 규칙」은 로봇의 잠재적인 피해에 대해 보험에 가입하도록 의무보험제도를 수립하도록 하고 있고, 회복될 수 있는 피해의 유형이나 범위를 피해가 인간이 아닌 행위자에 의해 야기되었다고 보상의 형태를 제한하여서는 안 된다고 밝히고 있다. 이는 향후 로봇과 인공지능의 개발에 따른 법적 책임을 규정하는데 있어 크게 참고가 될 수 있는 규정으로 보인다. 이와 더불어 미래의 입법안에는 자율형 살상무기시스템의 개발을 전면적으로 금지할 수 있는 금지규정을 입법화해야 한다. 그리고 독립적인 윤리심사가 확보될 수 있도록 국가 기관 내에 연구윤리위원회를 설립하여야 하며, 위원회의 운영과 절차는 투명하도록 보장해야 한다. 또한 로봇과 인공지능에 관한 연구지원을 받기 위해서는 반드시 위험영향평가와 윤리영향평가를 받도록 할 필요도 있다.