인공지능 윤리 역량 신장을 위한 인공지능 윤리 딜레마 개발

김은경,이영준 한국컴퓨터교육학회 2023 컴퓨터교육학회 논문지 Vol.26 No.5

인공지능 기술의 빠른 확산으로 인공지능 윤리 문제는 인공지능 전문가만의 문제가 아닌 사회 문제가 되었다. 이에 따라 인공지능 윤리 문제 상황을 해결하기 위해 인공지능 윤리 문제를 파악하고 상황에 맞는 적절한 윤리적 판단을 내릴 수 있는 인공지능 윤리 역량이 요구되고 있다. 윤리 딜레마를 활용한 토론 수업은 다수의 연구에서 윤리 역량을 신장시키는 것으로 나타났다. 이에 인공지능 윤리 교육에서도 인공지능 윤리 딜레마를 활용한 인공지능 윤리 수업이 활발히 이루어지고 있다. 그러나 이에 활용되는 인공지능 딜레마가 한 사례에 매우 치중되어 있어 다양한 인공지능 윤리 요소를 다루지 못한다는 문제가 있다. 이에 본 연구에서는 교육부의 ‘사람이 중심이 되는 인공지능 윤리 기준’의 3대 원칙과 10대 핵심 요소가 반영된 인공지능 윤리 딜레마 9개를 개발하고 전문가를 통해 타당성을 확보하였다. 본 인공지능 윤리 딜레마가 인공지능 윤리 딜레마 활용 교육에 다양성을 높이고 학습자의 인공지능 윤리 역량 신장에 도움이 되길 기대한다. With the rapid spread of AI technology, the AI ethics issue has become a social issue, not just an issue for AI experts. Accordingly, in order to solve AI ethical problems, AI ethicsal competence are required to identify AI ethical problems and make appropriate ethical judgments appropriate to the situation. Discussion classes using ethical dilemmas have been shown to increase ethical competency in a number of studies. Accordingly, in AI ethics education, AI ethics classes using AIethics dilemmas are being actively conducted. However, there is a problem that the AI dilemma used for this is very focused on one case, so that it cannot deal with various AI ethical factors. Accordingly, in this study, nine AI ethical dilemmas that reflect the three principles and ten core elements of the Ministry of Education’s “human-centered AI ethical standards” were developed, and validity was secured through experts. It is hoped that this AI ethical dilemma will help increase diversity in AI ethical dilemma utilization education and enhance learners' AI ethical competency.

기계윤리 및 신경윤리학 관점에서 본 인공도덕행위자(AMA) 도덕성 기준과 초등도덕교육의 과제

박형빈 ( Park Hyoungbin ) 서울교육대학교 초등교육연구원 2021 한국초등교육 Vol.31 No.특별호

다양한 사회 영역에 걸친 강력한 변형력과 심오한 영향력에 비해 AI의 개발 및 사용을 안내하는 원칙과 가치 기준 정립은 일천하다. 그러나 인류는 인공도덕행위자(AMA)의 행동을 설계하고 도덕적으로 평가할 시점에 이르렀을 뿐만 아니라, 이와 관련해 답해야 할 여러 가지 질문과 문제에 봉착했다. 기계또는 로봇을 도덕적 행위자로 인정할 수 있는가와 같은 근본적인 윤리 문제를 포함하여 보다 근원적이고 구체적인 문제에 답변할 것을 요구받고 있다. AI 응용과 설계에 있어서의 윤리, AI 자체의 윤리 모형 등은 인류가 추구해야 할 AI 산업을 위한 윤리적 기초가 된다. AI 윤리는 도덕교육, 윤리교육 현장에서 중요하게 다루어야 할 주제 및 내용 요소이다. 그러므로 학습 보조 수단으로서의 AI 역할뿐만 아니라 AI 윤리는 교육 현장에서 교육 콘텐츠로서도 주요한 자원이다. 본 연구에서는 AI 윤리 문제와 관련하여 초등학교 도덕교육 현장에서 교육 콘텐츠로서 반드시 다룰 필요가 있는 주제 및 내용 요소들을 살펴보고자 했다. 이를 위해 첫째, 기계윤리 문제에 대해 살펴보았다. 둘째, 신경윤리학에서 기계윤리 구현 문제를 분석하였다. 셋째, 인공도덕행위자를 위한 도덕적 기준을 탐색하였다. 넷째, 초등학교 도덕과 과제로서 초등도덕에서 다루어야 할 AI 윤리 관련 내용 요소들을 제안하였다. 윤리적 다원주의와 윤리적 전문성 부족으로 설계된 AMA는 단순한 인공행위자로 전락할 수 있으며 이를 통해 야기된 도덕적 문제들의 피해는 고스란히 인류의 몫이 될 수 있다. 따라서 초등학교 현장에서 학생들의 뇌신경과학적, 발달심리학적 특성을 고려한 교육 방법을 통해 중요한 교육 콘텐츠로서 AI 윤리, 기계윤리 관련 논의를 다룰 필요가 있다. 도덕적 인격 형성의 복잡성을 간과한 AMA 구축으로 인해 프로그래머와 컴퓨터 공학자들이 오류에 봉착하지 않도록 하는 노력은 초등학교 도덕교육 현장에서부터 이루어져야 할 것이다. The principles that guide the use of AI are not yet established or complete. Given that AI is causing a powerful transformation in the world, and has profound influence on social domains, we urgently need to create moral standards/rules and regulations that would prohibit certain activity deemed unhealthy for children. However, humans have created an artificial moral agent(AMA) that acts concern for morality. This is a huge problem. The technology is well ahead of the AI ethics, and our current AI ethics can't cope with all these changes. Therefore I believe that an ethics commission must be established to oversee the development of this powerful new technology, especially in the area of education. Children are vulnerable and need our protection against amoral agents in the AI arena. In addition to the role of AI as a tool for learning, AI ethics should be a part of any education curriculum. First, the study should explore machine ethics and the task of implementing ethical behavior. Second, the task of implementing machine ethics in neuroethics is analyzed. Third, we should research possible ethical standards. Fourth, children should be educated about the opportunities and moral hazards of AI. We could create AMA to be a simple artificial agent. AI ethics should therefore be an integral part of future education programs with a special focus on early childhood psychological development. Programmers and computer engineers should avoid errors due to the AMA design that overlooked the complexity of moral character. We should deal with machine ethics for elementary students.

AI 윤리 교육의 필요성에 대한 연구

변순용 서울교육대학교 초등교육연구원 2020 한국초등교육 Vol.31 No.3

The main purpose of this study is to propose the necessity and content of AI ethics educationbased on the analysis of recent domestic and international trends related to AI ethics. Reflectingchanges in UNESCO's AI ethics recommendations, the announcement of the AI national strategy, andthe entry into force of the Framework Act on Intelligent Informatization, we should try to establish acontent system for AI ethics education and integrate it into the moral and curriculum. Therefore, itis necessary to discuss how to accept the new contents of the practical ethics of AI ethics in thecurrent elementary and secondary ethics and education. In this paper, the need for the establishment of basic AI competencies, the need for AIconvergence education experts, and the need for AI ethics and citizenship education was presented. As an example of the content structure of AI ethics education, we analyzed the contents of AI ethicseducation developed by MIT and the education program of Harvard University, and proposed anexample of the content system of AI ethics education that can be done in Korea. In particular, an opportunity to think about the importance of AI ethics education centering onthe topic of 'If artificial intelligence is in charge of knowledge transfer, what should a teacher do?'in the course of training artificial intelligence ethics experts or teachers is necessary to provide. Inthe age of artificial intelligence, education innovation and paradigm shift will surely occur, and it isan important time to reveal that the center is not technology, but artificial intelligence ethics. 이 연구의 주된 목적은 AI 윤리와 관련된 최근 국내외적인 동향에 대한 분석을 근거로하여 AI 윤리교육의 필요성과 내용에 대한 제안을 하는 것이다. 유네스코의 AI 윤리 권고안, AI 국가 전략 발표, 지능정보화기본법의 발효 등의 변화를 반영하여, 우리는 AI 윤리교육의 내용체계를 수립하여 도덕과 교육과정에 통합시켜보려는 노력을 해야 한다. 그래서 현행 초, 중등 도덕과 교육이 AI 윤리라는 실천윤리의 새로운 내용을 수용하는 방안에 대한 논의가 시급하다. 이 연구에서는 세계 여러 나라에서 개발되고 있는 AI 관련 초·중등학교용 교재를 통해 인공지능 교육이 이미 학교교육의 하나로 다뤄지고 있음을 제시했다. AI 윤리 교육의 내용 구성의 예시로, MIT에서 개발한 AI 윤리 교육내용과 하버드 대학의 교육프로그램을 분석하고, 한국에서 실시할 수 있는 AI윤리교육의 내용체계의 예시를 제안하였다. 이러한 변화에 더해서 인공지능 융합 교육 전문가, 인공지능 시민성 교육 전문가가 필요함을 언급하고, 더욱이 인공지능 역기능에 대응하는 것, 인공지능윤리전문가의 필요성을 강조하였다. 특히, 인공지능윤리 전문가 양성, 혹은 교사 양성과정에서 ‘인공지능이 지식전달을 담당한다면, 교사는 무엇을 해야 하나?’라는 화두를 중심으로 ’인공지능윤리 교육‘의 중요성을 생각해볼 수 있는 계기를 제공하는 것이 필요하다. 인공지능 시대는 교육의 혁신, 패러다임의 전환이 분명히 일어날 것이며그 중심은 기술이 아니라 인공지능윤리임을 드러낼 수 있는 중요한 시점이다.

학교 교육과정에서 융복합적 AI윤리교육의 과제 - 교육대학원 AI융합교육전공과 ‘AI 윤리’ 수업 사례를 중심으로 -

송선영 ( Song Sun-young ) 한국윤리교육학회 2022 윤리교육연구 Vol.- No.63

이번 연구는 교육부의 학교 교사 대상 융합교육 정책 지원에 따른 38개 교육대학원 AI융합교육전공(재교육) 운영과 ‘AI 윤리’ 관련 선택과목 수업 개설 현황, 그리고 경상국립대학교 교육대학원 AI융합교육전공의 <인공지능과 윤리교육> 수업 사례를 통해 학교 교육과정에서 AI윤리교육의 과제를 검토하고자 한다. 2020년 2학기부터 전국 38개 교육대학원에 AI융합교육전공(재교육)이 개설되었고, 이 가운데 ‘AI 윤리’ 관련 교과목(선택과목)을 운영하는 곳은 15개교였다. 경상국립대학교 교육대학원 수업 운영 사례를 통해 드러난 융복합적 AI 윤리교육의 문제와 과제는 다음과 같다. 첫째, ‘인공지능 윤리’에 관한 정의가 인공지능의 활용 범위에만 국한되어 있다. 둘째, 학교 교육과정에서 AI 윤리 관련 수업 설계가 교사의 담당 과목에 따라 교육내용이 다르게 전개될 수 있다. 셋째, 교과마다 기술적 적용 수준이 서로 다르기 때문에, 교수학습 방법에서도 일관된 연계를 설정할 수 없다. 이와 더불어 도덕윤리과에서 융복합적 AI 윤리 수업을 전개하기 위한 주요 과제는 다음과 같다. 첫째, 융복합적 교과에 도덕윤리과도 제도적으로 포함되어야 한다. 둘째, 학교 교육과정과 수업을 위해 도덕윤리 교사도 AI융합교육전공 이수를 고려할 필요가 있다. 셋째, 2022 교육과정 개편 과정에서 AI 윤리 관련 주제가 포괄적으로 적용될 필요가 있다. This paper aims to explore the task of AI ethics education in the school curriculum by examining the major of AI Convergent Education in 38 graduate schools of education in the second semester of 2020. In 15 graduate schools of education, the subject of AI ethics has been operated. By the experience of AI ethics in the graduate school of Gyeongsang National University, I would point out some problems as follows. Firstly, there are arbitrary definitions of ‘AI ethics’ that have made many teachers confused in its class design. Secondly, there are different levels, aspects and gaps of AI ethics education by main subjects of teachers among elementary, middle, and high schools. Thirdly, there are no common or acceptable teaching and learning methods of AI ethics class by the absence of the generalized curriculum of convergent AI ethics. In addition, I would suggest some tasks to develop AI ethics classes in ethics education. Firstly, there are also moral subjects in the scope of convergent subjects, such as mathematics, science, computer and information subjects, connected with AI. Secondly, some moral teachers need to take the AI convergent education in graduate schools of education. Finally, some topics of convergent AI ethics should be dealt with in one of revised or renewed elements in the plan of 2022 National Curriculum.

AI윤리 지침의 분석 및 대안적 접근

이향연(Lee, Hyang-yeon) 대한철학회 2021 哲學硏究 Vol.160 No.-

오늘날 국외에서는 AI 기술 개발과 AI와 관련된 논의가 활발히 진행되고 있다. 그러나 국내의 AI 기술 개발과 그에 따른 윤리 지침 개발은 국외의 연구에 비해 다소 미비한 실정이다. AI가 금융권을 비롯해 의료, 치안, 교통 또는 교육 등 생활 전반에 자리 잡은 현 시대는 활발한 AI 활용 및 계속적인 연구뿐 아니라 그에 대한 윤리 지침 또한 요구한다. 현재 우리나라에는 그 기술개발에는 미치지 못하지만 대략 6개의 AI 윤리 지침이 존재하며 이들은 개발자와 공급자에게 책임 의식을 강화하고 이용자에게는 오남용의 위험성을 인식하게 만듦으로써 AI가 가져올 위험을 방지하고자 하였다. 하지만 필자가 보기에 AI윤리 지침이 규제적 관점에서 개발자와 이용자들의 의사결정에 실제로 영향을 끼치고 있지는 못하고 있는 것 같다. 우선 규범적인 주장을 하는 윤리 일반을 강화할 수 있는 원리나 구조부터 부족한 실정이다. 뚜렷하지 못한 윤리의 원리나 구조는 개발자나 이용자들의 의사결정에 아무런 제약을 가할 수 없다. 이에 필자는 이러한 문제를 제대로 이해하고 개선해야 할 필요성을 느낀다. 지금까지 발표된 AI 윤리의 지침에는 윤리의 근본적인 목표와 실질적인 실행에 대해서는 거의 논의된 바가 없다. 이에 필자는 본고에서 현재까지 발표된 AI윤리지침에 대한 비판적 분석을 통해 국내의 AI 정책과 지침 수립에 효율적인 방향성과 접근법을 제시하는 데에 도움을 주고자 한다. 아울러 AI윤리가 추상적인 담론에 국한되지 않고 구체적이고 세부적인 행동 지침으로 어떻게 개발될 수 있는지에 관해서도 논하고자 한다. Various discourses regarding AI guidelines are under discussion worldwide. Meanwhile, domestic AI research and development and the guidelines are less complete than they are overseas. These days in which AI takes up life, in general, from finance, public security, transportation, and education, AI ethical guidelines with diverse utilization of AI and consistent research are required. There exist about 6 AI ethical guidelines in Korea. They aim to strengthen the responsibility of both researchers and providers and to make users perceive the risk of abuse. However, it seems that, from the regulative perspective, the present AI ethical guidelines fail to provide an actual effect on the decision-making of both providers and users. AI ethics lack its principle or structure to support the regulation that general ethics imposes. Unclear ethical principles or structures have no power over decision-making procedures. It is the primary point where a sufficient understanding and improvement has to arise. The fundamental goals and practical implementation have hardly been discussed in the existing AI ethical guidelines. This study aims to present an efficient direction and approach needed in the establishment of AI policies and guidelines through a critical analysis of existing ones. Furthermore, this will explore how more detailed and specified action guidelines can be developed, without being confined to abstract discourses.

초등학교 AI 윤리교육 프로그램의 개발 및 적용

정다이,박형빈 서울교육대학교 초등교육연구원 2023 한국초등교육 Vol.34 No.3

AI 개발은 그 어떤 변화보다 인간의 삶을 뒤흔드는 혁명적인 변화를 불러일으키고 있다. 데이터 처 리와 분석을 재편하는 머신러닝, 딥러닝, 인공신경망과 같은 AI 접근 방식은 의료, 운송, 생산라인 등 다양한 분야에서 자율 및 반자율 시스템으로 활용되고 있다. 그러나 AI의 행위와 관련된 윤리 문제는 사회 윤리의 일부로 여겨지고 있는 현실이다. AI가 ‘윤리적이어야 한다.’라는 동의에도 불구하고, ‘윤 리적 AI’를 정의하고 실현하기 위한 요소, 윤리적 요구사항, 기술 표준, 모범 사례 등에 대한 논쟁은 계속되고 있는 것이다. 특히 이때 AI는 교육 분야에서도 중요한 역할을 한다. 미래 AI의 설계자, 개발 자, 사용자, 평가자로서의 역할을 할 초등학생들에게 AI 윤리 교육으로부터 얻을 수 있는 역량이 AI와 함께 살아갈 미래의 사회 구성원으로서 필수 역량으로 자리 잡을 것이기 때문이다. 따라서 초등학생에게 AI가 야기할 윤리적 문제를 조정하고 해결할 수 있는 능력을 기르기 위한 AI 윤리 교육이 필요하다. 이를 위해 본 논문은 인공지능 윤리 관련 내용을 구성하기 위하여 2022 개정 교육과정 중 도덕과 교육과정의 내용체계를 인공지능 윤리교육의 관점에서 분석한다. 그 후에 AI 윤 리와 관련된 필수 내용을 ‘자율주행 자동차, 사이보그, 뇌, 교육’의 4가지 주제 중심으로 체계화하여 수업안을 제안하였다. 마지막으로 개발한 수업안을 실제 수업에 적용하여 효과를 분석한다. AI 윤리 교수학습 프로그램을 현장에 선제적으로 구안 및 적용한 결과 다음과 같은 결론 및 시사점 을 도출할 수 있었다. 첫째, 인공지능 윤리 프로그램의 도입은 인지, 정의, 행동적 영역 모두에서의 도 덕적 사고력 및 AI 리터러시 증진을 이끈다는 점을 확인하였다. 둘째, 주제 중심의 프로그램 적용 후 학생들의 인공지능 윤리 학습에 대한 흥미도가 증대되었다. 셋째, 프로그램 중 개별 학습의 제공한 것 이 AI 윤리 문제와 관련한 학생들의 입장을 명확하게 하는 것에 도움이 되었다. 마지막으로 2022 개 정 도덕과 교육과정에 맞추어 AI 윤리의 핵심 내용이 추출되어 정리되고 새로운 기능, 역량이 추가되 어 현장에 보급될 필요성이 있음을 확인할 수 있었다. Artificial intelligence (AI) development is leading to a revolutionary transformation in human life. AI approaches, such as machine learning, deep learning, and artificial neural networks, which restructure data processing and analysis, are utilized in various fields, such as healthcare, transportation, and production lines, as autonomous or semi-autonomous systems. However, ethical issues regarding AI behavior remain a significant societal concern. Despite the consensus that AI should be ethical, debates are ongoing about defining and realizing ethical AI, which encompasses elements of ethical AI, ethical requirements, technical standards, and best practices, among others. Particularly, AI plays a crucial role in the field of education. Elementary-school students, who will become designers, developers, users, and evaluators of future AI, must develop the capacity to address and solve ethical issues that emerge from AI use. Hence, AI ethics education for elementary students is necessary for cultivating the skills required to become essential participants of a future society that extensively uses AI. To this end, this study analyzes the content and structure of the revised 2022 curriculum of Republic of Korea from the perspective of AI ethics education. It then proposes a lesson plan by organizing essential AI ethics–related content that focuses on four themes, namely, autonomous driving cars, cyborgs, the brain, and education. Finally, it assesses the effectiveness of the developed lesson plan through implementation in real-world classrooms. The study draws the following conclusions and implications after the proactive implementation of the AI ethics education program in classrooms. First, introducing AI ethics programs enhanced moral reasoning and AI literacy in the cognitive, definitional, and behavioral aspects. Second, the interest of students in AI ethics education increased after the implementation of the theme-centered AI Ethics program. Third, allowing individual learning within the program helped elucidate the position of students on AI ethics issues. Finally, the study extracted and organized the core content of AI ethics in the revised 2022 curriculum and suggested the need for the dissemination of AI ethics in the field with the addition of new features and capabilities.

COVID-19 접촉자 추적 시스템의 윤리적 도전과 AI 윤리교육의 과제

박형빈 ( Park Hyoungbin ) 한국윤리학회(구 한국국민윤리학회) 2021 倫理硏究 Vol.133 No.1

COVID-19 발발 후 몇 주 내에 이루어진 제약은 전례 없는 속도로 AI 솔루션의 채택을 가속화했다. COVID-19 확산에 대한 정책 대응에서 AI 디지털 사회는 데이터 수집, 접촉자 분류 및 인구 관리 등에 첨단 기술을 지원했다. 그러나 이는 일반 시민들에게 디지털 위험으로 작동하기도 했다. QR코드로 대표되는 팬데믹 인구 통제는 AI 판옵티콘을 현실화하며 AI 윤리 문제를 부각시키는 계기로 작용했다. 팬데믹 환경에서 AI 기술이 전염병 확산 방지라는 긍정적 측면뿐만 아니라 개인 및 사회 차원에서 어떠한 윤리적 문제를 야기하고 있는가에 대한 검토가 필요하다. AI 활용 팬데믹 대응 조치의 윤리적 문제들은 AI 윤리교육에서 실제적인 교육 소재로서 적합한 교육 콘텐츠로 사용될 수 있다. 예를 들면, 스마트 시티가 잠재적인 디지털 이점을 어떻게 남용하고 있는가. 감시 및 추적 시스템이 제기하는 윤리적 문제는 무엇인가. 팬데믹 상황에서 이동의 자유 제한과 격리 및 고립 조치로 인한 자유 통제가 정당한지 등이다. 따라서 본 연구에서는 다음과 같은 주제를 다루었다. 첫째, COVID-19 팬데믹 환경에서 AI 기술 지원 상황과 이에 의해 발생한 문제들을 살펴보았다. 둘째, COVID-19 접촉자 추적 시스템이 갖는 윤리적 문제점을 분석하였다. 셋째, AI 추적 기술의 윤리 문제 해결을 위한 윤리원칙과 해결과제를 검토하였다. 넷째, 팬데믹 시대 AI 윤리교육에서 다룰 필요가 있는 핵심 논의 주제들을 제안하였다. Sanctions imposed within weeks of the COVID-19 outbreak accelerated the adoption of AI solutions at unprecedented rates. In responding to the pandemic of COVID-19, the AI digital society has supported advanced technologies in data collection, contact classification, and population management. However, it has also acted as a digital risk to ordinary citizens. The pandemic population sanctions represented by the QR code acted as an opportunity to highlight AI ethics issues by making AI Panopticon a reality. In a pandemic environment, it is necessary to review not only the positive aspects of preventing the spread of infectious diseases, but also what ethical problems are being caused at individual and social level. Ethical issues of AI-enabled pandemic countermeasures can be used as practical educational materials in AI ethics education. Examples include: How are smart cities abusing their potential digital benefits? What are the ethical issues raised by surveillance and tracking systems? In a pandemic situation, is it justifiable to restrict freedom of movement in order to adhere to isolation measures? Therefore, the following topics were dealt with in this study. First, I looked at the use of AI technology and the problems caused by it in the COVID-19 pandemic environment. Second, the ethical problems of the COVID-19 tracking system were analyzed. Third, the ethical principles and tasks for solving the ethical problem of AI tracking technology were reviewed. Fourth, several core topics of discussion that needs to be dealt with in AI ethics education in the pandemic era were suggested.

홈헬스케어 AI Robot의 윤리인증의 필요성과 그 준거에 대한 연구

정진규,변순용,김영걸,김종욱 한국윤리학회 2019 倫理硏究 Vol.127 No.1

In the era of fourth industrial revolution, people have been discussing AI robot continuously. There are two of the most discussed issues with regard to AI robots. The first is, "What AI robot do we build?" These are related to programs to be installed on AI robots. The second is, "If an ethical AI robot is built, what are the criteria for evaluating it as an ethical AI robot?" In other words, it is a discussion of what criteria can be considered to be ethical in conducting an AI robot. This paper is about the second discussion, ethical certification of what criteria can be used to evaluate AI robots as ethical. This paper is about the second discussion, what are the criteria for evaluating AI robots as ethical and ethics certification related to AI robots. Therefore, this paper will be described as follows. First, we will discuss what ethics certification system is and why it is necessary to develop home healthcare AI robots. Second, we will examine what kinds of ethics certification criteria are currently being discussed in various countries, analyze the implications of those criteria, and identify the necessity of various criteria. Finally, based on the analysis, I will suggest what are the ethics certification criteria for the ethics certification system that should be introduced in the future. 제 4차 산업혁명 시대의 도래 이후 AI에 대한 논의가 지속적으로 이루어지고 있다. 그 중 AI robot과 관련하여 현재 가장 핵심적으로 논의되는 것은 대략적으로 두 가지이다. 첫 번째는 “어떤 AI robot을 만들까?”, 즉 AI robot에 장착할 프로그램과 관련된 것들이다. 두 번째는 윤리적 AI robot이 제작되었다는 가정 하에 논의되는 것으로 “윤리적인 AI robot이 제작되었다면, 그것이 윤리적 AI robot이라고 평가할 수 있는 그 준거는 무엇인가?”이다. 즉, AI robot이 윤리적이라고 평가할 수 있는 준거는 무엇인가에 대한 논의이다. 본 논문은 두 번째 논의, AI robot이 윤리적이라고 평가할 수 있는 준거가 무엇인가에 대한 윤리인증에 관한 것이다. 그러므로 본 논문은 다음과 같이 서술될 것이다. 첫째, 윤리인증제가 무엇이며, 왜 홈헬스케어용 인공지능로봇을 개발하는데 있어서 그것이 필요한 것인가에 대하여 논의할 것이다. 둘째, 다양한 국가에서 현재 논의되고 있는 윤리인증 준거들에는 어떤 것들이 있는가를 살펴보고, 그 준거들이 함축하고 있는 내용들을 분석하여, 다양한 준거들의 필요성을 밝힐 것이다. 마지막으로 분석된 내용에 근거하여 앞으로 우리나라에 도입되어야 하는 윤리 인증제에 필요한 윤리인증 준거가 무엇인가를 제시할 것이다.

“AI 윤리와 교육” 관련 연구 동향 분석

김철 인하대학교 교육연구소 2024 교육문화연구 Vol.30 No.1

본 연구는 국내학술지의 ‘AI 윤리와 교육’ 관련 연구 동향을 분석하는 것을 목적으로 한다. 연구방법은 한국학술정보원(https://riss.kr/index.do)에서 ‘AI 윤리와 교육’, ‘인공지능 윤리와 교육’을 키워드로 국내 연구들을 검색하였다. 검색된문건 중 학술서적, 학위논문, 연구보고서 등을 제외한 국내 학술지 논문 365편을 1차로 추렸으며, 이 중 학술대회자료집에수록된 논문들과 제목이나 연구주제에 해당 키워드가 직접 나타나 있지 않거나 연구 내용이 윤리교육과 관계없이단순히 ‘AI 교육’ 이나 ‘AI 윤리’를 다룬 연구들을 제외한 총 39편의 논문을 분석대상으로 삼았다. AI 윤리와 교육을관련짓는 연구 동향을 분석하는 틀로써 5개의 범주를 ① AI 윤리교육의 방향 및 과제 ② AI 윤리교육 프로그램개발③ AI 윤리교육 주제 및 내용 ④ AI 윤리교육 교수 방법 ⑤ AI 윤리역량 척도개발 등으로 분류하여 분석하였다. 이 분석을 통하여 그동안 교육현장에서 AI의 활용에 대비한 AI 윤리교육의 특징과 이를 실천하기 위해 어떤 논의가형성되었는지 개관하였다. 분석결과는 향후 교육현장에서 인공지능의 활용과정에서 야기될 수 있는 다양한 사회적, 윤리적 문제에 학생들을 적응시키기 위한 AI 윤리교육 실천 방안을 마련하는데 기여할 수 있을 것이다.

인공지능(AI)의 학습용 데이터 윤리 프레임워크 개발에 관한 연구

김정남,방은찬,장희영,송선영 한국윤리학회 2023 윤리연구 Vol.140 No.1

This paper aims to develop the ethical framework of AI learning data. AI might commit a fatal mistake or attack on our daily lives by learning wrong or biased data. In particular, the main concern of AI teaching and learning is with the prescriptions and guidelines of privacy and personal information protection in data collection, processing and storage. To develop the ethical framework of AI learning data in this paper, we would firstly examine the AI ethics in the field of education by the Ministry of Education in Korea. There is secondly the exploration of the levels of AI ethics, the general and ethical issues of data, and manufacturers and consumers as the subjects and parties of AI learning data. Finally, we would establish the ethical framework of AI learning data by utilizing four component models of morality, that is. moral sensitivity, moral judgment, moral motivation, and moral character, in James Rest. 이 연구는 인공지능(AI) 학습용 데이터의 윤리 프레임워크를 개발하는 것을 목적으로 한다. 오늘날 AI와 인간이 공존하는 분야가 확대됨에 따라 잘못되거나 편향된 데이터를 학습한 AI가 우리 삶에 심각한 문제를 일으킬 수 있다. 교육 분야에서 디지털과 AI의 기본 소양을 함양하는 추세가 강화되고 있지만 데이터의 윤리적 문제는 주로 처리 과정에서 투명성, 프라이버시 보호 등 기술적 처리와 절차 준수에 관한 규정적 수준에 머물러 있다. AI가 학습하는 데이터는 단순히 양과 기술의 문제가 아니라 학습용 데이터의 활용 전 과정에 걸쳐 있는 윤리적 검토를 거쳐야 하는 과제가 남아 있다. 이번 연구에서는 교육 분야에서 AI 윤리 원칙에서 데이터에 관한 법률적·윤리적 고려를 검토하고, AI 학습용 데이터의 윤리 프레임워크 개발을 위한 3가지 사항을 고려한다. AI 학습용 데이터 윤리에 관한 책임과 권리의 수준, 데이터의 일반적 속성과 윤리적 쟁점, AI 학습용 데이터의 당사자로서 생산자와 소비자이다. 이를 통해 AI 학습용 데이터의 윤리 프레임워크의 도덕성을 학습용 데이터와 관련된 자신의 결정이 인간 일반에 미치는 복지 향상으로 정의하고, 인간의 복지를 향상시키기 위한 협력과 갈등 해결을 위한 도덕성 4구성 요소를 당사자에게 적용하였다. 당사자별로 윤리적 민감성, 윤리적 판단력, 윤리적 동기화, 윤리적 실행력에 기초한 윤리 프레임워크를 제안하였다.