데이터윤리의 의미와 원칙에 대한 연구

변순용 한국초등도덕교육학회 2023 초등도덕교육 Vol.- No.83

The emphasis of data ethics is shifting from big data to the importance of AI learning data, and certification and verification of what learning data AI has learned from will become an important criterion for AI's social acceptability. In this regard, this study aims to deal with the following topics in order to emphasize the importance of data ethics required in the age of artificial intelligence. First, it examines why data ethics guidelines are necessary in the age of artificial intelligence. Second, in the discussion of data ethics, how data ethics is defined is explored. Third, cases in which data ethics principles are being prepared are identified. Fourth, a theoretical framework of data ethics is constructed from related cases. Based on this, I would like to ultimately present the meaning and principles of data ethics. Data ethics should be defined as faithfully fulfilling responsibility for the entire process of data in order to protect the rights of each subject regarding data, and consists of data rights and data responsibilities. As the principles of data ethics, privacy protection, publicity, fairness, damage minimization, reliability, solidarity, transparency, sustainability of audit, and safety should be presented, and it should be emphasized that the contents of rights and responsibilities are detailed for each relevant subject. 데이터윤리의 강조점이 빅데이터에서 인공지능 학습용 데이터의 중요성으로 이동하고 있으며, 앞으로 우리가 이용하게 될 인공지능이 어떤 학습데이터를 가지고 학습했는지에 대한 인증과 검증이 인공지능의 사회적 수용성의 중요한 기준으로 작용할 것으로 예측된다. 이에 본 연구는 인공지능 시대에 요구되는 데이터윤리에 대한 심층적인 연구를 수행하기 위해 다음과 같은 주제를 다루고자 한다. 첫째, 인공지능 시대에서 데이터윤리 가이드라인이 필요한 이유를 살펴본다. 둘째, 데이터윤리에 대한 논의에서 데이터윤리가 어떻게 정의되고 있는지를 탐색한다. 셋째, 데이터윤리 원칙이 마련되고 있는 사례들을 파악한다. 넷째, 관련된 사례들로부터 데이터윤리의 이론적 프레임워크를 구성한다. 이를 바탕으로 궁극적으로는 데이터윤리의 의미와 원칙들을 제시하고자 한다. 데이터윤리는 데이터에 대한 각 주체의 권리를 보호하기 위하여 데이터의 전 과정에 대한 책임을 성실히 이행하는 것으로 정의되어야 하고, 데이터 권리와 데이터 책임으로 구성된다. 데이터윤리의 원칙으로는 프라이버시 보호, 공공성, 공정성, 피해최소화, 신뢰성, 연대성, 투명성, 검토의 지속가능성, 그리고 안전성이 제시되어야 하고, 이에 대한 권리와 책임의 내용이 관련주체별로 상세화되는 것이 강조되어야 한다.

데이터 윤리에서 인공지능 편향성 문제에 대한 연구

변순용 ( Byun Sunyong ) 한국윤리학회(구 한국국민윤리학회) 2020 倫理硏究 Vol.128 No.1

최근 빅데이터와 기계학습, 인공지능과 관련되어 제기되는 윤리적인 이슈 중 하나가 바로 편향성(bias)의 문제이다. 실제로 편향성(bias)의 문제를 편견(prejudice, Vorurteil)이나 고정관념의 문제와 혼동하는 경우가 많은데, 전자가 통계적, 기술적인 용어(technical term)라고 한다면 후자는 윤리적인 용어(ethical term)라고 할 수 있겠다. 데이터를 모으고 처리하는 과정에서 항상 편향성의 문제가 제기된다. 데이터의 편향성을 이 연구에서는 데이터 자체의 편향성과 데이터 처리과정의 편향성으로 구분하여 논의하고, 이와 별도로 이 두 가지 모두 데이터 공정성의 문제와 항상 갈등에 빠지게 되는 이유를 살펴본다. 특히 데이터 객관성과 공정성 역시 서로 상충될 소지가 충분히 있다. 데이터가 객관적이라는 것은 데이터가 지향하는 대상과 데이터의 일치를 전제로 하면서 이 데이터가 습득되는 과정에서 주관적인 개입이 배제되어야 확보될 수 있을 것이다. 그렇지만 이러한 근대적인 기계적 객관성이 보장된다 하더라도 공정하지 않을 수 있는 문제가 발생한다. 데이터의 객관성은 데이터 자체의 습득 과정에서 논의되겠지만, 데이터의 공정성은 데이터의 활용과정에서 더 문제가 제기되기 마련이다. 따라서 데이터윤리의 관점에서 빅데이터의 수집과 활용의 과정에서 모집단 편향성, 데이터 편향성, 데이터 객관성, 데이터 공정성의 의미가 분명하게 규정되어야 할 것이다. One of the ethical issues raised in recent years regarding big data, machine learning, and artificial intelligence is the issue of bias. Indeed, the problem of bias is often confused with the problem of prejudice (Voruteil) or stereotypes. If the former is a statistical and technical term, the latter is an ethical term. In the process of gathering and processing data, bias is always raised. In this study, the bias of data is divided into the bias of the data itself and the bias of the data processing. In particular, data objectivity and fairness may be at odds with each other. Data objectivity presupposes the correspondence between the data subject and the data. This objectivity can be secured only when subjective intervention is excluded in the process of data acquisition. Nevertheless, even if this modern mechanical objectivity is guaranteed, problems arise that may not be fair. The objectivity of data will be discussed in the process of acquiring data itself, but the fairness of data is more problematic in the use of data. Therefore, in terms of data ethics, the meaning of population bias, data bias, data objectivity, and data fairness should be clearly defined in the process of collecting and using big data.

빅데이터 연구윤리의 기본 개념과 원칙에 관한 연구 - 문화의 이해와 해석을 중심으로 -

김병연,송선영 한국윤리학회 2023 倫理硏究 Vol.141 No.1

This paper aims to examine the critical conceptions of data and big data and to explore the foundations of the basic concept and principle of research ethics in big data. It is general that the ethical approaches to big data science are related to normative ethics like deontology by I. Kant, utilitarianism, virtue theory, the theory of social contract. However, they are not enough to overcome new ethical problems from technical processes to social utilization in the new innovation of big data in which humans are to produce and customize data of ethical life. Therefore, the research ethics of big data is connected to the whole development of study and learning to use big data from the plan of big data to its application in the contexts of moral development and cultural interpretation. 이 논문의 목적은 빅데이터와 데이터와 관련된 윤리의 개념과 주요 원칙을 확인하고, 빅데이터 연구윤리의 기본 개념과 원칙에 관한 새로운 접근의 토대를 마련하는데 있다. 기존 빅데이터 사이언스 분야에서는 개인정보 및 프라이버시 침해 등 규범윤리적 접근이 주를 이루고 있다. 하지만 디지털․AI 기술의 발달에 따라 빅데이터의중요성이 주목받고 있다. 특히 빅데이터의 설계, 데이터의 수집, 분석, 활용에 따른빅데이터로의 변환과 통합의 전 과정이 인간의 판단과 행동에도 윤리적인 영향을 미치고 있다. 이에 따라 빅데이터는 연구와 학습의 전 과정에서 윤리적 검토를 거쳐야만 하는 과제를 안고 있다. 다양한 분야에서 사용되는 빅데이터는 기술적인 연구와학습 과정에 윤리적 성찰을 반영해야 하고, 빅데이터를 사용하고 해석하는 윤리적 주체의 도덕성 발달과 문화적 맥락과도 연결해야 한다.

데이터 윤리에 대한 초등학생들의 의식조사 및 교육학습방안에 대한 연구

장희영(Hee young Jang) 한국인공지능윤리학회 2022 인공지능윤리연구 Vol.2 No.-

본 연구는 초등교육에서의 인공지능 윤리교육의 중요성에 대해 언급하며 실제적인 교수학습방안을 제시하기 위해 진행되었다. 머신러닝으로 인해 이전까지와는 다르게 더욱 빠르게 변화해가는 시대에서 인공지능 리터러시의 중요성이 더욱 부각되고 있다. 이에 따라 AI 리터러시의 AI 기술역량과 AI 윤리역량에 대한 적절한 교육이 필요하며, 특히나 AI 윤리에 대한 교육은 AI 기술역량에 비해 인식이나 적절한 교수학습방법이 부족한 실정이다. AI 윤리는 단순히 인터넷 사용자가 지켜야 할 윤리가 아닌, 개발자와 공급자와 사용자와 인공지능 기술 자체도 지켜야 할 윤리이다. ‘윤리’라는 전통적인 규범은 변화하지 않았으나, 시대의 흐름에 따라 이 전통적 규범의 적용이 인공지능에도 적용되어가고 있다. 필자는 그중에서도 데이터, 알고리즘 등에 관련된 도덕적 문제를 연구하고 평가하는 데이터 윤리에 대한 연구를 진행하였다. 전통적인 개념의 윤리를 데이터를 사용하며 발생하는 다양한 결과에 따라 통찰력을 가지고 이를 올바르게 식별해 낼 수 있도록 접목시켜 미래 인재를 육성하고자 한다. 다양한 윤리적 문제에 대한 접근을 통해 앞으로 나타날 문제에 대해 예방하고 해결 방법을 스스로 찾아나갈 수 있는 학습자를 양성하는 것이 이 연구의 목표이다. 이에 따라 교수자는 빠르게 변화하는 사회 속 사례를 통해 변화를 인지하고 이 변화 속에서 어떤 태도를 갖추어야 할지에 대한 통찰력을 기를 수 있는 교수학습방안을 지속적으로 제공하여야 한다. 따라서 학습자에게 적절한 교수학습방안을 제시할 수 있도록 도울 수 있는 지속적인 연구를 목적으로 한다. This study was conducted to discuss the importance of artificial intelligence ethics education in elementary education and to present practical teaching methods regarding this topic. As machine learning is changing more rapidly, It further highlights the importance of artificial intelligence literacy. Appropriate education regarding AI(Artificial Intelligence) literacy's technology and ethics capabilities is deemed required. Unfortunately, education on AI ethics lacks recognition and appropriate teaching methods compared to AI technology capabilities. AI ethics is limited to only users of the Internet, but also relevant for developers, suppliers, users, and the artificial intelligence technology as well. Although the traditional code of ethics has not changed, the application of this traditional code has been integrated to artificial intelligence as times went by. Among them, we conducted research on data ethics, which studies and evaluates ethical issues related to data, algorithms, etc. We intend to foster future talents by combining the ethics of traditional concepts so that they can correctly identify various results generated from the data. The goal of the study is to train learners who can prevent future problems to arise by approaching various ethical problems and finding solutions themselves. Therefore, professors should continue adapting to changes arising from the rapidly changing environment, and develop insight into what attitude they should take in this change.

Suggestion of Building the AI Code of ETHICS through Deep Learning and Big Data Based AI

김현수 J-INSTITUTE 2021 Robotics & AI Ethics Vol.6 No.1

Purpose: Current social and technical issues related AI Ethics take many different forms. Therefore, efforts to make ethical guidelines to cope with these issues are actively being developed. However, most kinds of ethical guidelines present general ethical principles and take a deductive method of solving individual problems in ac-cordance. The purpose of this study is to propose creating ethical guidelines through an inductive method of deriving ethical principles based on ethical judgements on each individual AI-related cases. Method: At first, most representative cases of AI ethics-related guidelines would be investigated in domestic and international level, with collecting documents and literature review. After that, examine the commonalities and differences between cases as these basic data through comparative research methods. Accordingly, it would be revealed that each case is constituted by a deductive method. Finally, as an alternative to these methods, presenting the merits of establishing ethical principles related to AI through inductive cases and specific examples. Results: Most of the representative AI Code of Ethics that currently exist have the form of suggesting principles and then solving ethical problems by applying the principles to the actual events accordingly. This type of approach corresponds to the method of ethics which based on moral principles. However, complex and unpre-dictable problems are likely to arise when it comes to AI ethics. In order to solve these problems, it is necessary to extract the principles of the AI Code of Ethics by establishing and presenting ethical principles through researching and analyzing various individual events related to AI Ethics using deep learning and Big Data Based AI. Conclusion: The following effects can be achieved by using deep learning techniques and Big Data Based AI that contains Ethical Issues together with sound and desirable Moral Judgement on each case, to derive the principles of the AI code of ethics. First, it is possible to extract and secure Big Data as basic resource of presenting Ethical Directions on various ethical problems arising in connection with the development of AI technology. Second, since the Ethical Principles as AI Code of Ethics are established based on empirical data, the validity of the principles can be secured. On the other hand, the AI Code of Ethics derived through deep learning based on such Big Data is likely to result in multiple tyranny or errors of majority due to certain limitations. So evaluation, verification and correction by Human Ethics Experts are essential to prevent these kinds of fault.

국내외 데이터법·정책 분석 및 시사점 : 미국, 영국, EU의 사례를 중심으로

윤상필 ( Yoon Sang-pil ),권헌영 ( Kwon Hun-yeong ) 한국정보화진흥원 2021 정보화정책 Vol.28 No.2

본 연구는 우리나라와 미국, 영국, EU의 국가 데이터전략, 데이터 정책과 제도 및 거버넌스를 비교함으로써 우리 환경에 맞는 시사점을 제안했다. 비교분석 결과 범정부 차원의 데이터 정책을 총괄할 수 있는 거버넌스, 데이터 윤리를 포함하는 데이터 정책을 고려할 수 있어야 할 것으로 보인다. 이에 본 연구는 데이터 정책의 총괄 거버넌스 확립을 위해 국가 차원의 최고데이터책임자(CDO)를 요구하면서 대통령 소속 데이터특별위원회를 두거나 대통령 비서실 내에 가칭 ‘국가디지털혁신실’을 설치하는 방안을 제시했다. 또한 민간 부문의 데이터도 규율할 수 있는 데이터산업기본법의 제정, 데이터 중심 보안과 정보보호 체계, 설명가능성과 책임 등 신뢰 확보를 위해 요구되는 공공부문의 데이터 전문역량과 전문가 윤리 관념 기반의 공직윤리 및 인사, 교육훈련 제도와의 연계 등을 제안했다. This study presents implications of the Global Data Law & Policy by comparing national data strategies, data regulations and policies, and governance in South Korea, the United States, the United Kingdom, and the European Union. According to the result of the comparative analysis, the biggest difference is in data governance, in other words, the management and coordination of policies at the pan-government level and data ethics. Therefore, this study proposes the establishment of a presidential special committee on data policy or the creation of a ‘National Digital Innovation Office’ at the Presidential Secretariat as a national CDO for the governance of data policies. Furthermore, this paper suggests a) to enact ‘the Framework Act on the Development of Data Industry’ that can regulate data practices in the private sector, b) to institutionalize the data-centric security and data protection, c) to settle the public ethics and personnel management based on data expertise and professional ethics, including explainability and responsibility, and d) the education and training systems

빅데이터의 주체

김지연(Ji Yeon Kim) 비판사회학회 2015 경제와 사회 Vol.- No.105

흔히 ‘빅데이터’라는 이름으로 불리는 데이터 분석기술은 수집된 데이터들 사이의 관계를 연산함으로써 기업이나 공공기관의 의사결정에 사용되고 있다. 데이터 기술은 정보주체의 정체성에 영향을 줄 것으로 예상된다. 개인정보보호법에 따르면 우리는 모두 이미 정보주체(data subject)이다. 데이터 공간 속에서 정보주체는 어떻게 자기 자신을 식별하고 자신의 지위를 설정하는가? 정보주체는 데이터 형태로 재현되기 때문에, 그 지위를 이해하기 위해서 근대적 주체개념만으로는 부족하다. 이 논문에서는 아마존 추천시스템, 서울시 버스노선분석, 검색어분석, 사기방지시스템, 감정분석기술 등의 사례를 통해 디지털 기술이 생산하는 ‘자동적 진실’과 정보주체의 구성 과정에 대해 알아볼 것이다. 데이터 공간에서 정보주체는 다른 사물들과 마찬가지로 데이터 구성물들이다. 정보주체는 그곳의 질서방식에 따라서 타자와 관계하며, 타자에 의해 발견되면서 자신의 지위를 획득한다. 그 순간 정보주체에게 그곳은 현실(reality)이 된다. 그러나 데이터 기술이 구현하는 현실은 실재(the real itself)와 차이가 있을 수밖에 없다. 주체의 윤리는 그 차이를 드러내고 성찰하며 진실에의 의지를 포기하지 않는 것이다. Data technology so called ‘Big data’ tries to retrieve tremendous different data and analysis within its algorithm and predict some orders eventually for major decision-makings. We all are data subjects according to privacy act. It is need to go beyond the bounds of modern subject concept for understanding data subject, because it is represented by data of machines. How it does recognize and identify to itself within data space? This paper will show how to be constructing data space and its subjects, through a presentation of examples such as Amazon recommendation system, Seoul bus line demand analysis, relevant search queries service, Sentiment Analysis of Tweets etc. Data technology almost autonomously produces data and builds its space. Data subject can recognize itself when it is detected by others within its space. First of all, it is that its subject is fascinated to data technology as expecting to gain certain true or real. At that instant it works as an apparatus of truth. Therefore it can affect to what subject knows and how subject knows. Actually there are the gap between reality of data and the real itself. Ethical subject reflects and reveals the gap.

국내 대학 연구윤리지침의 연구데이터 관련 내용 분석

장수현,남영준 한국비블리아학회 2024 한국비블리아학회지 Vol.35 No.1

본 연구의 목적은 변화하는 연구 환경에 맞춘 국내 대학의 연구윤리지침의 방향성을 제안하는 것이다. 이를 위해 국내외 연구윤리지침과 연구진실성 관련 원칙을 분석해 연구데이터 관리와 연구진실성 간 연관성을 파악하였으며 해외 연구전문대학의 연구데이터 관련 지침 현황을 확인하였다. 이러한 분석 결과와 국내 4년제 대학 204개교를 대상으로 대학 연구윤리지침에서 나타난 “연구데이터” 관련 내용의 통계 결과를 비교해 본 연구는 국가 차원의 연구윤리지침인 연구윤리 확보를 위한 지침과 각 대학의 연구윤리지침의 연구데이터 관련 측면에 대한 시사점을 도출하였다. The purpose of this study is to suggest the direction of korean universities’ research ethics guidelines in line with the changing research environment. To this end, the relationship between research data management and research integrity was identified by analyzing domestic and international research ethics guidelines and principles related to research integrity, and the current status of research data-related guidelines of overseas research colleges was confirmed. Comparing the results of this analysis with the statistical results of the contents related to “research data” in the university research ethics guidelines for 204 four-year universities in Korea, this study drew implications for securing research ethics, which are national research ethics guidelines, and for aspects related to research data in each university’s research ethics guidelines.

인공지능 학습용 데이터 품질에 대한 연구: 퍼지셋 질적비교분석

오현목,이서연,장영훈 한국경영정보학회 2024 Information systems review Vol.26 No.1

This study is empirical research to enhance understanding of AI (artificial intelligence) training data project in South Korea. It primarily focuses on the various concerns regarding data quality from policy-executing institutions, data construction companies, and organizations utilizing AI training data to develop the most reliable algorithm for society. For academic contribution, this study suggests a theoretical foundation and research model for understanding AI training data quality and its antecedents, as well as the unique data and ethical aspects of AI. For this purpose, this study proposes a research model with important antecedents related to AI training data quality, such as data attribute factors, data building environmental factors, and data type-related factors. The study collects 393 sample data from actual practitioners and personnel from companies building artificial intelligence training data and companies developing artificial intelligence services. Data analysis was conducted through Fuzzy Set Qualitative Comparative Analysis (fsQCA) and Artificial Neural Network analysis (ANN), presenting academic and practical implications related to the quality of AI training data. 본 연구는 한국의 인공지능 학습용 데이터 구축 사업과 데이터의 공공 개방에 관한 정책 수행 기관, 데이터 구축 기업, 그리고 이를 활용하는 다양한 기관의 데이터 품질에 대해 이해를 제고하고, 신뢰할수 있는 인공지능 알고리즘 개발에 있어 가장 중요한 학습용 데이터 품질에 대한 이론적 토대를 만들기위한 실증적 연구이다. 이를 위해, 데이터의 속성 요인, 데이터 구축환경 요인, 데이터 타입 관련 요인등 인공지능 학습용 데이터 품질과 관련된 중요 선행요인을 도입하여 이론적 모형을 제안한다. 본연구는 393명의 인공지능 학습용 데이터 구축 기업과 인공지능 서비스 개발 기업의 실무 담당자를대상으로 설문조사를 실시하여 데이터를 수집하였다. 데이터 분석은 퍼지셋 질적비교분석 방법과인공신경망 분석을 통해 이루어졌으며, 분석 결과를 통해 인공지능 학습용 데이터 관련 학술적 및실무적 시사점을 도출했다.

인공지능(AI)의 학습용 데이터 윤리 프레임워크 개발에 관한 연구

김정남,방은찬,장희영,송선영 한국윤리학회 2023 倫理硏究 Vol.140 No.1

This paper aims to develop the ethical framework of AI learning data. AI might commit a fatal mistake or attack on our daily lives by learning wrong or biased data. In particular, the main concern of AI teaching and learning is with the prescriptions and guidelines of privacy and personal information protection in data collection, processing and storage. To develop the ethical framework of AI learning data in this paper, we would firstly examine the AI ethics in the field of education by the Ministry of Education in Korea. There is secondly the exploration of the levels of AI ethics, the general and ethical issues of data, and manufacturers and consumers as the subjects and parties of AI learning data. Finally, we would establish the ethical framework of AI learning data by utilizing four component models of morality, that is. moral sensitivity, moral judgment, moral motivation, and moral character, in James Rest. 이 연구는 인공지능(AI) 학습용 데이터의 윤리 프레임워크를 개발하는 것을 목적으로 한다. 오늘날 AI와 인간이 공존하는 분야가 확대됨에 따라 잘못되거나 편향된 데이터를 학습한 AI가 우리 삶에 심각한 문제를 일으킬 수 있다. 교육 분야에서 디지털과 AI의 기본 소양을 함양하는 추세가 강화되고 있지만 데이터의 윤리적 문제는 주로 처리 과정에서 투명성, 프라이버시 보호 등 기술적 처리와 절차 준수에 관한 규정적 수준에 머물러 있다. AI가 학습하는 데이터는 단순히 양과 기술의 문제가 아니라 학습용 데이터의 활용 전 과정에 걸쳐 있는 윤리적 검토를 거쳐야 하는 과제가 남아 있다. 이번 연구에서는 교육 분야에서 AI 윤리 원칙에서 데이터에 관한 법률적·윤리적 고려를 검토하고, AI 학습용 데이터의 윤리 프레임워크 개발을 위한 3가지 사항을 고려한다. AI 학습용 데이터 윤리에 관한 책임과 권리의 수준, 데이터의 일반적 속성과 윤리적 쟁점, AI 학습용 데이터의 당사자로서 생산자와 소비자이다. 이를 통해 AI 학습용 데이터의 윤리 프레임워크의 도덕성을 학습용 데이터와 관련된 자신의 결정이 인간 일반에 미치는 복지 향상으로 정의하고, 인간의 복지를 향상시키기 위한 협력과 갈등 해결을 위한 도덕성 4구성 요소를 당사자에게 적용하였다. 당사자별로 윤리적 민감성, 윤리적 판단력, 윤리적 동기화, 윤리적 실행력에 기초한 윤리 프레임워크를 제안하였다.