인공 지능 시대의 정보 윤리학: 플로리디의 '새로운' 윤리학

목광수 한국과학철학회 2017 과학철학 Vol.20 No.3

Luciano Floridi shows that established theories of ethics, such as utilitarianism and deontology, cannot respond to new issues such as artificial evil, which happens in an era of artificial intelligence, and proposes that his ethics of information can do effectively. Floridi argues that his ethics of information is effective to find out new issues through the method of (levels of) abstraction and proposes ethical principles, in which metaphysical entropy should be prevented or removed and information entities should be flourished. Florid's ethics of information is a patient-oriented, ontocentirc macroethics, which is differentiated from established theories of ethics. The purpose of this discussion paper is to examine critically whether Floridi's ethics of information is morally justifiable. I doubt that Floridi's theory of ethics is morally justifiable in that his theory is not only vulnerable to the critique of moral relativism, but also is hard to escape from the problem of the naturalistic fallacy. In order to respond to these critiques, I recommend that Floridi's theory of information should include a concept of morality which can effectively support his theory from a normative perspective, that his theory should argue which level of abstraction is appropriate to his theory of ethics, and that his theory should try to explicate how his theory can relate to established theories of ethics. I argue that if Flordi's theory of ethics is supplemented through these recommendations, it could be an appropriate ethics of information in an era of artificial intelligence. 플로리디는 인공지능 시대의 정보 사회에서 나타나는 인공적 해악과 같은 새로운 윤리적 문제들이 기존의 윤리학을 통해 적절하게 대응될 수 없다는 것을 보이고, 이에 대한 대안으로 자신의 정보 철학에 토대를 둔 정보 윤리학을 제시한다. 플로리디의 정보 윤리학은 기존의 철학과 윤리학에서 포착되기 어려운 윤리적 문제와 존재들을 추상화 방법론을 통해 효과적으로 포착할 뿐만 아니라, 이러한 문제들을 해결하기 위해 형이상학적 엔트로피를 줄이고 정보 환경과 정보 유기체의 번영을 도모해야 한다는 정보 윤리의 원칙을 제시한다. 이러한 플로리디의 정보 윤리학은 기존의 윤리학과 차별되는 피동자와 존재 중심적인 거시 윤리학이다. 본 토론 논문의 목적은 이렇게 제시된 플로리디의 윤리학이 이 시대에 적합한 정보 윤리학인지를 비판적으로 검토하고자 한다. 특히 플로리디의 정보 윤리학이 인공지능 시대의 ‘새로운’ 윤리학이 될 수 있을지를 검토하고, 이러한 목표를 위해 보완할 점을 제안하고자 한다. 본 논문은 플로리디의 정보 윤리학이 제시하는 인식론적 방법과 논의가 사실과 가치를 구분하지 못해 야기되는 자연주의적 오류로 인해 도덕적 차원에서는 정당화될 수 있을지 의심스러울 뿐만 아니라, 상대주의적 비판에도 취약하다고 분석한다. 본 논문은, 이러한 한계를 보완하기 위해 플로리디의 정보 윤리학은 이론의 토대가 되는 도덕성 또는 규범성 개념에 대한 설명을 보충해야 할 뿐만 아니라, 정보 윤리학이 작동하는 추상화 층위를 도덕적으로 정당화할 필요가 있으며, 정보 윤리학이 기존 윤리학을 대체하거나 포괄하기보다는 기존 윤리학과의 협력적 관계 설정을 통해 체계화할 필요가 있다고 주장한다.

스피노자의 윤리학을 통한 플로리디의 정보 윤리학 보완

목광수 ( Mok Kwangsu ) 한국윤리학회 2019 윤리학 Vol.8 No.1

본 논문의 목적은 자신의 정보 윤리학이 스피노자 철학에 의해 지지될 수 있다는 플로리디의 주장이 정당한지를 비판적으로 검토하는 것이다. 플로리디의 정보윤리학은 스피노자의 논의를 일부 수용하여 탈인간중심주의적 정보 존재론을 제시하고 스피노자의 코나투스 개념을 통해 형이상학적 엔트로피 개념을 제시한 것으로 분석될 수 있다. 그러나 이러한 정보 윤리학은 존재 자체로부터 도덕적 가치를 도출한다는 자연주의적 오류 비판뿐만 아니라, 정보 존재자들의 평등주의적 도덕 원칙 제시가 전체주의적 관점이어서 개별자들의 개별성을 훼손할 수 있다는 비판에 직면한다. 본 논문은 스피노자의 다원적 도덕 존재론과 관계적 논의를 도입하여 보완한다면 플로리디의 정보 윤리학이 이러한 문제를 극복할 수 있다고 주장한다. 왜냐하면, 본 논문이 해석한 스피노자의 다원적 도덕 존재론은 플로리디의 정보 윤리학에서 나타나는 다양한 존재자들의 개별 도덕 원칙을 인정하고, 비인공 행위자인 인간의 도덕 원칙과의 관계에서 피동적 정보 존재의 도덕 원칙에 규범적 의미를 부여하여 자연주의적 오류를 극복할 수 있으며, 이러한 다원적 도덕 존재론에 토대를 둔 관계적 논의는 전체적 관점이 아닌 개별자의 개체성에 주목할 수 있기 때문이다. 따라서 본 논문은 플로리디의 논의를 스피노자의 다원적 도덕 존재론의 관점에서 보완하기 위해, 플로리디가 이미 제시한 피동자인 정보 존재자의 도덕 논의 이외의 다른 도덕 논의들, 즉 비인공 행위자인 인간이나 인공 행위자와 같은 다른 정보 존재자들의 도덕 논의를 관계론적 논의 속에서 제시해야 한다고 주장한다. 이러한 논의가 플로리디의 정보 윤리학에 제기되는 비판들을 극복할 수 있게 하여, 좀더 설득력 있고 정당화하는 데 기여하기를 기대한다. The purpose of this paper is to critically examine whether Luciano Floridi’s claim that his information ethics is supported by Spinoza’s ethics is justified. Floridi’s information ethics presents de-anthropocentric ontology of information and the concept of metaphysical entropy, which are based on Spinoza’s ethics. However, Floridi's information ethics confronts not only a criticism of natural fallacy, but also a criticism that Floridi’s holistic perspective, in which his moral principles to moral entities represent, undermines individual values of moral entities. This paper argues that Floridi’s information ethics can overcome these criticisms when it would be supplemented through Spinoza’s pluralistic moral ontology and relational discussions. This is because Spinoza’s pluralistic moral ontology and relational discussions can suggest additional moral principles of the various beings, especially humans as ‘homo poieticus’ in Floridi’s information ethics, which are relationally extended to moral principles of other information beings in a normative sense. Thus, this paper argues that Floridi’s information ethics should be supplemented through Spinoza’s ethics, especially his plural moral ontology and relational discussions in order to be more convincing and justifiable.

빅데이터가 던지는 도전적인 철학적 문제들에 대한 고찰

이중원 ( Lee Jung-won ) 서울시립대학교 도시인문학연구소 2017 도시인문학연구 Vol.9 No.1

지금 우리는 지능과 정보에서의 기술혁신을 바탕으로 지능정보사회로의 새로운 사회 혁신을 추구하고 있다. 여기서 지능과 정보 두 영역의 기술혁신을 하나로 통합하여 사회혁신으로 나아가게 하는 연결 고리가 바로 빅데이터다. 빅데이터는 인간·사회·자연의 모든 존재자들이 만들어낸 정보들의 집합체이지만, 단순한 정보에 머무르지 않고 개인의 삶은 물론이고 정부·기업·학교·단체 등의 모든 사회영역에서 현재를 이해하고 미래를 예측하는 능력을 지닌 중요한 콘텐츠다. 따라서 빅데이터가 없는 4차 산업혁명은 상상할 수조차 없다. 통상적으로 빅데이터는 다음의 5가지 특성들, 곧 정보의 양(volume), 정보의 다양성(variety), 정보의 빠른 생성 속도(velocity), 정보의 진실성(veracity) 그리고 정보가 지향하는 목적 또는 가치(value)를 지닌 것으로 정의되곤 한다. 이는 일종의 기술적 정의로서, 오늘날 빅데이터의 높은 사회적 위상과 강력한 영향력 및 역할을 정확하게 포착하는 데 한계가 있다. 빅데이터를 하나의 사회적 유기체로 간주하고 데이터가 수집·저장·분석·처리·활용되는 과정에서의 복잡하면서도 역동적인 상관관계 및 외부와의 끈임 없는 상호작용에 주목할 필요가 있다. 그런 배경으로 인해 빅데이터의 등장은 새로운 사회적·윤리적 문제들의 발생을 예고하고 있다. 또한 존재론적 차원에서는 정보의 존재론적 본질이라든가 그러한 정보에 기반 한 새로운 세계관의 구성과 같은 문제들이 새롭게 제기될 수 있다. 인식론적 차원에서는 지식에 기반 한 전통적인 인식론과 정보에 기반 한 새로운 인식론의 관계라든가, 정보 중심적 관점에서 본 지식의 상의 변화 문제, 특별히 과학지식의 본질적 변화 문제 등이 새롭게 제기될 수 있다. 윤리(학)적 차원에서도 빅데이터로 촉발된 다양한 사회적·윤리적 문제들을 해결하는데 적합한 새로운 윤리체계의 정립 문제라든가, 이를 정당화 해 줄 윤리학적 담론에 관한 문제들이 새롭게 제기될 것이다. 본 논문에서는 이러한 도전적인 철학적 문제들을 살펴보고 논란이 되고 있는 몇몇 중요한 철학적 쟁점들을 비판적으로 검토하며 빅데이터 시대에 필요한 윤리학적 담론의 기본 방향과 거버넌스에 대해 개략적으로 언급하고자 한다. We are now pursuing the social innovation like intelligent information society through the innovations of both information and intelligence. Big data is a link between the areas of intelligence and information to integrate them. Also Big data is an aggregate of all informations about human beings, society and nature, which plays an important role in understanding the present and predicting the future as well as our lives, not simple data any more. Therefore we cannot imagine the 4th industrial revolution without Big data. Big data often has been defined as a complex with five properties, that is, volume, variety, velocity, veracity and value. But this definition is a kind of technical one, so we can not comprehand the higher social status and the powerful influences on society of Big data. We need to draw attention to the complicated and dynamic correlations within Big data and also on the interactions between Big data and its environments, which are activated during a series of process for collection, storage, analytics and use of Big data as a social organism. Because of it, the advent of Big data therefore will induce new social and ethical problems so much. From a view point of ontology, the ontological nature of information and the information-based construction of a world view will be controversial. And the following new epistemological issues will be hot, which are the change of image of knowledges and sciences, the information-based epistemology which must be different from traditional epistemology based on knowledge. Also from the ethical point of view, which ethical framework is relevant for understanding and solving the newly occurred social and ethical problems. In this paper I will examine most of these issues critically a little bit. And then I will give some comments on the new ethical discourse and the strategy for governance of Big data.

현대 정보사회의 본질과 윤리적 특성

엄주정,이창후 龍仁大學校 人文社會科學硏究所 2003 인문사회논총 Vol.- No.9

본 연구는 흔히 정보사회의 다양한 특징 및 그 변화의 중심 요인들에 대하여 철학적·사회학적으로 고찰하고 이에 근거해서 정보사회에서 요구되는 윤리학은 어떤 특징을 가진 것일지를 논구하고 있다. 따라서 본 연구는 정보사회에 대한 철학적·사회학적 고찰을 하는 부분과 이에 근거해서 정보사회의 윤리학의 특성을 고찰하는 부분으로 구성되어 있다. 결론을 탐구할 때의 초점은 기존의 윤리학적 틀이 얼마만큼 변화해야 정보사회에서의 삶의 지침 역할을 할 수 있겠는가 하는 것이며 근본적으로 정보사회에서도 기존의 윤리적 개념들의 근본적인 부분은 그대로 적용될 수 있을 것이라고 주장하고 있다.

초등학생의 온라인 게임 중독 완화를 위한 덕 교육 기반 교육용 게임의 개발과 적용

한지혜,전우천 한국정보교육학회 2010 정보교육학회논문지 Vol.14 No.4

초등학생들의 온라인 게임 중독이 점차 심각해지고 있는 상황에서, 정보통신 윤리 덕목들을 교육하기에는 기존의 교수-학습방법이 효과적이지 않다. 본 연구에서는 정보 윤리학을 기반으로 온라인 게임 중독을 판단할 검사 문항을 개발 및 적용하여, '고위험 사용자'와 '잠재적 위험 사용자'를 파악했다. 그리고 덕 교육을 기반으로 온라인 게임 모형을 개발하고 구현하였다. 본 논문에서 개발한 게임모형은 학습자가 흥미 있게 참여할 수 있으며, 온라인 게임 중독과 관련된 도덕적 규범을 스스로 찾고 판단하며, 서사를 통해 다양한 상황과 관련 있는 도덕적 규범을 자연스럽게 체득할 수 있다. 게임모형을 적용한 결과, '고위험 사용자'와 '잠재적 위험 사용자'의 비율이 줄어들었으며, 특히 '존중'과 '책임'이라는 덕목의 신장에서 유의미한 결과를 냈다. 따라서 온라인 게임 중독 원인이 '존중'과 '책임' 덕목의 미발달인 경우에 효과가 있을 것이다. Game addiction is the one of side effects from current knowledge-based society, So it is very important to find students with game addiction and treat them as early as possible. In this paper, first of all, a measure scale is developed for diagnosing game addiction. The scale is made based on the literature reviews. Also, a game model is developed based on virtues education. The proposed model has the following characteristics. First, it can induce active participation of students. Second, it helps students find and decide a moral standard related to online game addiction for themselves. Third, students can learn a moral standard naturally through narratives related to various real-life situations. The followings are concluded after applying the proposed game to elementary school students with game addiction. First, game addiction is relieved for those students, specially for high risk and potential groups. Second, the proposed game can improve respect to others and individual responsibility.

현대 과학기술에 내재된 다중 인격의 강화 가능성과 정보윤리학의 역할

도승연 한국여성철학회 2016 한국여성철학 Vol.25 No.-

급변하는 과학기술의 발전과 그것에 기반한 문화현상에 대한 탐구는 특정 학문의 주제를 넘어서 인간의 존재론적 토대와 실존의 선험적 조건으로서 간주되고 있다. 이러한 상황에서 ‘디지털’이라는 특정한 환경으로부터 배태된 문화현상에 대한 탐구는 기술 공학적 논의를 넘어서 인간성과 그 존재방식에 대한 물음으로 이어질 수밖에 없으며 이 물음은 인문학적 차원에서의 다양한 성찰과 반성, 전망을 고민하게 한다. 하지만 본 연구는 현대의 디지털 기술의 발전이 수반한 학문적 생태계의 변화, 그 안에서 가능한 인문학의 발전 가능성을 타진하기보다는 구체적인 인간 실존의 경험이 디지털 세계 안에서 어떻게 변화하는지를 검토하고자 한다. 나아가 이러한 변화로부터 우리에게 윤리적 태도가 요청될 때 그 근거와 내용을 레비Levy와 메를로퐁티Merleau-ponty이 사상에 기대어 제시하고자 한다. 이를 위해 일차적으로는 현대 디지털 문명이 야기한 인간의 지각과 수행능력의 변화, 나아가 인간의 경험 방식의 변화를 정체성 문제와 연관하여 검토할 것이다. 또한 디지털 기술이 구현한 가상 세계가 현대인들의 급격한 자기 동일성의 분열과 해체를 이끄는 선험적 조건이 될 지라도 여전히 우리에게는 그것의 조화를 이끌어내려는 윤리적 노력이 필요하다는 것을 다중 인격의 문제를 통해 주장하고자 한다. 그리하여 다중 인격의 존재를 인정하면서도 가상과 실재의 극단적 괴리를 피하는 것이 윤리 본연의 역할일 때 그것의 가능 근거를 철학적으로 밝힘으로써 디지털 문화 인터페이스에서의 정보윤리학의 현대적 의의를 요청하는 것, 이것이 본 연구의 궁극적인 목적이다.

헬스케어 인공지능에서 악을 식별할 수 있을까: 플로리디 정보 윤리학에 기초하여

김준혁 한국생명윤리학회 2023 생명윤리 Vol.24 No.2

The morality of Artificial Intelligence (AI) remains a point of contention, especially considering the lack of self-awareness or intent in AI systems. However, there is a consensus on the need to incorporate moral reasoning into AI development. The question of AI’s inherent ‘evil’ remains largely theoretical, suggesting that practical discussions should center around the ethics of AI development and use. However, in the healthcare AI domain, the situation differs due to the bioethical considerations and practical applications of several AI algorithms and devices. Despite principles of bioethics being applicable, clear criteria are needed to evaluate situations where healthcare AI could cause harm or act against patients’ benefits. A notable issue is the ‘hallucination’ caused by generative AI, where users might receive fabricated information or misinformation. Though this doesn’t necessarily harm users, its implications in healthcare are questionable. This paper aims to define hallucination in healthcare AI as an evil based on Luciano Floridi’s information ethics, emphasizing the contextual specificity of healthcare. It argues for the use of evaluation metrics to measure and reduce hallucination levels in healthcare AI. After an overview of information ethics, this study applies the concept to the healthcare domain, suggesting the need for a truth-falsity metric tailored to healthcare.

미래 인터넷(Future Intetnet) 기술의 윤리 문제

추병완 서강대학교 철학연구소 2009 철학논집 Vol.19 No.-

오늘날 주요 선진국들은 새로운 미래 네트워크 기술을 활발하게 추 진하고 있다. 미래인터넷 기술에 대한 연구는 미국, 유럽, 일본 등을 주 축으로 본격적인 활동에 돌입하였으며 우리나라도 2007년 정보통신부 신성장동력사업의 일환으로 미래인터넷 핵심기술이 선정되어 연구 기 획, 원천 기술 연구, 표준화 분야 등에서 국제 협력 및 한국의 미래인 터넷 연구를 이끌고 있다. 미래인터넷은 통신ㆍ방송ㆍ컴퓨팅ㆍ센서가 융합된 인프라로 현재ㆍ 미래의 다양한 요구 사항(광대역, 보안, 품질, 이동성, 관리성, 안정성, 유비쿼터스, 경제성 등)을 수용하는 새로운 구조의 네트워크이다. 따라 서 미래인터넷은 현재의 IP 기반의 인터넷과는 근본적으로 다른 아키 텍처의 새로운(clean-state) 네트워크를 의미한다. 미래인터넷은 사용자 에 의한 및 사용자를 위한 인터넷, 콘텐츠와 지식 인터넷, 사물 인터넷, 서비스 인터넷을 주요 특징으로 한다. 미래인터넷 기술의 발전에 버금가는 인터넷 문화의 성숙 및 인터넷 윤리의 확산이 이루어지지 않는 한 인터넷 역기능에 직면할 것이 분명 하다. 따라서 우리는 미래인터넷 기술이 수반할 수 있는 윤리적 문제들 에 대한 성찰을 통해 기술과 윤리의 공진(co-evolution) 방안을 모색해 야 한다. 미래인터넷 기술은 지적재산권과 저작권, 해킹, 인터넷 중독, 사생활 및 인권 침해 등의 기존에 제기되었던 윤리 문제들을 더욱 심화시킬 가능성이 매우 크다. 미래인터넷 시대에서는 지금보다 더욱 다양한 유 형의 사이버 범죄들이 만연할 것이다. 이 글에서는 미래인터넷 기술이 제기하는 대표적인 윤리적 문제를 개인정보 침해, 도덕적 책임 문제, 인간 소외 문제에 국한하여 논의하였다. 인간 자신과 인간의 삶에 관한 윤리적 물음들은 사회가 변하고 시대가 흘러도 계속 되어야 한다. 미래 인터넷에 대한 진지한 윤리적 물음은 인간의 모습을 한 기술사회를 구 현하기 위한 첫걸음이라고 할 수 있다.

윤리경영 인과지도를 바탕으로 분석한 한국의 카드사 고객정보 유출 사건: 시스템다이내믹스를 활용한 원인 탐구와 해결책 모색

김승범 ( Seungbum Kim ),신호상 ( Ho Sang Shin ) 한국시스템다이내믹스학회 2016 한국시스템다이내믹스 연구 Vol.17 No.1

Whenever Information leak case had been happened, even though IT Infra systems were reinforced, those cases of kind were not decreased. It meant that the causes are not only the fault of IT, but also other things. So that the information leak cases should have been studied by the interdisciplinary way. There was a point of view for the Business Ethics which needed to be studied in the interdisciplinary way. Financial Information Leak Case of three representative Card Companies in Korea which is happened in 2014 was a case which was composed by many problems. These were bad circumstances, half-educated, lower salary, and the most of all, the C-Levels’ ignorance of the law. By studying the CLD: Causal Loop Diagram of Business Ethics and those mentioned factors, few meanings were discovered. Firstly, this case was not aaccident, but a predeterminate issue at all, because of the structural unethical corruption. Secondly, main reason of this case was not only criminals who leaked information, but also managers, especially CEO who didn’t obey the law, forced that to employees. Thirdly, although those companies had moral guide and did CSR activities, it was not help to protect this information leak case. This study shows that the important thing was not the action for showing, but effective action to management for sustainability.