트롤리 문제와 다원론적 규범 윤리 이론

정진규 ( Jeong Jin-kyu ) 한국동서철학회 2016 동서철학연구 Vol.0 No.81

트롤리 문제의 난점은 우리의 상이한 직관의 문제를 하나의 규범 윤리 이론으로 설명하려는 것에서 발생한다. 좀 더 상세하게 설명하면, 이러한 난점의 핵심은 트롤리문제를 행위 중심 규범이론으로 해결하려고 한다는 것이다. 즉, 행위 중심 규범 윤리이론의 한계점 때문에 트롤리 문제를 해결하지 못하는 것이다. 따라서 트롤리 문제를 하나의 규범 윤리 이론으로 설명하려면 우리는 어떻게 해야 하는 것인가? 그것은 트롤리 문제를 해결 하려고 하는 규범 윤리 이론이 행위 중심이 아닌 행위자 중심 규범 이론이면 가능할 것처럼 보인다. 왜냐하면, 행위자 중심 규범 이론은 다원론적 특징을 지니고 있기 때문이다. 따라서 다원론적 특성을 지니고 있지 않은 규범 윤리 이론으로는 트롤리 문제를 해결할 수 없으며, 다원론적 특성을 지니고 있는 덕윤리가 트롤리문제를 해결 할 수 있는 규범 윤리 이론일 것이다. 또한 이 이론은 행위자 중심 규범윤리 이론이라는 특징 또한 지니고 있다. 따라서 다원론적 규범 윤리 이론이라는 특성과 행위자 중심 규범 윤리 이론이 트롤리 문제를 하나의 규범 윤리 이론으로 설명할수 있을 것이라 기대할 수 있다. The crux of the trolley problem occurs due to trying to explain our different intuitions with one single normative ethical theory. In detail, the point of this crux is that we attempt to resolve the trolley problem by means of act-centered theory. It means that the trolley problem can’t be resolved because of the limit of act-centered problem. Therefore, if we can only use one single normative ethical theory, what kind of normative ethical theory do resolve the trolley problem? I think if a normative ethical theory can resolve the trolley problem, it is not act-centered theory but character-centered theory. Since character-centered theory has pluralistic property. Thus a theory that has not pluralistic property can’t resolve the trolley problem, virtue theory can resolve the trolley problem. The reason is that virtue theory has pluralistic property and is character-centered theory. Consequently, if the trolley problem is resolved by using only one single theory, virtue theory can resolve the trolley problem.

원효(元曉) 관점에서 본 트롤리 문제 해결 방안과 새로운 규범 윤리학 이론 모색

정진규 ( Jeong Jin-kyu ),김원명 ( Kim Won-myoung ) 한국동서철학회 2017 동서철학연구 Vol.0 No.84

본 논문의 목적은 두 가지다. 첫째는 원효(元曉, 617-686) 관점에서 트롤리 문제의 해결 방안을 모색하는 것이고, 둘째는 이와 같은 과정을 통해 새로운 규범 윤리학 이론에 대한 제언을 하는 것이다. 트롤리 문제는 동일한 결과가 양산되는 유사한 두 가지 사례에서 나타나는 상이한 도덕적 직관을 한 규범 윤리 이론으로 수용할 수 있는지 없는지에 대한 논의다. 우리 는 이와 같은 트롤리 문제의 해결 방안을 원효 사상인 한마음과 화쟁에 근거하여 제시 할 것이다. 트롤리 문제를 해결할 수 있는 방법의 중심에는 다원성과 행위자 중심 윤리 이론이 있다. 즉, 트롤리 문제를 해결하기 위해서는 다원성이라는 특성을 가진 행위자 중심 윤리 이론이 필요하다는 것이다. 원효 사상의 특성이 이 문제들을 해결할 수 있는 특성도 내포하고 있으며, 동시에 불교는 그 본래적 특성상 행위자가 스스로 자신을 수행 하여 부처가 되는 행위자 중심의 성격도 가지고 있다. 그러므로 우리는 원효 사상을 바탕으로 트롤리 문제의 해결 방안을 제시할 수 있을 것이라 생각한다. 또한, 우리는 트롤리 문제를 해결하는 과정을 통해 원효의 한마음과 화쟁이 새로운 규범 윤리학 이 론으로 발전할 수 있는 가능성에 대하여 논의할 것이다. The purpose of this article is two. First, I will try to find Wonhyo`s resolution for the trolley problem. Second, through this process, I will suggest a new normative ethical theory based on Wonhyo`s thought. The trolley problem is a discussion of whether a different moral intuition can be accommodated to a normative ethical theory in two similar trolley cases where the same result is produced. I will present the resolution of the trolley problem based on the two central ideas of Wonhyo`s One mind and the Hwajaeng. At the point of the way to resolve the trolley problem is the monism and the pluralism. That is to say, in order to resolve the trolley problem, it is necessary to consider the idea of being pluralistic but monistic. One mind and the Hwajaeng by Wonhyo are pluralistic, but these contain the notion that these are monistic. Therefore, it is thought that if these two concepts be used, the resolution for the trolley problem can be suggested. And we will present the possibility of development of Wonhyo `s One mind and the Hwajaeng as a new normative ethical theory through the process of resolving the trolley problem.

트롤리 문제의 해결을 위한 4가지 방식과 그 한계: 비인간 윤리를 위한 시론적 연구

강철 대한철학회 2024 哲學硏究 Vol.169 No.-

일반적으로 트롤리 딜레마는 구조적으로 동일해 보이는 두 사례를 제시하고, 동일해 보임에도 불구하고 왜 다른 도덕적 판단을 내리는지를 묻는다. 이것이 이른바 트롤리 문제(the Trolley Problem)이다. 본 논문은 트롤리 문제로 명명되는 대표적인 비교들인 ‘기관사 사례와 장기탈취 사례 간의’, ‘지선 사례와 육교 사례 간의’, ‘이어진 궤도 사례와 육교 사례 간의’ 비교를 면밀히 수행하고자 한다. 이러한 비교에 있어서, 흔히 무시되어 왔던 구조적 동등성의 중요성을 강조하고자 한다. 그리고 필자는 트롤리 문제에 대한 호소력 있는 해결책 4가지를 제시한다. 그 과정에서 사례를 성립시키는 객관적인 규정과 그 사례에 대한 주관적인 해석 간의 구분에 의거해서, 그 해결책들을 비판적으로 검토하면서 그 한계를 논의한다. 필자는 지금까지 수행된 적이 없는 사고실험을 시도하는데, 행위자-네트워크 이론(actor-network theory)을 트롤리 사례에 적용하는 것이다. 이때 구조적 동등성 개념은 비인간(nonhumans)이 인간의 도덕적 판단에 어떻게 작용하는지를 연구하기 위한 토대적 개념으로 사용된다. 행위자-네트워크 이론에 의거해서 비인간에게 행위자성(agency)을 인정해서, 윤리적인 평가를 산출하는데 있어서 비인간들을 인간과 대등하게 참여시키는 ‘비인간 윤리’를 모색하기 위한 예비적인 고찰을 수행하고자 한다. 인공지능 프로그램들이 인간의 의사결정을 점점 더 대체하고, 보다 더 자율적인 인공지능들이 출현하는 시대가 도래할 것으로 예상된다. 필자는 본 논문을 통해서 이러한 시대에 적합한 윤리가 과연 무엇인지를 모색하고자 한다. In general, the trolley dilemma presents two cases that appear to be structurally equivalent, and asks why they lead to different moral judgments: this is the so-called Trolley Problem. This paper seeks to scrutinize the classic comparisons that have been labeled the Trolley Problem: Driver vs. Transplant case, Bystander vs. Footbridge case, and Loop vs. Footbridge case. In making these comparisons, I will emphasize the importance of structural equivalence, which has often been ignored. Finally, I offer four appealing solutions to the trolley problem, critically examine them again, and suggest their limitations. Relying on the distinction between the objective rules that establish a case and the subjective interpretation of that case, the four solutions are critically examined and their limitations are presented. In this paper, my concept of structural equivalence will be used as a foundational concept for exploring how nonhumans play a role in our moral judgments. In doing so, I will apply so-called actor-network theory to the trolley case. Drawing on this theory, I make a preliminary exploration of an ‘ethics of nonhumans’ that recognizes nonhumans as actors and engages them equally in the production of ethical assessments. It is expected that artificial intelligence programs will increasingly replace human decision-making and that more autonomous artificial intelligence will emerge. This paper aims to contribute to the search for ethics that is appropriate for such an era.

트롤리문제와 도덕판단의 세 가지 근거들

강철 ( Cheul Kang ) 한국윤리학회 2013 倫理硏究 Vol.90 No.1

The purpose of this article is to study the trolley problem proposed by Philippa Foot and Judith Thomson. Trolley cases are the kind of dilemmas which relate to whether we should save the more people rather than the less. In chapter I, I discuss the solutions in the initial states presented by Foot and Thomson and then focus on three foundations which play pivotal role in moral judgement. That is, the intention and the merely foresight in the doctrine of double effect, the doing and allowing in the doctrine of doing and allowing, and the objective facts in consequentialism. In chapeter II, I examine closely Thomson(2008)`s overturning view that there is no trolley problem. On the basis of this examination, I investigate the two contrasting positions, self-affirming and self-negating, which would resolve the problem of trolley.

트롤리 문제는 무엇인가?

정진규 ( Jin Kyu Jeong ),김신 ( Shin Kim ) 한국동서철학회 2015 동서철학연구 Vol.77 No.-

이 논문에서 답하고자 하는 물음은 “트롤리 문제의 핵심이 과연 무엇인가?”이다. 첫째, 트롤리 문제에 대한 기존의 답변을 살펴본다. 이들은 크게 결과주의적 답변과 비결과주의적 답변으로 나눠질 수 있다. 둘째, 이들 답변들이 지니는 한계를 밝히고자한다. 예를 들어, 결과주의적 답변은 ‘해악-도움의 비대칭성’에 의해서만 설명될 수 있는 도덕적 직관 때문에 한계를 지니며, 비결과주의적 답변은 이와 상응하여 ‘이중효과 이론’의 적용성에 따른 한계를 지닌다. 마지막으로 이러한 한계를 넘어설 수 있는 가능성을 타진하고자 한다. We seek to answer the venerable question, “what exactly is the trolley problem?” in this paper. First, the responses that have traditionally given are surveyed. These come from a couple of influential ethical persuasions: the consequentialist camp and the non-consequentialist one. Second, the constraints and/or the limitations of those responses shall be discussed. For instance, the consequentialist has to make good of their “harm-benefit symmetry” doctrine; and, the non-consequentialist their “double effect” doctrine. We conclude this paper with our own attempt to give an appropriate response to the trolley problem.

자율주행자동차의 윤리화의 과제와 전망

이상돈,정채연 경북대학교 IT와 법연구소 2017 IT와 법 연구 Vol.0 No.15

The intelligent information society demands significant changes in the legal system, and the commercialization of autonomous vehicles is the most influential phenomenon that suggests the need for such changes. Focused on ethical issues of autonomous vehicles, the study is to identify the task of ‘ethicalization of autonomous vehicles’ and to address its future prospects. An ethical problem arises when autonomous vehicles replace human being in the decision-making process regarding safety of human life. The ethical challenges, such as the ‘Trolley Problem,’ show that the science and technology should not be expected to take a neutral stance on values and ethics in human society. First, as a theoretical foundation, this paper gives a general overview of discourse in the field of robot ethics in three categories: i) ethical guidelines of robotics; ii) moral status of robots; iii) ethical treatment of robot(robot rights). The notions of ‘autonomy’ and ‘robot-being’ are crucial in analyzing the applicability of robot ethics to the case of autonomous vehicles. Furthermore, the methods to build and design an ethical robot can be utilized to program the ethical algorithms for autonomous vehicles, and their practicality and effectiveness are examined by solving the trolley problem. Moreover, the paper provides ethical evaluations of prioritized decision making during autonomous vehicle crashes. In ethically dilemmatic situations, a priority-based hierarchical structure may accompany the issues of discriminating functions and the action/inaction distinction. Finally, as a closing remark, this paper suggests future prospects of the ethicalization of autonomous vehicles.

트롤리 문제의 이해방식에 대한 비판적 고찰

강철,김준혁 한국생명윤리학회 2023 생명윤리 Vol.24 No.1

Reducing the harm that may occur is a fundamental norm that, like John Stuart Mill's harm principle, aims to sustain a stable coexistence in society. It is also part of our natural duties in terms of what we reasonably expect from each other as rational members of society. However, the conditions under which seemingly obvious demands for harm reduction are justified remain highly controversial. This is primarily due to the inherent disagreement regarding which approaches are legitimate in minimizing harm. The so-called Trolley Problem serves to effectively discuss such issues. Trolley cases refer to moral dilemmas that explore when sacrificing a few individuals to save the majority can be justified. It allows for a detailed examination of moral distinctions involving action types such as "killing" and "letting die," motivational states such as "intent" and "foreseen," and outcome states such as "the majority" and "the minority." The principles that restrict demands for harm reduction are known as the Doctrine of Doing and Allowing and the Doctrine of Double Effect, which form the basis of our deontological lives and ways of thinking. The authors' central argument focuses on how the Trolley Problem should be understood normatively, rather than examining how it is understood on a factual level by academia or the general public. To achieve this, the study aims to clarify what the Trolley Problem is attempting to test. It discusses the problems associated with the illustrations of Trolley Problem scenarios found in various books and on the internet. Efforts will be made to ensure maximum structural homogeneity among the cases for fair comparison and examination. Furthermore, the study intends to discuss how the key terms of the Trolley Problem, namely "killing" and "letting die," should be understood, including exploring the semantic differences between "killing" and "죽임" in English and Korean. 발생될 피해를 줄여야 한다는 것은 밀(Mill)의 피해야기 금지 원칙(the harm principle)과 마찬가지로, 함께 모여사는 사회적 삶을 안정적으로 지속하게 해 줄 기본적인 규범이다. 또한 이성적인 사회구성원으로서 우리가 서로에게 마땅히 요구하는 바라는 측면에서 자연적 의무에 속한다. 그런데 과연 어떤 조건 하에서, 자명해 보이는 피해축소 요구가 정당화되는지는 실상 매우 논쟁적인 문제이다. 그도 그럴 것이 피해를 줄이는 방식에 있어서, 어떠한 방식이 정당한지는 본성상 견해 다툼이 심하기 때문이다. 이와같은 문제를 효과적으로 논의할 수 있게 해 주는 것이 이른바 트롤리 문제(the Trolley Problem)이다. 트롤리 사례들이란 소수를 희생시켜서 다수를 구하는 것이 언제 정당화되는지를 따지는 도덕적 딜레마를 말한다. 선택을 함에 있어서 행위양태로서 ‘죽임’과 ‘죽게 둠’, 동기양태로서 ‘의도’와 ‘예견’, 결과양태로서 ‘다수’와 ‘소수’ 간의 도덕적 차이를 상세하게 논의할 수 있게 하는 사례이다. 피해축소 요구를 제한하는 원칙들이 이른바 함과 둠의 원칙(the Doctrine of Doing and Allowing)과 이중결과론(the Doctrine of Double Effect)인데, 이 두 원칙은 우리의 의무론적인 삶과 사고방식의 근간을 이루는 원칙들이다. 필자들의 핵심적인 주장은 트롤리 사례들이 사실적 차원에서 학계나 일반인에게 어떻게 이해되고 있는지가 아니라, 규범적 차원에서 어떻게 이해되어야 하는지에 맞춰져 있다. 이를 위해 본 연구는 트롤리 사례가 테스트 하려는 것이 무엇인지를 명확히 하려고 한다. 여러 서적들이나 인터넷에 등장하는 트롤리 사례에 관한 그림들이 어떤 문제를 안고 있는지를 논의한다. 트롤리 사례들을 공정하게 비교하고 검토하기 위해서 사례들 간의 구조적 동형성을 최대한 확보하려고 할 것이다. 또한 트롤리 사례의 주요 용어인 killing과 letting die가 어떻게 이해되어야 하는지도 논의하고자 한다. 이를 통해, 영어와 한국어에서 “killing”과 “죽임”의 의미론적이 차이도 규명해 본다.

자율주행자동차 안전규제에서 트롤리 딜레마와 인공지능 ․ 로봇 윤리에 대한 오해와 이해

주진열 한국모빌리티학회 2024 모빌리티연구 Vol.4 No.1

Future mobility is expected to have fully autonomous driving (AD) system. The successful deployment of Level(L) 5, fully autonomous vehicles (AVs) depends on both technical safety and social acceptance. To achieve this, it is crucial to discuss various aspects of safety regulation at the level of positive law. However, the inclusion of the unrealistic trolley dillemma and the dubious ethics of AI/Robot in discussion of the satety regulation of AVs causes confusion, leading to many pointless and unnecessary debates. The trolley dilemma, which is nothing more than a hypothetical accident experiment, only causes confusion without any benefit in the context of AVs. Deep learning AI technology for collision avoidance has nothing to do with discrimination and human rights. In South Korea, however, the two guidelines for AVs of 2020 co-published by the government and other research group mistakenly demand a resolution to the unrealistic trolley dilemma and address dubious concerns of AI/Robot. A misguided focus on the trolley problem and AI/Robot ethics could hinder the social acceptance of AVs even before AD technology is fully developed. While there are safety concerns related AI for collision avoidance, attaining ‘zero risk’ is an impractical goal. Demanding zero risk would prohibit the deployment of AVs. Therefore, achieving a consensus on ‘acceptable positive risk’, both technically and socially, is imperative for the successful deployment of AVs. To facilitate this, the government should play a role in fostering rational risk communication among various stakeholders.

$H^$\infty$$ Gain-Scheduling 기법을 이용한 컨테이너 크레인의 흔들임 제어에 관한 연구

김영복,정용길,Kim, Yeong-Bok,Jeong, Yong-Gil 제어로봇시스템학회 2001 제어·로봇·시스템학회 논문지 Vol.7 No.7

The sway control problem of the pendulum motion of a container hanging on the trolly, which transports containers from a container ship to trucks, is considered in the paper. In the container crane control problem, suppressing the residual swing motion of the container at the end of acceleration, deceleration or the case of that the unexpected disturbance input exists is main issue. For this problem, in general, the trolley motion control strategy is introduced and applied. In this paper, we introduce and synthesize a new type of swing motion control system in which a small auxiliary mass is installed on the spreader. The actuator reacting against the auxiliary mall applies inertial control forces to the container to reduce the swing motion in the desired manner. In this paper, we apply the $H^$\infty$$ based gain-scheduling control technique to the anti-swing motion control system design problem of the controlled plant. In this control system, the controller dynamics are adjusted in real-time according to time-varying plant parameters. And the simulation result shows that the proposed control strategy is shown to be useful for the case of time-varying system and, robust to disturbances such as winds and initial sway motion.

컨테이너 크레인의 흔들림 방지장치 개발에 관한 연구

손유식(YU-SIK SON),김영복(YOUNG-BOK KIM) 한국해양공학회 2000 韓國海洋工學會誌 Vol.14 No.4

The sway control problem of the pendulum motion of a container hanging on the trolly, which transports containers from a container ship to trucks, is considered in the paper. In the container crane control problem, suppressing the residual swing motion of the container at the end of acceleration, deceleration or the case of that the unexpected disturbance input exists is main issue. For this problem, in general, the trolley motion control strategy is introduced and applied. But, in this paper, we introduce and synthesize a new type of swing motion control system. In this control system, a small auxiliary mass is installed on the spreader. And the actuator reacts against the auxiliary mass, applying inertial control forces to the container to reduce the swing motion in the desired manner. In this paper, we apply the LMI approach and simultaneous optimization design method to design the anti-swing motion control system for the controlled plant. And the simulation result shows that the proposed control strategy is shown to be robust to disturbances like winds and initial sway motion.