인간과 인공지능의 도덕적 판단 비교 : 따뜻함과 갈등 수준을 중심으로

국문 초록 (Abstract)

본 연구는 인간과 인공지능이 동일한 윤리적 딜레마 상황에서 어떠한 도덕적 판단을 보이는지, 그리고 행위자의 따뜻함 수준과 딜레마의 갈등 수준이 공리주의적 판단 가능성에 어떠한 영향을 미치는지를 살펴보고자 하였다. 이를 위해 경기도 소재 K 대학교에 재학 중인 대학생 133명(남성 58명, 여성 75명)을 대상으로 행위자 유형(인간 vs. 인공지능, 피험자 내 설계), 따뜻함 수준(높음 vs. 낮음, 피험자 간 설계), 갈등 수준(낮음: 트롤리 딜레마 vs. 높음: 풋브릿지 딜레마, 피험자 간 설계)이 조작된 도덕적 딜레마 시나리오를 제시하였다. 실험 참가자들은 각 조건에 무선으로 배정되었으며, 두 행위자 모두에 대해 공리주의적 판단을 할 가능성을 백분율(%)로 응답하였다. 이후 딜레마 유형에 따른 갈등 수준 조작 점검을 실시하여 조작의 타당성을 확인하였다.
연구 결과, 먼저 행위자 유형의 주효과가 유의하게 나타나 인공지능 조건에서 인간 조건보다 공리주의적 판단 가능성이 높았다. 이는 인공지능이 감정적 부담없이 결과 중심의 판단을 수행하는 존재로 인식된다는 기존 연구의 논의와 일치하는 결과이다. 반면 행위자의 따뜻함 수준은 공리주의적 판단 가능성에 유의한 영향을 미치지 않아 인공지능 행위자의 따뜻함이 높을 때보다 낮을 때 공리주의적 판단을 할 가능성이 더 높을 것이라는 가설은 기각되었다. 갈등 수준의 경우, 풋브릿지 딜레마보다 트롤리 딜레마에서 공리주의적 판단이 더 높아 갈등 수준의 차이가 판단에 영향을 미친다는 점이 확인되었다. 또한 행위자 유형과 갈등 수준의 상호작용에서는 인공지능 조건이 인간 조건보다 갈등 수준의 영향을 덜 받는 경향을 보였다. 이는 정서적 개입의 정도가 인간과 인공지능 사이에서 다르게 작동할 수 있음을 보여준다.
이러한 결과는 인공지능이 윤리적 판단의 주체로 등장할 때 사람들이 인간과는 다른 기준으로 판단을 수용하고, 결과 중심적 선택을 보다 쉽게 정당화한다는 점을 시사한다. 본 연구는 행위자의 따뜻함 수준과 딜레마의 갈등 수준을 동시에 고려하여 인공지능의 윤리적 판단 수용성을 실증적으로 분석했다는 점에서 의의가 있으며, 향후 인공지능이 법률·의료·재난 대응 등 실제 의사결정 영역에 개입하게 될 때 필요한 사회적 기준과 판단 원칙 마련의 필요성을 제기한다. 마지막으로 본 연구의 한계와 후속 연구 방향이 추가적으로 논의되었다.

다국어 초록 (Multilingual Abstract)

The present study aimed to examine how humans and artificial intelligence (AI) differ in their moral judgment when faced with the same ethical dilemma, and how agent warmth and dilemma conflict level influence the likelihood of making utilitarian judgments. A total of 133 undergraduate students (58 males, 75 females) from K University in Gyeonggi-do participated in the study. Participants were randomly assigned to conditions in which agent type (human vs. AI; within-subjects), warmth level (high vs. low; between-subjects), and conflict level (trolley vs. footbridge; between-subjects) were manipulated through moral dilemma scenarios. Participants indicated the likelihood (in percentage) that each agent would make a utilitarian choice. A manipulation check was conducted to verify the validity of the conflict-level manipulation.
The results showed a significant main effect of agent type: utilitarian judgment likelihood was higher in the AI condition than in the human condition. This finding aligns with previous research suggesting that AI is perceived as a decision-maker operating without emotional burden. Warmth level did not significantly affect utilitarian judgment. Regarding conflict level, utilitarian judgment was higher in the trolley dilemma than in the footbridge dilemma, indicating that emotional conflict shapes moral decision-making. An interaction between agent type and conflict level further revealed that AI judgments were less influenced by conflict level than human judgments, suggesting that emotional involvement operates differently for human and AI agents.
These findings indicate that individuals may apply different standards to AI than to humans when evaluating moral decisions, more readily justifying outcome-oriented judgments. This study contributes by empirically examining the acceptability of AI’s moral judgments while jointly considering warmth and conflict level. It also underscores the need to develop social guidelines and evaluative principles as AI becomes increasingly involved in real-world decision contexts such as law, medicine, and disaster response. The implications and limitations of the study are discussed.

목차 (Table of Contents)

• 제 1 장 서론 1
• 제 1 절 연구 문제와 목적 1
• 제 2 장 이론적 배경 4
• 제 1 절 인공지능(Artificial Intelligence)의 정의 4
• 제 2 절 인공지능의 윤리적 판단에 대한 인식 5
• 제 3 절 지각된 따뜻함(Warmth) 7
• 제 1 항 지각된 따뜻함(Warmth)과 유능함(Competence) 7
• 제 2 항 인공지능과 지각된 따뜻함(Warmth) 8
• 제 4 절 윤리적 딜레마 9
• 제 1 항 윤리적 딜레마(Moral dilemma)의 정의 9
• 제 2 항 딜레마 판단 시 갈등 수준 10
• 제 5 절 인공지능과 딜레마 판단 12
• 제 1 항 인간과 인공지능의 딜레마 판단과 윤리적 선호 12
• 제 3 장 연구목적 및 내용 14
• 제 4 장 연구 방법 17
• 제 1 절 실험 설계 17
• 제 2 절 연구 절차 17
• 제 3 절 시나리오 17
• 제 4 절 조사 내용 19
• 제 1 항 독립 변수 19
• 제 2 항 종속 변수 21
• 제 5 절 자료 분석 21
• 제 5 장 연구 결과 22
• 제 1 절 조작 점검 22
• 제 2 절 도덕적 판단 22
• 제 6 장 논의 28
• 참고문헌 33
• Abstract 40