인공지능 윤리와 형사정책적 시사점 : 형사사법에서의 인공지능 윤리 이슈를 중심으로

김희정(Kim, HeeJung) 한국형사정책학회 2022 형사정책 Vol.34 No.1

우리는 컴퓨터, 인터넷, 스마트폰을 통해 디지털 혁명을 경험했고, 이후 자율주행, 인공지능, 로봇 등 4차산업 혁명 기술의 발전으로 인해 개인의 삶뿐 아니라 사회 전반의 혁신적 변화를 경험하고 있다. 인공지능은 사고나 학습 등 인간이 가진 지적 능력을 컴퓨터를 통해 구현하는 기술로 인간처럼 스스로 학습, 추리, 적응, 논증을 할수 있는 지능을 말한다. 인공지능은 다양한 분야에서 인간을 대신해 위험하고, 힘들고 어려운 일을 할 수 있으며, 단순 반복적인 업무를 빠른 시간 내에 효율적으로 처리할 수도 있다. 이렇듯 인공지능은 우리의 삶을 매우 편리하게 만들고 인간을 위해로부터 보호하는 등 인공지능의 발전으로 인간 삶이 좀 더 편하게 변화될 수는 있겠지만 이런 긍정적 변화에 반해 사고의 확증편향, 인간소외, 기본권 침해, 차별 문제 등사회적 문제가 발생시킬 위험도 있어, 인간을 위한 신뢰할 만한 인공지능(AI) 발전을 위한 인공지능 윤리 가이드라인의 필요성이 제기되었다. 세계 각 국은 다양한 인공지능 윤리 가이드를 마련하였고 특히, 유럽연합은 인공지능법(안)을 제시하기도하였다. EU 인공지능법(안)은 인공지능시스템의 안전성을 보장하고 기본적 권리와 유럽연합의 가치 존중, 인공지능시스템에 적용될 수 있는 기본권 및 안전기준 관련 법령의 효율적 집행 강화 등을 목표로 인공지능 개발 및 활용에 대한 신뢰, 기본권및 사용자 안전을 보장하기 위한 위험 기반 규제방식(risk-based regulatory approach)의 규정을 제시하였다. 인공지능은 현재 다양한 영역에서 개발 및 활용되고 있으며 형사사법 분야에서도 인공지능의 이용이 점차 증가하고 있는데, 범죄예방예측, 재범예측, 형사사법 절차, 보호관찰 등 다양한 분야에 인공지능의 이용 영역이 점차 확대되고 있어 형사정책적 측면에 상당히 긍정적 효과를 가져올 것으로기대된다. 하지만 형사사법에서의 인공지능 활용에 따른 긍정적 효과에 대한 기대와더불어 인공지능 편향성과 차별, 인공지능 투명성 이슈, 프라이버시권 침해, 기술의안정성 문제 등 다양한 윤리적 이슈가 문제 되고 있다. 이에 이 논문에서는 형사사법 분야에서의 신뢰할만한 인공지능의 개발과 활용에있어 인공지능에 대한 기본 윤리 가이드와 법제도 정비의 필요성을 강조하고, 국내외 인공지능 윤리가이드와 법제 동향, 형사사법에서 이용되는 인공지능의 윤리 이슈를 분석하여 우리 형사사법에서 인공지능 활용을 위한 법정책적 시사점을 도출하였다. After the digital revolution, there is a big change in all parts of life due to the 4th industrial revolution such as autonomous driving, artificial intelligence, and robots. Artificial intelligence (AI) refers to the simulation of human intelligence in machines that are programmed to think like humans. Artificial intelligence can do dangerous, difficult, and difficult tasks on behalf of humans in various fields. Artificial intelligence can make our lives very convenient, protect humans from danger. but against these positive changes, social problems such as confirmation bias, discrimination, data security and fundamental right issue can arise. For this reason, the necessity of artificial intelligence ethics guidelines for trustworthy artificial intelligence (AI) for humans was raised, and various artificial intelligence ethics guides were prepared with the efforts of experts around the world, and the European Union later proposed artificial intelligence regulation. The EU Artificial Intelligence Act proposed a risk-based regulatory approach to ensure the safety of artificial intelligence systems, respecting fundamental rights and European Union values, and strengthening the efficient enforcement of laws and regulations related to safety standards. Artificial intelligence is currently being developed and used in various areas, and the use of artificial intelligence is gradually increasing in the field of criminal justice, and it is expected to have a positive effect on criminal policy such as crime prevention, criminal justice, assess the likelihood of a recidivist and probation. However, in the use of artificial intelligence in criminal justice, various ethical issues such as artificial intelligence bias and discrimination, artificial intelligence transparency issues, privacy rights infringement, and technology stability are being problematic. This paper emphasized the necessity of artificial intelligence ethics guideline and legal system for artificial intelligence in the field of criminal justice, analyzed domestic and foreign artificial intelligence ethics guidelines and legal trends, and derived legal implications for the use of artificial intelligence in Korean criminal justice.

인공지능 윤리원칙 분류 모델에 관한 고찰

소순주(Soon-Ju SO),안성진(OSeong-Jin Ahn) 한국컴퓨터교육학회 2021 한국컴퓨터교육학회 학술발표대회논문집 Vol.25 No.2(A)

지능정보화사회에서 가장 핵심이 되고 있는 인공지능 기술은 사회 전반에 거쳐 다양한 형태로 모든 제품이나 서비스에 큰 변화를 가져오고 있다. 오늘날 인공지능은 초거대 인공지능 기술까지 발전하면서 사회, 경제, 생활 등 모든 분야에 활용됨으로써 순기능과 역기능이 함께 공존하게 되었다. 특히, 인공지능 기술발전으로 인하여 인공지능 윤리(Artificial Intelligence Ethics) 문제가 급속하게 이슈화 되고 있다. 유럽을 비롯하여 세계 각국과 국내에서도 2016년도를 기점으로 인공지능 윤리 가이드라인이 발표되고 있으며, 인공지능 기술 개발과 사용에 인공지능 윤리 가이드라인을 적극적으로 적용해나가고 있으나, 윤리원칙에 대한 체계적인 분류와 연구가 미흡한 실정이다. 본 연구는 각 국가, 유관 단체에서 발표한 인공지능 윤리가이드라인과 인공지능 기술을 적용한 제품, 서비스 개발전략, 정책, 관련 문헌 등을 바탕으로 인공지능 윤리원칙을 영역별로 분류할 수 있는 모델을 제안하였다. 제안된 인공지능 윤리원칙 분류모델은 인공지능 소프트웨어 개발, 검증, 인증, 운영, 교육에 필요한 표준모델을 만드는데 사용될 수 있으며, 신뢰할 수 있는 지속가능한 인공지능 기술연구와 인공지능 활용에 기여할 것이다.

AI 윤리교육 온라인 콘텐츠 활용에 대한 초등 교사의 인식 분석

최수연,김자미 한국정보교육학회 2025 정보교육학회논문지 Vol.29 No.1

인공지능의 발달로 인한 사회적 변화는 다양한 윤리적 이슈를 양산하였고, 학교 현장에서의 교육의 필요성이 강 조되고 있다. 본 연구는 초등학교 인공지능 윤리교육 콘텐츠 현황을 파악하고, 교사의 인공지능 윤리교육 및 콘텐 츠에 대한 현황과 요구를 분석하기 위한 목적으로 진행되었다. 목적 달성을 위해 인공지능 윤리 원칙을 기준으로 콘텐츠 현황과 관련 연구 분석을 통해 설문 문항을 제작하고, 초등학교 교사 189명의 인공지능 윤리교육에 대한 경험과 인식을 조사하였다. 분석 결과, 인공지능 윤리교육 콘텐츠는 투명성, 정의와 공정, 비악의성, 책임 등의 주 제를 주로 다루었으나, 자유와 자율, 공존과 같은 주제는 상대적으로 적은 비율이었다. 교사들은 인공지능 윤리교 육의 필요성을 인식하고 있으며, 관련 콘텐츠 접근은 주로 인터넷 검색과 동료 교사 소개가 높은 비율이었다. 콘 텐츠는 수업 준비 효율성과 학습 동기 유발에는 도움이 되지만, 호환성으로 인한 학습환경 제약과 내용 품질 저하 가 지적되었다. 윤리교육을 위한 다양한 주제가 필요하며, 사례 중심이나 상호작용이 가능한 콘텐츠에 대한 요구 가 높았다. 본 연구는 초등학교 인공지능 윤리교육을 위한 콘텐츠 개발의 방향성을 제시했다는 데 의의가 있다. The development of AI has led to various ethical issues, emphasizing the need for education in school settings. This study aims to assess the current state of AI ethics education content in elementary schools and analyze teachers' perceptions and needs regarding AI ethics education. A survey was conducted with 189 elementary school teachers, based on AI ethics principles, to explore their experiences and insights. The results indicated that content focuses on transparency, fairness, non-maleficence, and responsibility, while topics like autonomy and coexistence are underrepresented. Teachers recognize the importance of AI ethics education but face challenges with content accessibility and quality. There was also a demand for more diverse, case-based, and interactive materials. The significance of this study is that it provides basic data to suggest the direction of AI ethics education content development for elementary school students.

인공지능과 윤리 -법철학의 관점에서-

양천수 조선대학교 법학연구원 2020 法學論叢 Vol.27 No.1

This article deals with the issues of the ethics of artificial intelligence. Specifically, the following four issues are reviewed. First, what is the need to discuss the ethics of artificial intelligence? Second, what does the ethics of artificial intelligence mean, and who is it specifically for? Third, how can we set the basic directions of the ethics of artificial intelligence? Fourth, what are the ways to implement the ethics of artificial intelligence? At first, this article explains why we should deal with AI and ethical issues (II). This is because of the imperfections of legal regulations and the need of self-regulation. Next, this article argues that the concept of ethics in the ethics of artificial intelligence means ‘morality’ based on liberalism. In addition, this article argues that the ethics of artificial intelligence are actually oriented to AI developers rather than AI itself (III). Furthermore, this article proposes seven principles as ethics that should be applied to artificial intelligence (IV). Respect for human dignity, prohibition of infringement of rights, prohibition of violation of laws, submission of user’s orders, transparency, possibility to explain and accountability. However, these principles remain at an abstract level. In order to be able to apply it to the process of developing actual artificial intelligence, it must be specified in accordance with the level of technology currently reached. Finally, this article proposes self-regulation, proceduralization and explainable AI as a way to implement AI ethics (V). 이 글은 ‘인공지능과 윤리’ 문제를 다룬다. 구체적으로 다음 네 가지 문제를 검토한다. 첫째, 인공지능과 윤리를 논의해야 할 필요는 무엇인가? 둘째, 인공지능 윤리가 뜻하는 바는 무엇이고 이는 구체적으로 누구를 위한 윤리인가? 셋째, 인공지능 윤리의 기본 방향을 어떻게 설정할 수 있는가? 넷째, 인공지능 윤리를 이행하도록 하는 방안에는 무엇이 있는가? 먼저 이 글은 우리가 인공지능과 윤리 문제를 다루어야 하는 이유를 다음과 같이 말한다(II). 법적 규제의 불완전성과 자율규제가 그것이다. 다음으로 이 글은 인공지능 윤리에서 말하는 윤리는 자유주의에 기반을 두는 ‘도덕’을 뜻한다고 주장한다. 더불어 인공지능 윤리의 수범자는 실제로는 인공지능 자체라기보다는 인공지능 개발자로 본다(III). 나아가 이 글은 인공지능에게 적용되어야 할 윤리로서 일곱 가지 원칙을 제안한다(IV). 인간의 존엄성 존중, 권리침해 금지, 실정법 위반 금지, 이용자의 명령 복종, 투명성, 설명가능성, 책임이 그것이다. 그러나 이들 원칙은 여전히 추상적인 수준에 머물러 있다. 이를 실제 인공지능을 개발하는 과정에 적용할 수 있도록 하려면 현재 도달한 기술 수준에 적합하게 구체화해야 한다. 마지막으로 이 글은 인공지능 윤리 이행 방안으로 자율규제와 절차주의 그리고 설명가능한 인공지능을 제안한다(V).

교회와 목회자의 인공지능(AI) 활용과 기독교 윤리

이종민 한국교회법학회 2024 교회와 법 Vol.11 No.1

인공지능은 오늘날 급속하게 발전하여 우리 사회 저변에 막대한 영향을 미치고 있다. 때로는 긍정적인 효과도 나타나지만, 동시에 부정적인 영향을 미치고 있다. 그러하기에 인공지능과 관련한 윤리적 문제가 발생하게 되었고, 그에 대한 적절한 답변을 찾기 위한 다각적인 노력이 진행되고 있다. 이러한 움직임은 교회와 목회자에게도 예외는 아니다. 따라서 본 연구의 목적은 인공지능 시대를 살아가고 있는 교회와 목회자들이 갖춰야 하는 윤리의 필요성과 윤리적 원칙에 대해 고찰해 보고자 한다. 먼저 이를 위하여 인공지능에 대한 정의와 발달 단계에 대해 살펴보고자 한다. 미국인공지능진흥법에 따르면, 인공지능시스템(Artificial Intelligence System)이란 “전체 또는 그 일부가 동적 또는 정적 머신러닝 알고리즘 또는 그 밖의 형태의 인공지능을 사용하여 작동하는 데이터시스템, 소프트웨어, 애플리케이션, 도구 또는 공익시설로서 다음 중 어느 하나에 해당하는 것”이다. 그리고 이러한 인공지능 시스템은 약인공지능, 강인공지능, 그리고 초인공지능으로 발전하고 있다. 다음으로 인공지능시대에 발맞추어 국제기관과 한국 정부가 제시하는 인공지능에 대한 조작적 정의와 더불어 그에 걸맞는 윤리적 원칙과 지침을 살펴보고자 한다. 예를 들어 유네스코에서는 “인공지능 윤리 권고”에서 인공지능시스템을 “일반적으로 추론, 학습, 인식, 예측, 계획, 통제를 비롯하여 지적 행위와 유사한 방식으로 데이터 및 정보를 처리할 능력이 있는 시스템”으로 규정하고, AI시스템과 관련된 세 가지 요소—인공지능기술, 인공지능 수명주기, 그리고 인공지능 윤리—를 기술하였다. 그리고 그에 맞게 4가지 가치와 10가지 원칙을 제시하였다. 한편 유럽연합은 ”AI법안“을 체결하고 인공지능은 수준별로 규정하였다. 예를 들어 AI시스템, 범용AI모델(General Purpose AI Model), 생성형 AI시스템(Generative AI), 그리고 기본모델(Foundation Model) 등이다. 그리고 각각이 인공지능시스템이 야기시킬 수 있는 위험에 대해 네 가지 수준—용인할 수 없는 위험, 고위험, 제한된 위험, 그리고 최소 위험—으로 나누고, 특별히 고위험에 따른 규제와 의무사항을 제시하였다. 마지막으로 한국정부는 AT 강국을 뛰어 넘어 AI 강국으로 도약을 꿈꾸면서 ”교육분야 인공지능 윤리원칙“을 제시하였다. 정부는 인공지능이란 “인간의 지적능력을 컴퓨터로 구현하는 기술로서, ① 상황을 인지하고, ② 이성적·논리적으로 판단·행동하며, ③ 감성적·창의적인 기능을 수행하는 능력까지 포함”하고 있는 시스템으로 규정하고, 인간다움과 미래다움이 공존하는 교육 패러다임을 실천하는 교육공동체를 구축하고자 “사람의 성장을 지원하는 인공지능”이라는 대원칙 하에 교육분야에서 따라야 하는 열 가지 세부원칙을 제정하였다. 이러한 흐름을 바탕으로 인공지능을 개발하고 활용하는 점에 있어서 교회와 목회자들에게 인공지능 윤리의 필요성과 기독교적 윤리 원칙을 제시하였다. 즉 교회와 목회자에게 인공지능 윤리가 필요한 이유는 첫째, 약인공지능의 활용과 목회자료의 가치와 관련하여 인공지능시스템 개발과 출시 그리고 사용에 대한 윤리 지침이 필요하고, 둘째, 인공지능의 개발과 목회자의 인식에 있어서 AI 윤리와 윤리적 AI를 구분하여 이해할 수 있는 윤리 지침이 필요하며, 셋째, 인공지능의 사용과 교회교육과 관련하여 ...

인공지능의 도덕성과 도덕적 행위자(Moral Agent)로서의 가능성에 대한 신학적 성찰과 기독교인공지능 윤리의 가치와 방향

김은혜 장로회신학대학교 기독교사상과문화연구원 2024 장신논단 Vol.56 No.4

본 논문은 대중들의 의식을 구성하고 있는 인공지능(AI)의 미래에 대한 영향력 있는 서사를 분석함으로 윤리적 문제와 인간의 책임을 성찰하고 인공지능기술 발전으로 제기되는 책임의 공백의 문제를 살펴보고자 한다. 이 글은 기독교 인공지능 윤리의 연구가 심각하게 부족한 현실에서 최근 인공지능 기술개발과 상용화의 과정에서 제기되는 질문인 기독교 인간이해를 토대로 인공지능 기술도전에 응답하는 기독교 인공지능윤리를 위한 기초적 연구이다. 역사적으로 기술은 가치중립적인 개념이라기보다 윤리적으로 우리가 어떠한 삶과 어떠한 가치를 지향하는지와 관련이 있기에 향후 인공지능의 미래가 궁극적으로 인간의 책임에 달려 있음을 강조할 것이다. 이러한 인간책임의 고유성은 향후 AI 개발의 부정적인 영향을 피하고 공정하고 투명하며 안전한 기술개발을 위한 중요한 윤리적 방향을 제시하면서 궁극적으로는 윤리적 인간과 도덕적 인공지능의 협력적 공존의 현실을 성찰할 것이다. 따라서 본 논문은 인공지능의 기술발전이 인간의 도덕적 참여와 깊이 연루되어 있음을 확인하면서 윤리적 인공지능(ethical AI)을 위한 기초적인 수준에서 기독교 인공지능 윤리의 방향을 제시할 것이다. This paper analyzes influential narratives about artificial intelligence (AI) and its future impact on public consciousness, ethical issues, and human responsibility. It also examines accountability gaps emerging from AI development. As a foundational study in Christian AI ethics, it addresses the challenges of AI technology through a Christian understanding of humanity, exploring the fundamental question “who are we?” in light of recent AI developments and commercialization. The paper emphasizes that AIs future depends on human responsibility, recognizing that technology is not value-neutral but ethically intertwined with our ways of living and values. This unique human responsibility provides ethical guidance for mitigating negative effects of AI development while promoting fair, transparent, and safe technologies—ultimately leading to reflection on the coexistence of ethical humans and moral AI. Through this analysis, the paper establishes fundamental principles for Christian AI ethics, affirming the deep connection between AIs technological development and human engagement.

인공지능 윤리교육 프로그램의 효과 검증 - 초등 도덕과 교육 적용을 중심으로 -

이지형,변순용 한국초등도덕교육학회 2023 초등도덕교육 Vol.- No.84

이 연구의 목적은 인공지능 윤리교육 프로그램 실행을 통해 초등학생들의 인공지능 윤리의식 효과 검증에 있다. 아직 초등학교 교육과정에 인공지능 윤리교육이 포함되어있지 않고 도덕과에서도 다루어지고 있지 않은 것이 현실이다. 하지만 2022 도덕과 교육과정에는 인공지능 윤리가 본격적으로 들어가 있어 도덕과 연계한 인공지능 윤리교육이 필요하다. 본 연구에서는 이를 해결하기 위해 초등학교 도덕교과를 중심으로 인공지능 윤리 수업모형을 적용하고, 인공지능 윤리교육 프로그램을 설계하여 효과를 검증하였다. 본 연구에 참여한 학생은 서울시 소재 초등학교 5학년 학생 30명이며 학생들의 인공지능 윤리의식 효과 검증을 위해 혼합 연구를 실시하였다. 양적 연구는 실험 집단 내에서 대응표본 T-검정과 비교 집단과의 독립표본 T-검정을 실시하였으며 질적 연구로는 심층 면담과 사후 소감문 내용 분석을 실시하였다. 도출된 연구 결과를 토대로 인공지능 윤리교육 프로그램 운영이 초등학생의 인공지능 윤리의식 함양에 긍정적인 영향을 미쳤음을 알게 되었다. 특히 ‘투명성’이라는 학생들에게 어려울 수 있는 인공지능 윤리 개념을 도덕과의 ‘정직’이라는 핵심가치와 접목하여 인공지능 기술과 융합한 프로그램은 학생들에게 이에 대한 개념과 필요성을 인식하는데 큰 효과를 보여 주었다. The purpose of this study is to verify the effectiveness of artificial intelligence ethics among elementary school students through the implementation of artificial intelligence ethics education programs. It is a reality that artificial intelligence ethics education is not included in the elementary school curriculum and is not covered in the moral department. However, artificial intelligence ethics is included in the 2022 moral curriculum, so artificial intelligence ethics education linked to morality is needed. In this study, the effect was verified by applying an artificial intelligence ethics class model centered on elementary school moral subjects and designing an artificial intelligence ethics education program to solve this problem. The students who participated in this study were 30 fifth-grade elementary school students in Seoul, and a mixed study was conducted to verify the effectiveness of students' artificial intelligence ethics. In the quantitative study, a corresponding sample T-test and an independent sample T-test with the comparative group were conducted within the experimental group, and in-depth interviews and post-audit analysis were conducted as qualitative studies. Based on the derived research results, it was found that the operation of the artificial intelligence ethics education program had a positive effect on the cultivation of artificial intelligence ethics among elementary school students. In particular, the program that combines the concept of artificial intelligence ethics, which can be difficult for students of "transparency," with the core value of "honesty" in morality, has shown a great effect on students to recognize the concept and necessity.

[국문번역문] 호주의 관점에서 바라본 인공지능, 윤리 및 규제 과제

David Lindsay,Jane Hogan,김태오(감수) 서울대학교 공익산업법센터 2019 경제규제와 법 Vol.12 No.2

윤리적이고 책임 있는 인공지능의 개발은 중요한 규제 및 정책 과제이며 기술 혁신의 촉진에 대한 필요성과 개인과 사회적 권익에 대한 피해를 최소화하는 균형 잡힌 방안이 필요하다. 정책 문제의 파악과 분석에 토대가 되는 윤리 및 규제의 틀을 어떻게 짜느냐에 따라서 상충하는 현안 사이에서 균형을 잡을 수 있다. 본 연구는 급부상하는 호주의 인공지능 및 윤리 프레임워크를 중심으로 인공지능이 야기하는 윤리 및 법적 과제에 대한 호주의 정책 대응을 소개 및 조사하고, 평가하고자 한다. 본 연구는 ‘원칙허용성과 실용성’을 큰 특징으로 하는 호주의 신기술 규제 접근법의 일반적인 특징을 소개하고 인공지능으로 인한 도전에 대응하기 위해서 현재 호주에서 실시하고 있는 정책 프로세스를 예시로 들어 자세히 설명하였다. 첫째, 호주에서 현재까지 인공지능 기반 기술 대응에서 가장 많은 진전을 이룩한 분야인 자율 주행차 규제와 관련하여 호주 정부가 추진한 정책계획을 설명하였다. 둘째, 데이터61의 ‘인공지능과 윤리’와 인공지능 표준 로드맵 수립을 궁극적인 목표로 하는 호주표준화위원회 프로세스를 중심으로 호주 정부의 ‘책임 있는 인공지능’ 프레임워크의 주요 내용을 개략적으로 살펴보았다. 셋째, 인공지능으로 인한 인권 문제를 다루는 기관인 호주인권위원회에서 진행하는 인권 및 기술 프로젝트를 소개하였다. 마지막으로 호주규제 전통의 주류를 이루는 결과주의와의 비교를 위해서 비도구주의(non-instrumentalist) 프레임워크를 채택하는 윤리센터의 ‘윤리중심 설계’방식에 대해서 설명하고 인공지능 적용 설계 시 윤리적 측면의 중요성을 지적하였다. 결론에서는 본 연구에서 설명한 책임 있는 인공지능 개발에 대한 호주 정책 대응에 관하여 분석한 결과로부터 도출한 평가를 제시하였다. 이러한 정책 프로세스는 여전히 개발 중에 있으며 분석 결과는 다음과 같다. 첫째, 실용주의에 입각하여 신기술을 허용하는 호주 전통에 비추어 볼 때 기술 혁신의 촉진과 개인과 사회에 끼치는 해악으로부터 보호라는 양 쪽의 균형의 측면에서 호주는 인공지능 기반 기술을 촉진 및 증진하는 방안을 선호할 것이다. 둘째, 본 연구는 국가 차원에서 인공지능 윤리 프레임워크를 개발하기 위한 데이터 61과 같이 본질적으로 실용적이고 결과주의적인 방식과 호주 인권위원회(AHRC) 인권 및 기술 프로젝트 방식과 같이 인권과 인간 중심적인 접근 방식 사이에 명백한 긴장감이 존재한다는 사실을 인지하고 있다. 호주 정부는 대부분의 경우 자율규제(또는 공동규제)를 통하여 규제 개입을 최소화 (‘light-touch’)하는 전자의 방식을 선호할 것으로 보인다. 셋째, 도구주의적 기술에 직면한 상황에서 호주 정부의 실용적이고 기술 중심의 방식은 인간의 존엄성 및 자율성과 같은 인간 중심적 가치 보호의 측면에서 볼 때 인공지능 기술로 인해 발생하는 정책 및 윤리 과제를 사실상 간과하고 있지만 앞으로도 널리 통용될 것으로 보인다. 넷째, 인공지능기술의 등장은 기술 설계에 윤리적 측면을 최적으로 고려하면서도 동시에 적절하게 ‘유연’하고 ‘선제적인’ 규제 전략을 수립해야 하는 새로운 규제 딜레마를 불러왔다. 이러한 사안들은 본 연구에서 제안한 정책 프로세스에 관한 공적 논의를 통해서 다뤄지겠지만, 결론적으로 해당 기술에 버금가는 정도로 혁신적이고 창의적인 정책 및 규제가 필요한 상황에서 호주정부는 이 분야의 정책 및 규제 대응 개척에 선도적인 역할을 할 것으로 보이지는 않는다.

인공지능 윤리의 주요 쟁점과 필수 고려사항

박휴용(Hyu-Yong Park) 한국열린교육학회 2022 열린교육연구 Vol.30 No.6

최근 인공지능이 급속도로 발전해나감에 따라 지난 10여 년간 학계와 산업계에선 수많은 윤리적 지침들과 가이드라인이 개발되었지만, 그러한 윤리적 지침들이 현실 세계에 적용되기에 얼마나 타당하고 실제적인지에 대한 많은 논란과 문제제기가 이어져 왔다. 본고는 이 문제를 다루기 위한 핵심 가설인 ‘인공지능이 윤리적 주체가 될 수 있는가?’라는 질문을 바탕으로 다섯 가지 연구문제에 대해 논의하였다: i) 인공지능 윤리의 개발과정의 문제점과 논점은 무엇인가?, ii) 인공지능 윤리지침은 타당성과 적절한 이론적 근거를 가지고 있는가?, iii) 인공지능 윤리지침은 현실적으로 얼마나 실천가능한가?, iv) 인공지능 윤리 교육의 대상과 내용적 구조는 무엇인가? 마지막으로 v) 인공지능 윤리 교육을 위한 실천적 고려사항은 무엇인가? 본고의 논의의 핵심사항은 첫째, 기존의 인공지능 윤리지침은 피상성, 모호성, 편향성을 가지고 있고, 현실 세계의 다양한 사회문화적 배경을 충분히 반영하지 못하고 있다는 것이다. 둘째, 인공지능 윤리의 세 가지 윤리철학적 배경들(덕윤리, 의무론, 공리주의) 중에서 인공지능 개발자, 알고리즘, 사용자의 모든 특성을 반영하기에 용이한 공리주의적 철학이 향후 인공지능 윤리의 방향성이 될 것이고, 그것이 ‘윤리적 인공지능’의 특성에도 부합하다는 것이다. 셋째, 윤리적 지침들 자체(이론적 측면)와 실제 효과성(실천적 측면) 간의 간극을 메우기 위해서는 인공지능을 단순한 도구(명시적 대리자)가 아니라 윤리적 주체(실질적 대리자)로서의 역할을 인정하는 것이 필요하다는 것이다. 인공지능이 점차 고도화, 편재화되어가고 인공지능에의 의존성이 높아지는 미래 사회에서 인공지능의 윤리적 역할과 책임을 이해하는데 핵심이라는 것이다. 본고의 이러한 관점은 인공지능 윤리의 미래 방향성에 대한 학계의 다양한 논의를 촉발할 수 있을 것이다. Recently numerous ethical principles and guidelines for Artificial intelligence (henceforth, AI) have been developed though there are still many contentions and criticisms on the validity and practicality of AI ethics. To address this issue, this paper proposed five kernel research questions on the ethical issues of AI, based on the author’s seminal hypothesis, ‘can AI be an ethical subject?’. They are as follows: i) What are the problems and discrepancies in the development phases of AI ethics, ii) How much is AI ethics valid and on what theoretical basis does it stand on?, iii) Are the ethical guidelines practical in the real world?, iv) Who is the target of AI ethics development and how is the content structure of AI Ethics like? Finally, v) what are the practical considerations of AI ethics education and development? The major conclusive arguments of this paper are: first, current ethical guidelines are superficial, ambiguous, and biased in many aspects so that they can hardly represent the diverse socio-cultural conditions and backgrounds. Second, utilitarianism, rather than virtue or deontological ethics, would be most suitable philosophical basis since it can balance and reflect the characteristics of the developer, the algorithm, and the user. Third, to close the gap between the theory and practice AI should be an ethical subject, rather than an explicit proxy of ethics. This paper argued that developing ‘ethical AI’ should be the eventual goal of AI ethics in responding the sheer changes of a future society. This paper’s discussion may open the room for arguments in the area of AI studies.

인공지능시대, 한국 부동산과 윤리에 관한 연구

김경동(Kyung Dong Kim) 한국부동산학회 2025 부동산학보 Vol.96 No.-

본 연구의 결과, 인공지능시대, 한국 부동산과 윤리에서 발생하는 문제는 첫째, 인공지능과 한국 부동산의 윤리 문제와 둘째, 인공지능 시대의 적절한 부동산 윤리의 부재, 셋째, 부동산과 인공지능에 대한 심리적 불안감 등으로 산출되었다. 세부적인 내용은 다음과 같다. 첫째, 인공지능과 한국 부동산의 윤리 문제는 1) 전통적인 한국 부동산의 신뢰문제, 2) 효용과 편익 추구의 편중, 3) 인공지능에 대한 의존성 심화. 4) 심리적 불안과 우려 등이다. 둘째, 인공지능 시대에 적절한 부동산 윤리의 부재에서 1) 인공지능과 부동산 윤리에 대한 인식의 결여, 2) 인공지능과 부동산 윤리의 부재, 3) 인공지능과 부동산 산업의 규범적 방향의 상실 등의 문제를 제기한다. 셋째, 한국 부동산과 인공지능에 대한 심리적 불안감을 문제로 1) 한국 부동산과 인공지능에 대한 심리적 불안감, 2) 인공지능시대에 적용가능한 윤리의 부재, 3) 한국 부동산과 인공지능에 대한 신뢰구축의 문제 등을 제시하였다. 이에 대하여 본 연구는 인공지능시대, 한국 부동산과 윤리를 위한 방안을 다음과 같이 제안하였다. 첫째, 인공지능과 한국 부동산 산업에 대한 인식, 둘째, 인공지능과 부동산 산업의 윤리에 대한 논의, 셋째, 인공지능과 부동산 산업에 대한 심리적 불안감 해소 등을 주장하였다. 1. CONTENTS (1) RESEARCH OBJECTIVES This paper conducted research on the subject of AI age, Korean real estate, and ethics. This study attempted to present discussions and directions on AI and the real estate industry. Thesis was conducted with the aim of setting AI age, Korean real estate, and ethical norms as research topics, and seeking ethics suitable for AI age and Korean real estate. (2) RESEARCH METHOD This paper studied keywords such as domestic AI age, Korean real estate, and ethics as research topics. The main method of this study is to apply technical research methods and conduct research analysis through explanatory research. Through this, this study attempted to analyze the research topic and derive implications. (3) RESEARCH FINDINGS In the results of this survey, it is shown that a modern land management system including land expropriation procedure has been established in Korea by the Expropriation Act of 1911, which is a output of challenging projects of railway construction between 1897 and 1905. 2. RESULTS As a result of this study, problems arising from AI age, Korean real estate and ethics were calculated first, ethical issues of AI and Korean real estate, second, lack of proper real estate ethics in the age of AI, and third, psychological anxiety about real estate and AI. Details are as follows. First, the ethical issues of AI and Korean real estate are 1) the trust problem of traditional Korean real estate, 2) the bias in the pursuit of utility and benefits, and 3) the deepening dependence on AI. 4) psychological anxiety and concern. Second, in the absence of appropriate real estate ethics in the age of AI, it raises issues such as 1) lack of awareness of AI and real estate ethics, 2) lack of AI and real estate ethics, and 3) loss of normative direction in the artificial intelligence and real estate industry. Third, the issue of psychological anxiety about Korean real estate and AI was 1) psychological anxiety about Korean real estate and AI, 2) lack of ethics applicable to the age of AI, and 3) problems in building trust in Korean real estate and AI. In response, this paper proposed the following measures for Korean real estate and ethics in the age of artificial intelligence. First, they argued for awareness of AI and the Korean real estate industry, second, discussion of the ethics of AI and the real estate industry, and third, alleviating psychological anxiety about AI and the real estate industry.