인공지능이 의사결정에 미치는 영향에 관한 연구: 인간과 인공지능의 협업 및 의사결정자의 성격 특성을 중심으로

이정선(JeongSeon Lee),서보밀(Bomil Suh),권영옥(YoungOk Kwon) 한국지능정보시스템학회 2021 지능정보연구 Vol.27 No.3

Artificial intelligence (AI) is a key technology that will change the future the most. It affects the industry as a whole and daily life in various ways. As data availability increases, artificial intelligence finds an optimal solution and infers/predicts through self-learning. Research and investment related to automation that discovers and solves problems on its own are ongoing continuously. Automation of artificial intelligence has benefits such as cost reduction, minimization of human intervention and the difference of human capability. However, there are side effects, such as limiting the artificial intelligence’s autonomy and erroneous results due to algorithmic bias. In the labor market, it raises the fear of job replacement. Prior studies on the utilization of artificial intelligence have shown that individuals do not necessarily use the information (or advice) it provides. Algorithm error is more sensitive than human error; so, people avoid algorithms after seeing errors, which is called “algorithm aversion.” Recently, artificial intelligence has begun to be understood from the perspective of the augmentation of human intelligence. We have started to be interested in Human-AI collaboration rather than AI alone without human. A study of 1500 companies in various industries found that human-AI collaboration outperformed AI alone. In the medicine area, pathologist-deep learning collaboration dropped the pathologist cancer diagnosis error rate by 85%. Leading AI companies, such as IBM and Microsoft, are starting to adopt the direction of AI as augmented intelligence. Human-AI collaboration is emphasized in the decision-making process, because artificial intelligence is superior in analysis ability based on information. Intuition is a unique human capability so that human-AI collaboration can make optimal decisions. In an environment where change is getting faster and uncertainty increases, the need for artificial intelligence in decision-making will increase. In addition, active discussions are expected on approaches that utilize artificial intelligence for rational decision-making. This study investigates the impact of artificial intelligence on decision-making focuses on human-AI collaboration and the interaction between the decision maker personal traits and advisor type. The advisors were classified into three types: human, artificial intelligence, and human-AI collaboration. We investigated perceived usefulness of advice and the utilization of advice in decision making and whether the decision-maker’s personal traits are influencing factors. Three hundred and eleven adult male and female experimenters conducted a task that predicts the age of faces in photos and the results showed that the advisor type does not directly affect the utilization of advice. The decision-maker utilizes it only when they believed advice can improve prediction performance. In the case of human-AI collaboration, decision-makers higher evaluated the perceived usefulness of advice, regardless of the decision makers personal traits and the advice was more actively utilized. If the type of advisor was artificial intelligence alone, decision-makers who scored high in conscientiousness, high in extroversion, or low in neuroticism, high evaluated the perceived usefulness of the advice so they utilized advice actively. This study has academic significance in that it focuses on human-AI collaboration that the recent growing interest in artificial intelligence roles. It has expanded the relevant research area by considering the role of artificial intelligence as an advisor of decision-making and judgment research, and in aspects of practical significance, suggested views that companies should consider in order to enhance AI capability. To improve the effectiveness of AI-based systems, companies not only must introduce high-performance systems, but also need employees who properly understand digital information presented by AI, and can add non-digital

인공지능과 인권

김병록 조선대학교 법학연구원 2024 法學論叢 Vol.31 No.1

Human rights and artificial intelligence are two important concepts that interact with each other in today's rapidly developing digital age. How will artificial intelligence technology affect human rights that are spreading throughout people's lives? This question has become an increasing focus of attention. Artificial intelligence is the field that enables computer systems to simulate human-like thinking and decision-making capabilities. However, some of the problems that arise from artificial intelligence may have a direct impact on human rights. The interaction between human rights and artificial intelligence is a complex problem. While artificial intelligence technology has the potential to harm people and human rights, it also has great potential to be used to protect and promote human rights. Therefore, artificial intelligence technology must be developed and used while observing human rights through an approach supported by an ethical and legal framework. In this paper, after reviewing human rights issues such as artificial intelligence and freedom of expression, artificial intelligence and freedom of privacy, artificial intelligence and bias, hate, discrimination, artificial intelligence and defamation, artificial intelligence and copyright, we will discuss the issue of legal response to artificial intelligence. Regarding the relationship between the state and science and technology, the Constitution stipulates that "the state shall endeavor to develop the national economy through innovation of science and technology and the development of information and manpower (Article 127), and the rights of authors, inventors, and scientists are protected by law (Article 22)." It declares that the state will actively plan and form for the promotion of science and technology and lead in a certain direction. In relation to these constitutional provisions, the establishment and implementation of science and technology policies can be seen as an important duty given to the Republic of Korea as a democratic welfare state. It can be said that the main legislative duty is to achieve a balance between the value of promoting the development and utilization of artificial intelligence systems and the appropriate response to the risks that artificial intelligence can pose. To achieve a balance between artificial intelligence and human rights, it is necessary to comply with ethical values, use transparent and responsible systems, update legal regulations, and adopt an approach that guarantees stakeholder participation. By doing so, we will be able to build a future where human rights are protected while taking advantage of the potential benefits of artificial intelligence.

키워드 네트워크 분석을 통한 인공지능인문학 연구의 영향성 분석

최지현,황서이,이유미 중앙대학교 인문콘텐츠연구소 2023 인공지능인문학연구 Vol.15 No.-

The purpose of this study is to identify research trends in ‘artificial intelligence humanities’ using keyword network analysis. Artificial intelligence humanities are not simply a fusion of artificial intelligence and humanities. It is an interdisciplinary field of study that seeks to interpret the era of artificial intelligence from the perspective of the humanities and to analyze society using artificial intelligence technology. Focusing on the research achievements of members of the Chung-Ang University Humanities Research Institute, who started and studied artificial intelligence humanities, a keyword network analysis was conducted to determine the research impact on the relationship with papers citing these achievements. As a result of extracting high-frequency vocabulary from a total of six research areas by adding the field of ‘pedagogy’ to the five research areas of artificial intelligence humanities, which are ‘relational communication, technology criticism, data analysis, socio-cultural studies, and ethical norms’. ‘Metaverse, AI, education, virtual, public language, and Korean’ were extracted in ‘relational communication studies’. In ‘technology criticism’ area, ‘AI, posthuman, digital, education, technology, and robot’, and in ‘data analysis’ area, ‘AI, machine learning, education, text mining, big data, and language network’ were identified as a high-frequency vocabulary. In ‘socio-cultural studies’, there are ‘AI, digital, humanities, education, history, and digital humanities’, in ‘ethical norms’, ‘AI, ethics, robots, morality, technology, and education’ were, and in ‘pedagogy’, ‘AI, education, literacy, and liberal arts education’ were respectively extracted as a high-frequency vocabulary. This study attempts to determine the current state of artificial intelligence humanities. Although six years is not a long time for the establishment and development of an academic discipline, it is meaningful because it confirms the position of a new academic discipline and the direction of future research. Humanities can no longer be understood as separate from technology; at this point in time, when fundamental questions are being asked about the boundary between humans and machines, efforts are needed to more actively understand technology and convergence methods to protect human dignity and explore ways to build a healthy society. Thus, the current state of artificial intelligence humanities research will serve as an important foundation for future thinking and planning. 이 연구의 목적은 키워드 네트워크 분석을 활용하여 ‘인공지능인문학’의 연구 동 향을 확인하는 데 있다. 인공지능인문학은 단순히 인공지능과 인문학의 융합이 아니 다. 인문학의 관점에서 인공지능 시대를 해석하고, 인공지능 기술을 활용하여 사회 를 분석하고자 하는 융합적 학문 분야이다. 인공지능인문학을 시작하고 연구해 온 중앙대학교 인문콘텐츠연구소 구성원의 연구 성과 중심으로 그 성과들을 인용한 논 문과의 관계 속에서 연구 영향성을 파악하고자 키워드 네트워크 분석을 실시하였다. 인공지능인문학의 5개 연구영역인 관계소통학, 기술비평학, 데이터해석학, 사회문화 학, 윤리규범학에 교육학 분야를 추가하여 총 6개 연구영역에서의 고빈도 어휘를 추출한 결과 관계소통학에서는 ‘메타버스, AI, 교육, 가상, 공공언어, 한국어’가, 기술 비평학에서는 ‘AI, 포스트휴먼, 디지털, 교육, 기술, 로봇’이, 데이터해석학에서는 ‘AI, machine learning, 교육, 텍스트 마이닝, 빅데이터, 언어 네트워크’가 상위빈도 어휘 로 확인되었다. 사회문화학에서는 ‘AI, 디지털, 인문학, 교육, 역사, 디지털인문학’이, 윤리규범학에서는 ‘AI, 윤리, 로봇, 도덕, 기술, 교육’이, 교육학에서는 ‘AI, 교육, 리 터러시, 교양교육, literacy, education’이 상위빈도 어휘로 추출되었다. 이번 연구는 인공지능인문학의 현재를 확인하기 위한 시도였다. 6년이라는 기 간이 학문의 정착과 발전에 긴 시간은 아니지만 신생 학문의 위치를 확인하고 미래 연구의 방향성을 확인한다는 점에서 의미를 가진다. 인문학은 더이상 기술 과동떨어진상태로이해될수없고, 인간과기계의경계에대한근원적물음을 던지고 있는 이 시점에서 인간의 존엄을 지키고 건강한 사회를 만드는 방법을 탐구하기 위해서 기술, 그리고 융합의 방법을 더욱 적극적으로 이해하려는 노력 이 필요하다. 이러한 점에서 인공지능인문학 연구의 현재는 미래를 고민하고 계 획하는 데 중요한 토대가 될 것이다.

인공지능에 의한 사이보그 형 자동화 의사결정에 대한 고찰

양종모 충북대학교 법학연구소 2021 과학기술과 법 Vol.12 No.1

Artificial intelligence research started with computers trying to take the place of what humans have to do intelligently. Research started in the 1950s went through several ups and downs and reached the same period of the third boom as it is now. With the shocking situation where Alpha Go defeated Lee Se-dol, the strongest player in Go, in 2016, interest in artificial intelligence increased rapidly, and stories about the future situations that artificial intelligence will bring about, such as the possibility and singularity of artificial intelligence, are talked about even among the general public. Certainly, artificial intelligence has the potential to fundamentally change the way humans live, not just technological advances. The real value of artificial intelligence algorithms is prediction. At the center of all the algorithmic revolutions that have taken place in the various fields of modern society, there is one unchanging purpose: prediction. The algorithm for predicting the risk of recidivism used in US law enforcement fits precisely with the principle that individual humans behave in a predictable and consistent manner. While using the algorithm of predicting the risk of a second offender, an artificial intelligence algorithm, not a judge, actually takes the place of the defendant's decision on whether or not to be arrested or sentenced. Automated decision making continues to grow at an unprecedented rate and benefits because machine learning offers the possibility to extend the automated decision-making process, allowing wider, deeper decisions without human intervention. It is also very large and is expected to continue to expand its use. However, the risks are as great as the benefits of artificial intelligence algorithms. The risks of artificial intelligence algorithms outweigh the individual risks of any algorithmic technology specifically applied. Despite the widespread use of artificial intelligence in the social sphere, the reality is that the problems of artificial intelligence cannot be properly grasped. However, people who were treated differently due to automatic decision-making by artificial intelligence began to question the fairness or fairness of artificial intelligence, and in particular, while causing sensitive problems such as discriminatory results, controversy surrounding artificial intelligence algorithms gradually became more and more controversial. It is expanding. Even if a decision made by artificial intelligence is wrong or causes negative effects such as discrimination, there is a big problem that there are few means to object to this. In a situation where automated decision-making is more likely to threaten human autonomy and dignity, in order to secure an individual's autonomous personality, make sure that the entire process of the individual's automatic decision-making that affects him or her is fair and error-free. It is of utmost importance to know and allow humans to directly intervene if necessary. Although available data is increasing and algorithms are gradually improving, artificial intelligence algorithms do not completely eliminate the uncertainty posed by decision making. Eventually, there are cases in which humans, as finalists, have to make important decisions in situations where uncertainty has not been resolved. It is necessary to build a system in which artificial intelligence algorithms and human experts cooperate well to make the best decisions, and in addition to the direction of such a collaboration system establishment, the problem of legal responsibility due to errors in decision-making in artificial intelligence algorithms or collaboration systems is necessary. I want to deal with it in this paper.

인공지능시대 인간의 특성과 유가철학의 관계론

이철승 동양철학연구회 2022 東洋哲學硏究 Vol.112 No.-

In the 21st century, mankind has developed 'artificial intelligence', which is distinguished from 'natural intelligence' by utilizing cutting-edge scientific technologies such as cognitive science, brain science, biotechnology, and nanotechnology. Many scientists and futurists predict that in the near future, ‘strong artificial intelligence’, which symbolizes the ‘posthuman’ era, will appear. This 'strong artificial intelligence' will be equipped with emotions, creativity, reason, morality, free will, and autonomy, which have been considered domains unique to human beings so that it can transcend humans in terms of intelligence and capabilities. The advent of ‘robo sapiens’ as such throws fundamental questions about the previous of humanity and raises the necessity to seek a new ethic of relation. This calls for deep reflection on the modernist thinking that has developed modern civilization through instrumental reason from the viewpoint of anthropocentricism. That is, this requires reflection on the personality possessed by artificial intelligence and seeking for a new view of humans that will replace the modern view of the humans from the perspective of non-anthropocentricism. In this case, humans equipped with natural intelligence, and artificial intelligence, which is not humans but is equipped personality, should pursue horizontal relationships with each other rather than forcing a vertical sense of order. However, although artificial intelligence appears to be independent of humans, it is difficult to completely exclude the influence of competent scientific technologists who can operate state-of-the-art systems. This means that when a conflict between humans and artificial intelligence occurs, it may appear to arise from the relationship between humans and artificial intelligence, but may reflect the relationships between humans in some cases. The Confucian philosophy not only acknowledges and respects each other's differences, but also seeks to build a community through organic communication between differences. According to the 21st century Confucian philosophy, when humans enter into relations with each other and when humans enter into relations with artificial intelligence, they should treat each other as purposes rather than means through instrumental reason, and solve the problem of differences from each other through democratic consultation and agreement to construct a peaceful society together. 21세기에 인류는 인지과학, 뇌과학, 생명공학, 나노기술 등 최첨단 과학기술을 활용하여 ‘자연지능’과 구별되는 ‘인공지능’을 개발하였다. 많은 과학자와 미래학자들은 머지않아 ‘포스트휴먼’을 상징하는 ‘강한 인공지능’이 출현할 것으로 예측한다. 이 ‘강한 인공지능’은 인간의 고유 영역으로 여겨지던 감성, 창의성, 이성, 도덕적 판단, 자유의지, 자율성 등을 갖추어 지능과 역량 면에서 인간을 초월할 수 있다. 이러한 ‘로보 사피엔스’의 도래는 기존의 인간관에 근본적인 물음을 던지며 새로운 관계 윤리를 모색할 필요성을 제기한다. 이는 인간중심주의의 관점에서 도구적 이성을 통해 근대 문명을 발전시켜왔던 모더니즘적 사유에 대해 깊게 성찰할 것을 요청한다. 곧 탈인간중심주의의 관점에서 인공지능이 갖추고 있는 인간의 특성에 대한 성찰과 근대적인 인간관을 대체할 새로운 인간관의 모색을 필요로 한다. 이때 자연지능을 갖춘 인간과 인간의 특성을 갖춘 인공지능은 서로에 대해 수직적인 질서의식의 강요가 아니라, 수평적인 관계를 지향해야 한다. 그런데 인공지능은 인간과 독립되어 있는 것처럼 보이지만, 최첨단 시스템을 운영할 수 있는 유능한 과학기술자의 영향력을 완전히 배제하기 어렵다. 이는 쌍방 간에 갈등 문제가 발생할 경우, 현상적으로 인간과 인공지능의 관계에서 발생하는 것처럼 보일 수 있지만, 인간과 인간의 관계를 반영하는 경우도 있을 수 있음을 의미한다. 유가철학은 서로의 다름을 인정하고 존중할 뿐만 아니라, 다름과 다름의 유기적인 소통을 통해 공동사회를 건설하고자 한다. 21세기형 유가철학에 의하면 인간과 인간 및 인간과 인공지능이 관계할 때, 서로에 대해 도구적 이성을 통한 수단이 아니라 목적으로 대하고, 민주적인 협의와 합의를 통해 서로의 차이 문제를 해결하여 평화로운 사회를 함께 건설해야 한다.

제4차 산업혁명시대 인공지능의 의사결정과 인격권 보장

정애령(Ae Ryung Jung) 한국부패학회 2023 한국부패학회보 Vol.28 No.1

4차산업혁명 시대의 핵심어는 단연 인공지능이다. 빅데이터에 기반한 인공지능의 결정은 다량의 데이터를 빠르게 검토하여 시간과 비용을 줄여 업무처리의 효율성을 높인다. 이에 따라 사회의 전 영역에서 인공지능 기술이 이용되기 시작했고, 기업의 인사관리영역에서도 회사의 특정 요구사항에 따라 업무를 최적화할 수 있을 뿐 아니라, 신뢰와 공정에 의구심을 제기하는 채용 관련 비리 및 비위행위에 맞서 반부패정책도구로서 기대된다. 그러나 인공지능에 대한 적절한 통제가 없는 경우 인공지능은 오히려 편견을 강화하고, 구직자의 개인정보를 침해할 수 있다. 인공지능의 결정에 기반이 되는 데이터는 오랜 시간 축적된 것이므로, 과거 인종과 성별 또는 일정 그룹에 대한 차별과 편견이 그대로 드러나거나, 알고리즘 설계에 반영될 수 있기 때문이다. 더욱이 인공지능의 의사결정과정은 스스로 학습을 거쳐 일반적으로 이해할 수 있는 절차와 근거가 제시되기 어렵기 때문에, 반박하거나 교정하기 어려운 상태에서 기계의 결정을 인간이 그대로 받아들여야 하는 주객전도의 상황이 발생한다. 지능정보사회에서 인공지능이 점점 더 중요한 결정을 내리게 됨에 따라, 자동화된 의사결정이 행사하는 이른바 알고리즘 권력이 어떤 문제를 수반하고 이를 어떻게 적절히 통제할 것인지가 중요한 과제가 된다. 따라서 첨단기술의 효용성을 극대화하되, 인간의 존엄과 가치가 훼손되지 않으며 인공지능을 이용할 방법을 강구하여야 한다. 인공지능의 의사결정에 대한 인격권 보장방안으로, 유럽 개인정보보호규정을 참고하여 인공지능의 배타적 결정을 제한하고 최종적 결정 권한은 인간에게 두어야 한다. 또한 인공지능을 이용한 채용과정에서 발생하는 법적 윤리적 문제에 대하여 감사기관과 정부, 윤리위원회 및 심리 전문가까지 신중한 분석에 따른 지침설정이 필요하다. 나아가 인공지능 기술이 가진 문제점을 인지하여 기술적 보완을 위해 힘써야 할 것이나, 기술이 가진 위험성을 예방하고 감시할 수 있는 실효적인 구체적 절차의 마련이 더욱 절실하다. 채용과정은 자아실현의 수단인 직업을 갖게 되는 첫 단계인 만큼 기회의 균등과 직무능력에 따른 평가가 중요하다. 인공지능 및 기술발전을 저해하지 않으면서 노동법과 개인정보보호법이 추구하는 법익을 실현하기는 쉽지 않을 것이나, 법학적 철학적 기술적 전문가의 치열한 논의를 통해 지침이 되는 실용적이고 균형잡힌 명확한 법률을 만들어지기를 기대한다. 가장 중요한 명제는 인공지능은 인간의 결정을 돕는 도구이고, 그것의 윤리는 항상 도구를 만드는 사람에 달려 있다는 것이다. The key word in the era of the Fourth Industrial Revolution is definitely AI(Artificial Intelligence). Artificial intelligence's decision based on big data increases the efficiency of work processing by quickly reviewing a large amount of data and reducing time and cost. As a result, artificial intelligence technology has begun to be used in all areas of society, and it is expected to be an anti-corruption policy tool against hiring-related corruption and irregularities that raise doubts about trust and process. However, if there is no proper control over artificial intelligence, artificial intelligence can rather strengthen prejudice and infringe on job seekers' personal information. This is because the data based on artificial intelligence's decisions have been accumulated for a long time, so discrimination and prejudice against race, gender, or certain groups in the past can be revealed or reflected in algorithm design. Moreover, since artificial intelligence's decision-making process is difficult to present procedures and grounds that can be generally understood through self-learning, there is a situation in which humans have to accept machine decisions as they are in a difficult state to refute or correct. Therefore, while maximizing the utility of high-tech technology, it is necessary to find a way to use artificial intelligence without damaging human dignity and value. As a way to guarantee the personal rights of artificial intelligence's decision-making, the exclusive decision of artificial intelligence should be limited by referring to the European Personal Information Protection Regulations and the final decision authority should be placed on humans. In addition, it is necessary to set guidelines based on careful analysis by audit agencies, the government, ethics committees, and psychological experts for legal and ethical problems that arise in the hiring process using artificial intelligence. It is more urgent to prepare effective specific procedures to prevent and monitor the risks of technology. As the hiring process is the first step in getting a job, which is a means of self-realization, evaluation according to equality of opportunities and job competency is important. We hope that practical and balanced clear laws will be created through intense discussions by legal, philosophical and technical experts. The most important proposition is that artificial intelligence is a tool that helps humans make decisions, and its ethics always depend on the person who makes the tool.

포스트휴먼과 지능 담론(3) - 인간과 인공지능의 비교를 중심으로

김휘택 제주대학교 탐라문화연구원 2022 탐라문화 Vol.- No.69

The purpose of this paper is to critically organize the issues that can be found in the comparative discourse between human intelligence and artificial intelligence, and to examine whether these issues are properly set through related studies. In relation to the human brain, we examined whether the concepts of 'knowledge' and 'consciousness' are appropriate for comparison. The knowledge accumulated by humans does not only refer to data learned about the outside world. It is worth noting that knowledge is the basis for judging actions. The historical and social values ​​of actions based on knowledge, not knowledge itself, define intellectuals. Next, with respect to the mechanism of action of the human brain, being 'conscious' does not simply mean being awake. We next examined whether artificial intelligence and human intelligence could be compared. The 'separation of consciousness and intelligence' clearly shows that the development directions of artificial intelligence and human intelligence are different. Artificial intelligence aims for accuracy, and human intelligence for creativity. Therefore, it can be seen that their comparison is unreasonable in that human intelligence uses depth and artificial intelligence speed as its evaluation criteria. Lastly, although artificial intelligence does not reveal concrete reality, it exists in our society as an existence that has already surpassed humans in discourse. Not all promises about the future of science and technology are being kept. The appearance of artificial intelligence predicted by science is only a promise for the future. However, contradictory comparisons between humans and artificial intelligence continue, and humans are discovering themselves anew through the comparison. 본 논문의 목적은 인간 지능과 인공지능의 비교 담론에서 발견할 수 있는 논점들을 비판적으로 정리하고, 이 논점들의 적절하게 설정되었는지 관련 문헌들을 통해 살펴보는 데 있다. 인간의 뇌와 관련하여, 우리는 ‘지식’과 ‘의식’ 이라는 개념이 비교의 기준으로 적절한지에 대해 고찰하였다. 인간이 축적한 지식은 외부 세계에 대해 학습한 데이터만을 가리키지 않는다. 지식 자체가 아니라 지식을 바탕으로 한 행위의 역사적⋅사회적 가치가 지식인을 규정한다. 다음으로, 인간 뇌의 작동 기제와 관련하여, ‘의식’이 있다는 것은 단순히 깨어있다 것을 의미하지 않는다. 그리고 무의식과 의식은 인공지능과의 비교의 지점이 될 수 없다. 우리는 다음으로 인공지능과 인간 지능이 비교의 대상이 될 수 있는지 검토했다. ‘의식과 지능의 분리’는 인공지능과 인간 지능의 발전 방향이 다르다는 것을 보여준다. 인공지능은 정확성을, 인간 지능은 창의성을 지향한다. 즉, 인간 지능은 깊이, 인공지능은 속도를 그 평가 기준으로 삼는다는 데서, 이들의 비교는 합리적이지 못하다는 것을 알 수 있다. 마지막으로, 우리는 과학기술의 미래에 관한 약속들이 모두 지켜지는 것은 아니라는 사실을 보았다. 과학이 예견하는 인공지능의 형상은 미래의 약속일 뿐이다. 하지만 인간과 인공지능의 모순된 비교는 계속되고 있고, 인간은 그 비교를 통해 자신을 새롭게 발견해 가고 있다.

인공지능과 민주주의에 관한 소고

윤수정 헌법재판연구원 2021 헌법재판연구 Vol.8 No.2

In the era of Phono Sapiens, where everything is solved with a smartphone, artificial intelligence (AI) is closely permeating our lives. Now, the problem of artificial intelligence is not a problem of “if,” but a realistic problem that has to deal with “how fast” and “to what extent” to allow, and is developing into an important problem that can determine the daily life of the national community and even the future of mankind. As artificial intelligence advances into various areas of human life, another notable area is politics. As politics became digital, the political subject changed to a large number of citizens, various political agendas were raised, and the way of political participation changed. The development of artificial intelligence also poses various opportunities and risks in relation to democracy. Democracy, a constitutional principle that seeks to realize the thoughts of individual freedom and self-determination within the national community, is essentially realized through representative democracy. However, in reality, representative democracy faced a crisis due to the distortion of democratic representation and accountability, and the continued COVID-19 situation accelerated this. Artificial intelligence is being used to overcome the limitations of representative democracy, but its influence is like a double-edged sword. Although positive effects such as strengthening universal information access, easing representative democratic limits, building artificial intelligence governance, expanding the realm of human freedom, and increasing political fairness are expected, there are side effects such as the emergence of a new surveillance society, distortion and insufficiency of political opinion. Therefore, in order for artificial intelligence to coexist with democracy, a normative response aimed at minimizing side effects from a democracy perspective is necessary. The basic principle of this normative response should be ‘Human-Centered Artificial Intelligence’. Human dignity should be respected in all stages of artificial intelligence design, development, and utilization, and artificial intelligence should only be used as a means of supplementing human autonomy. It is time to actively think about what to do with artificial intelligence rather than what can be done with artificial intelligence to realize democracy. 스마트폰 하나면 모든 것이 해결되는 포노 사피엔스(Phono Sapiens)의 시대, 인공지능(AI)은 우리의삶에 밀접하게 스며들고 있다. 이제 인공지능의 문제는 ‘만약(if)’의 문제가 아닌 ‘얼마나 신속하게(how fast)’, 그리고 ‘어느 범위까지(to what extent)’ 허용할 것인가를 다루어야 하는 현실적인 문제이며, 국가공동체의 일상, 나아가 인류의 미래를 좌우할 수 있는 중요한 문제로 발전하고 있다. 인공지능이 인류의 삶의 다양한 영역으로 진출하면서 또 하나 주목할 만한 영역은 정치이다. 정치가디지털화되면서 다수의 국민으로 정치 주체가 변화하였고, 다양한 정치 의제가 제기되었으며, 정치 참여의 방식이 변화되었다. 이러한 디지털 정치는 이제 인공지능을 정치에 활용하는 것으로 발전하고 있다. 인공지능의 발전은 민주주의와의 관계에서도 다양한 기회와 위험을 내포하고 있다. 개인의 자유와 자기결정의 사고를 국가공동체 내에서 실현하고자 하는 헌법원리인 민주주의는 본질적으로 대의민주주의를 통해 실현된다. 그러나 현실에서 대의민주주의는 민주적 대표성과 책임성의 왜곡이발생하면서 위기에 직면하였고, 지속된 코로나19 상황은 이를 가속화시켰다. 이러한 대의민주주의의 한계를 극복하기 위해 인공지능이 활용되고 있지만, 그 영향은 양날의 칼과 같다. 보편적인 정보접근성이강화, 대의민주주의 한계의 완화, 인공지능 거버넌스 구축, 인간의 자유 영역 확대, 정치의 공정성 증대등의 긍정적 효과가 기대되기도 하지만, 새로운 감시 사회의 출현, 정치적 의사형성의 왜곡과 불충분성초래, 소수 디지털 기업에의 권력 집중 등의 부작용도 간과(看過)할 수만은 없다. 그러므로 인공지능이민주주의와 공존(共存)하기 위해서는 민주주의 관점에서 유익한 목적의 인공지능의 개발은 장려하면서도 부정한 목적의 개발과 이용, 그리고 부작용을 최소화하는 것을 목표로 하는 규범적 대응이 필요하다. 그리고 이러한 규범적 대응의 기본원칙은 ‘인간 중심의 인공지능’이 되어야 한다. 인공지능의 설계, 개발 및 활용의 전 단계에서 인간의 존엄성을 존중하여야 하며, 인공지능은 인간의 자율성을 보완하는 수단으로서만 활용되어야 한다. 이제 민주주의 실현을 위해 인공지능으로 무엇을 할 수 있는지보다 인공지능으로 무엇을 해야 하는지를 적극적으로 고민해야 할 시점이다.

인공지능이 인간 같은 행위자가 될 수 있나?

최경석 한국생명윤리학회 2020 생명윤리 Vol.21 No.1

이 글은 인공지능과 인간 지능의 차이가 무엇인지 논의함으로써 인공지능의 존재론적 지위와 인간의 특징이 무엇인지 밝히고자 한다. 최근 알파고의 등장에서처럼 인공지능은 컴퓨터가 상호 연계되며 빅 데이터 기술과 딥 러닝 기술까지 포함하는 형태로 발전하였고 계산의 영역뿐만 아니라 감성의 영역까지 포함하는 것으로 발전하고 있다. 그러나 인공지능은 인간의 감성을 흉내낼 뿐이다. 왜냐하면 감정이나 정서의 영역은 진정성이 중요하게 작동하는 영역으로서 감정을 표출하는 자의 주체성과 총체적 인격성이 전제되어야 하기 때문이다. 또한 인간의 뇌가 수행한 기능은 생존을 위한 것이다. 지능 역시 생존을 위한 문제해결능력으로 정의될 수 있다. 이런 점에서 인공지능은 진정한 지능이라 여길 수 없다. 인공지능이 인간과 같은 진정한 지능을 갖추기 위해서는 인공지능이 자신이 처한 환경에서 생존하려는 문제해결능력의 발휘로서 지능을 사용해야 하기 때문이다. 그러나 인공지능이 생존하려는 욕구를 지니고 있다고 판단하기는 아직 이르다. 게다가 인공지능이 인간과 같은 자의식이라는 고도의 지능을 지니고 있다거나 지닐 것이라고 보기도 어렵다. 인간의 자의식은 생물체로서의 유한성을 인식하고 다른 인간과의 연대와 협력을 통해 자아정체성과 함께 타자성을 인식하는 매우 고차원적인 지능 활동이다. 이와 같이 인간 지능과 인공지능의 차이는 인공지능이 의도를 지닌 행위자로 인식되기 어렵다는 판단에 이르게 하며, 도덕적 행위자로 인식되기는 더욱 어렵다고 본다. 인공지능을 인간처럼 여기는 태도나 기획은 오히려 인간이 인공지능과 어떻게 다른지를 보여주고 있다. This paper aims to clarify the ontological status of artificial intelligence and features of human intelligence by dealing with the difference between them. Recently, as AlphaGo shows, artificial intelligence has the network of computers and adopts deep learning technology with big data. Further, artificial intelligence is introduced to the scope of emotion as well as to that of calculation. However, artificial intelligence just imitates human emotion because subjectivity and holistic personality of emotion exposer must be presupposed and because emotion plays a role with authenticity. the function of human brain is to make a human being survive. Human intelligence can be defined as a problem-solving capacity for survival. Thus, artificial intelligence is not the same as human intelligence. In order for artificial intelligence to be an human intelligence, it uses its intelligence for its problem-solving for survival. But it is hard to say that artificial intelligence has a desire to survive. In addition, it is also hard to say that artificial intelligence has or will have self-awareness like human being’s. Human self-awareness is a very high level of intelligence activity in which a human being recognizes one’s finitude as a biological organism and one’s self identity as well as otherness through the cooperation with others. The difference between artificial intelligence and human one leads us to think that an artificial intelligence cannot become an agent with intention and not even moral agent. The attitude or project to consider artificial intelligence to be an human intelligence is only to show that there are big differences between them.

인공지능과 관련된 기독교교육 연구동향 분석

손정위 한국기독교교육정보학회 2024 기독교교육정보 Vol.- No.80

이 연구의 목적은 인공지능과 관련된 기독교교육의 연구 동향을 알아보고 그 동향들을 통해 앞으로의 기독교교육의 연구의 방향과 시사점을 논의하는 것이다. 2023년 12월을 기준으로, 한국학술지색인(KCI)과 DBPIA 등에서 인공지능과 기독교교육을 키워드로 해서 검색한 논문 73편중에서 본 연구에 적합한 37편의 학술논문을 분석 대상으로 삼았다. 연구결과로는 철학(세계관, 신학, 윤리, 인식론)적 접근을 다룬 연구는 37개의 논문 중 6개가 나타나서 약 16%를 차지하였고, 주된 내용은 인공지능 활용의 준비 작업으로 기독교 세계관의 정립의 필요성, 공동체, 리더십, 기독교 전통, 초월적 경험의 강조 등으로 나타났다. 인간론적 접근을 다룬 연구는 37개의 논문 중 9개가 나타나서 약 24%를 차지하였고 그 주된 내용은 인간됨의 강조인데, 하나님과의 관계에서의 인간됨을 중시하고 포스트휴머니즘, 트랜스휴머니즘에 대해서는 하나님의 형상으로서의 인간관을 통한 비판적 수용을 강조하였고, 인공지능과의 대화의 주체로서의 인간을 상정하고 있다. 교수-학습론적 접근을 다룬 연구는 37개의 논문 중 15개가 나타나 약 40%의 비율로 나타나고, 제일 많이 연구된 분야가 되었다. 그 주요 내용들은 인공지능 활용을 위한 혁신적 교수법(플립러닝, 브랜디드러닝 등)의 활용, 인공지능 활용을 위한 실무 교육의 필요성, 인공지능을 활용한 구체적 교육과정 형성, 학습에 있어서 인간만의 특성(상상력, 복잡함, 부정성 등)의 강조 등으로 나타났다. 교회교육 및 신앙교육을 다룬 논문은 37개의 논문 중 5개가 나타나 약 13% 비율을 차지하였다. 교회 현장의 신앙교육을 위한 인공지능을 활용한 구체적인 프로그램 개발 및 활용에 관한 연구들이 진행되었다. 신학교육을 다룬 논문은 37개의 논문 중 2개가 나타나서 약 5%의 비율을 차지하였다. 기독교교육 지도자 혹은 교회 사역자들을 위한 인공지능 교육의 필요성이 강조되었다. 논의 및 연구주제 제언으로는 철학적 접근에서는 인공지능 시대 융합과 상생, 새로운 기독교 세계관의 정립을 위한 다학문적 접근의 필요성이 제시되었다. 인간론적 접근에서는 기독교교육에서 학생과 교사의 인공지능에 대한 인식 연구와 활용에 있어서 가능성과 한계에 대한 실증 연구의 필요성, 포스트휴먼에 대한 전향적인 연구, 태생적 디지털 세대인 다음세대(MZ) 이해 및 연구 필요성이 제시되었다. 교수-학습론적 접근에서는 인공지능활용을 위한 혁신적인 교수법(플립러닝, 블렌디드러닝 등)의 다각적 활용 강조, 인공지능 활용을 위한 실무 교육의 필요성, 인공지능 활용을 위한 구체적 교육과정 형성의 강조, 학습에 있어서 인간만의 특성(환대, 연민, 복잡성, 부정성 등)에 대한 심도 있는 연구의 필요성, 진정한 학습 공동체 형성에 대한 연구의 필요성 등이 제시되었다. 교회교육 및 신앙교육의 접근에서는 교사의 인공지능 실무역량 개발, 교사의 코칭과 퍼실리테이션의 역량 개발 필요성 등이 제시되었다. The purpose of this study is to find out trends in research on artificial intelligence related to Christian education and to discuss the direction and implications of future research in Christian education through those trends. Among 73 papers searched using keywords such as artificial intelligence and Christian education in Korea Journal Index (KCI) and DBPIA, 37 papers suitable for this study were analyzed. As a result of the research, studies dealing with philosophical approaches(worldview, ethics, epistemology) appeared in 6 out of 37 papers, accounting for about 16%, and the main contents were the need to establish a Christian worldview and community as a preparatory work for the use of artificial intelligence, and an emphasis on leadership, Christian tradition and transcendental experience. Studies dealing with the humanistic approach accounted for about 24%, with 9 out of 37 papers appearing. The main content is the emphasis on being human, emphasizing being human in relationship with God, and post-humanism and trans-humanism are need to criticized in the view of humanity as the image of God. It assumes humans as the role of initiative of dialogue with artificial intelligence. Studies dealing with teaching and learning approaches appeared in 15 out of 37 papers, accounting for about 40%, and became the most researched field. The main contents are the use of innovative teaching methods(flipped learning, blended learning, etc.) for the use of artificial intelligence, the need for practical education for the use of artificial intelligence, the formation of a specific curriculum in terms of artificial intelligence, and the unique characteristics of humans in learning(imagination, complexity, negativity, etc.). Papers dealing with church education and religious education appeared in 5 out of 37 papers, accounting for approximately 13%. Studies have been conducted on the development and use of specific programs using artificial intelligence for faith education in church settings. Papers dealing with theological education appeared in 2 out of 37 papers, accounting for approximately 5%. The need for artificial intelligence education for Christian education leaders(church ministers) was emphasized. As a discussion and research topic suggestion, the need for a multi-disciplinary approach to establish a new Christian worldview for convergence and coexistence in the era of artificial intelligence was presented from a philosophical approach. In the humanistic approach, the need for empirical research on possibilities and limitations in studying about students and teachers' perceptions of artificial intelligence in Christian education, prospective research on post-humans, and understanding of the next generation (MZ), the native digital generation were presented. In the teaching and learning approach, emphasis is placed on the use of innovative teaching methods(flipped learning, blended learning, etc.) for the use of artificial intelligence, the need for practical education for the use of artificial intelligence, and forming a specific curriculum using artificial intelligence were presented. The need for research on unique characteristics (hospitality, compassion, complexity, negativity, etc.) and the need for research on forming a true learning community were presented. In the approach to church education and faith education, the need to develop teachers' artificial intelligence practical capabilities and teachers' coaching and facilitation capabilities were presented.