예술에서 살펴본 인공지능의 미래 산업화 가능성 – 영화와 인공지능 예술을 중심으로

김희영 한국만화애니메이션학회 2018 만화애니메이션연구 Vol.- No.50

The possibility of future industrialization of artificial intelligence was studied through aspects of artificial intelligence art and movie. The field of artificial intelligence is developing by imitating humans through past and present, so it can be inferred that it is important to grasp the future image presented in movie and artificial intelligence art. Human values are represented differently in artificial intelligence films and arts. Artificial intelligence film and art are concerned with the external and internal aspects of human values, respectively. The AI movie looks at similar external aspects in human and AI shape and function, but artificial intelligence art deals with human alienation and lack of communication due to artificial intelligence technology development. Artificial intelligence in movies is a direction to visualize the imagination for artificial intelligence technology, and artificial intelligence art is expressed in the way of making and implementing works using technology. The future of artificial intelligence, which we have shown in imagination in movies today, is being realized technologically. Artificial intelligence art reflects the problems of artificial intelligence technology that can be appeared through current technology, and human problems that may arise from artificial intelligence technology development. Movies and artificial intelligence art reflect the current problems, and through them we can see the future of artificial intelligence. The future of artificial intelligence in movies is an artificial intelligence service that provides human convenience, cyborg artificial intelligence industry, industry that uses exoskeleton robot and exoskeleton suit, and artificial intelligence secretary. If we look at the future of artificial intelligence through the artificial intelligence art in terms of the problems of artificial intelligence technology and the problem of human value, there are artificial intelligence to learn from trial and error or mistakes, self-expression and communication by lifelogging, recovery of miscommunications by a reflective thinking, and an expansion of the area of artificial intelligence artist through human uncertainty. The future industrialization potential of artificial intelligence as study through aspects of artificial intelligence art and movie is an industry that extends the five senses, an industry that improves the insufficient physical ability of the human, an industry that enhances the physical ability of the human being, and an industry that maintains psychological and mental well-being. 인공지능의 미래 산업화 가능성을 인공지능 예술과 영화를 통해서 연구하였다. 인공지능 분야는 과거와 현재를 통해 인간을 모방하여 발전하고 있으므로 영화와 인공지능 예술에서 제시하는 미래상을 파악하는 것이 중요하다고 유추할 수 있을 것이다. 인간의 가치는 인공지능 영화와 예술에서 다르게 표현된다. 인공지능 영화와 예술은 각각 인간 가치의 외적인 면과 내적인 면에 관심을 가진다. 대체로 영화는 인간과 인공지능의 형체와 기능 등에서 서로 유사한 외형적인 측면을 바라보지만, 인공지능 예술은 인공지능 기술 발전에 기인한 인간의 소외와 소통의 부재에 대해 다룬다. 영화에서의 인공지능은 인공지능 기술에 대한 상상을 시각화하는 방향으로, 인공지능 예술에서는 기술을 활용하여 작품을 제작하여 구현하는 방식으로 발현된다. 오늘날 영화에서 상상력으로 보여준 인공지능의 미래는 기술적으로 실현되고 있다. 인공지능 예술은 주로 현재 기술을 통해 나타날 수 있는 인공지능 기술의 문제와 인공지능 기술발전에서 야기될 수 있는 인간적인 문제를 반영하고 있다. 영화와 인공지능 예술은 전반적으로 현재의 문제를 반영하고 있어 그것들을 통해 인공지능의 미래를 조망할 수 있을 것이다. 영화에서 살펴본 인공지능의 미래상은 인간의 편의를 제공하는 인공지능 서비스형태, 사이보그 인공지능 산업, 외골격 로봇과 외골격 슈트를 활용한 산업, 인공지능 비서 등의 산업이다. 인공지능 예술을 통해 인공지능 기술의 문제점과 인간의 가치문제의 관점으로 인공지능의 미래상을 고찰하면, 실수를 통해 생각하는 인공지능, 라이프로깅의 활용을 통해 자신과 소통하고, 반성적 사고를 통하여 소통의 실패를 만회하며, 인간적인 우연성을 통해 인공지능 예술가의 영역을 확장하는 형태 등이 있을 수 있다. 따라서 영화와 인공지능 예술을 통해 연구한 인공지능의 미래 산업화 가능성은 인간의 오감 영역을 확장하는 산업, 인간의 부족한 신체 능력을 향상하는 산업, 인간의 신체적 능력을 향상하는 산업, 인간의 심리적 정신적 영역을 치유하는 산업이다.

비즈니스 영역에서 인공지능 기술의 활용과 인공지능 윤리

배재권 한국지식정보기술학회 2022 한국지식정보기술학회 논문지 Vol.17 No.6

Artificial intelligence is leading the convergence of technologies and industries by converging with various original technologies in the era of the 4th industrial revolution. Technology convergence is a series of processes that collect large amounts of data (Big Data) through the Internet of Things (IoT) and wearable devices, store and manage data in the cloud server, and extract meaningful big data using artificial intelligence. The development of artificial intelligence is accelerating, and the applicability of artificial intelligence technology in the business field is also increasing. In this study, the applicability of artificial intelligence-based predictive analysis models is reviewed in business areas, and artificial intelligence application business areas (requirement forecasting and R&D optimization areas, product and service cost reduction and quality improvement, product and service promotion optimization areas, personalization provided user experience) was derived. In addition, five principles of artificial intelligence ethics were presented to minimize the side effects of artificial intelligence technology and reduce the failure factors of artificial intelligence introduction. Artificial intelligence should be constructed for the public welfare and advantage(profit) of mankind. Artificial intelligence must operate according to the principles of transparency and fairness. Artificial intelligence should not violate the data basic law (rights) or privacy of individuals, interest group and communities. All citizens should have the right to be educated to enjoy mental, emotional and economic prosperity through artificial intelligence. Never endow artificial intelligence with autonomous powers to harm, destroy, or deceive humans.

인공지능과 규범창설 ―입법평가를 예로 하여―

양천수 한국법철학회 2023 법철학연구 Vol.26 No.2

This article explores whether artificial intelligence can be used in the area of ​​legislative evaluation. As the ChatGPT is showing, the technological level and capabilities currently shown by artificial intelligence are astonishing. In the area of linguistic communication, artificial intelligence is now not only communicating like humans, but also is showing professional achievements in areas that require professional capabilities, such as medical care, administration, judicial decision making and interviews. As a result, the fear that artificial intelligence will replace the professional field performed by humans is now becoming a real risk. In that situation, this article examines whether artificial intelligence can be used for legislative evaluation that requires high professional competence, such as medical, administrative, judicial and interview, and if so, how the scope can be defined, and what limitations there are. To this end, this article first identifies what legislative evaluation means (II) and what capabilities are required to carry out such legislative evaluation (III). Next, by examining the level of technology AI has reached at present, it is examined whether AI has the necessary capabilities to conduct legislative evaluation (IV). Then, in order to verify whether artificial intelligence can actually be used for legislative evaluation, this article handles the question of how artificial intelligence can or is used in the medical, judicial, administrative and interview areas (V). Based on this, it is reviewed in which areas artificial intelligence can be used during legislative evaluation and what additional requirements are necessary for this (VI). This article reaches the following conclusions. Considering the current technological level, there is a clear possibility of using artificial intelligence for legislative evaluation. However, this should be limited to areas such as quantitative evaluation. In addition, governance and legal institutions must support that human experts can verify the legislative evaluation results presented by artificial intelligence. This is because artificial intelligence still shows imperfections in areas that require highly complex thinking skills, such as the realm of discretion. As the hallucination issue of ChatGPT exemplifies, artificial intelligence is not enough to completely replace human specialized domains. The same can be said for legislative evaluation. 이 글은 입법평가 영역에 인공지능을 활용할 수 있는지를 모색한다. ChatGPT 열풍이 시사하는 것처럼 현재 인공지능이 보여 주는 기술적 수준이나 역량은 놀라울 정도이다. 언어적 소통 영역에 한정해 말하면 이제 인공지능은 인간처럼 소통하는 것에 머물지 않고 의료나 행정, 사법, 면접 등과 같이 전문적인 역량이 필요한 영역에서도 상당한 성취를 보여 준다. 이에 인공지능이 인간이 수행하던 전문 영역을 대체할 것이라는 두려움이 현실적 위험으로 엄습한다. 이러한 상황에서 이 글은 의료나 행정, 사법, 면접처럼 고도의 전문적 역량이 요청되는 입법평가에도 인공지능을 활용할 수 있는지, 만약 가능하다면 그범위는 어떻게 획정할 수 있는지, 이에 따른 한계는 무엇인지 살펴본다. 이를 위해 먼저 입법평가가 어떤 의미를 지니는지(II), 이러한 입법평가를 수행하는 데 필요한 역량은 무엇인지 규명한다(III). 다음으로 인공지능이 현재 도달한 기술 수준을 검토함으로써 입법평가를 수행하는 데 필요한 역량을 인공지능이 갖추고 있는지 살펴본다(IV). 이어서 실제로 인공지능이 입법평가에 활용될 수 있는지를 검증한다는 차원에서 의료, 사법, 행정, 면접 영역에서 인공지능이 어떻게 활용될 수 있는지 또는 활용되는지를 살펴본다(V). 이를 토대로 하여 입법평가 가운데 어떤 영역에서 인공지능을 활용할 수 있는지, 이때 필요한 추가적인 근거와 요건은 무엇인지 검토한다(VI). 이 글은 다음과 같은 결론에 도달한다. 지금의 기술적 수준을 고려할 때 입법평가에 인공지능을 활용할 가능성은 분명 존재한다. 그러나 이는 양적 평가와 같은 영역에만 제한적으로 활용되어야 한다. 더불어 인공지능이 내놓은 입법평가 결과를 인간 전문가가 검증할 수 있도록 거버넌스를 구축하고 법적 근거도 확보해야 한다. 인공지능은 재량 영역처럼 고도로 복잡한 사고 능력을 발휘해야 하는 영역에서 여전히 불완전함을 보여 주기 때문이다. ChatGPT가 범하는 환각(hallucination) 이슈가 예증하듯이 인공지능은 인간이 수행하던 전문적 영역을 완전하게 대체하기에는 부족하다. 이는 입법평가에도 마찬가지라고 말할 수 있다.

인공지능과 민주주의에 관한 소고

윤수정 헌법재판연구원 2021 헌법재판연구 Vol.8 No.2

In the era of Phono Sapiens, where everything is solved with a smartphone, artificial intelligence (AI) is closely permeating our lives. Now, the problem of artificial intelligence is not a problem of “if,” but a realistic problem that has to deal with “how fast” and “to what extent” to allow, and is developing into an important problem that can determine the daily life of the national community and even the future of mankind. As artificial intelligence advances into various areas of human life, another notable area is politics. As politics became digital, the political subject changed to a large number of citizens, various political agendas were raised, and the way of political participation changed. The development of artificial intelligence also poses various opportunities and risks in relation to democracy. Democracy, a constitutional principle that seeks to realize the thoughts of individual freedom and self-determination within the national community, is essentially realized through representative democracy. However, in reality, representative democracy faced a crisis due to the distortion of democratic representation and accountability, and the continued COVID-19 situation accelerated this. Artificial intelligence is being used to overcome the limitations of representative democracy, but its influence is like a double-edged sword. Although positive effects such as strengthening universal information access, easing representative democratic limits, building artificial intelligence governance, expanding the realm of human freedom, and increasing political fairness are expected, there are side effects such as the emergence of a new surveillance society, distortion and insufficiency of political opinion. Therefore, in order for artificial intelligence to coexist with democracy, a normative response aimed at minimizing side effects from a democracy perspective is necessary. The basic principle of this normative response should be ‘Human-Centered Artificial Intelligence’. Human dignity should be respected in all stages of artificial intelligence design, development, and utilization, and artificial intelligence should only be used as a means of supplementing human autonomy. It is time to actively think about what to do with artificial intelligence rather than what can be done with artificial intelligence to realize democracy. 스마트폰 하나면 모든 것이 해결되는 포노 사피엔스(Phono Sapiens)의 시대, 인공지능(AI)은 우리의삶에 밀접하게 스며들고 있다. 이제 인공지능의 문제는 ‘만약(if)’의 문제가 아닌 ‘얼마나 신속하게(how fast)’, 그리고 ‘어느 범위까지(to what extent)’ 허용할 것인가를 다루어야 하는 현실적인 문제이며, 국가공동체의 일상, 나아가 인류의 미래를 좌우할 수 있는 중요한 문제로 발전하고 있다. 인공지능이 인류의 삶의 다양한 영역으로 진출하면서 또 하나 주목할 만한 영역은 정치이다. 정치가디지털화되면서 다수의 국민으로 정치 주체가 변화하였고, 다양한 정치 의제가 제기되었으며, 정치 참여의 방식이 변화되었다. 이러한 디지털 정치는 이제 인공지능을 정치에 활용하는 것으로 발전하고 있다. 인공지능의 발전은 민주주의와의 관계에서도 다양한 기회와 위험을 내포하고 있다. 개인의 자유와 자기결정의 사고를 국가공동체 내에서 실현하고자 하는 헌법원리인 민주주의는 본질적으로 대의민주주의를 통해 실현된다. 그러나 현실에서 대의민주주의는 민주적 대표성과 책임성의 왜곡이발생하면서 위기에 직면하였고, 지속된 코로나19 상황은 이를 가속화시켰다. 이러한 대의민주주의의 한계를 극복하기 위해 인공지능이 활용되고 있지만, 그 영향은 양날의 칼과 같다. 보편적인 정보접근성이강화, 대의민주주의 한계의 완화, 인공지능 거버넌스 구축, 인간의 자유 영역 확대, 정치의 공정성 증대등의 긍정적 효과가 기대되기도 하지만, 새로운 감시 사회의 출현, 정치적 의사형성의 왜곡과 불충분성초래, 소수 디지털 기업에의 권력 집중 등의 부작용도 간과(看過)할 수만은 없다. 그러므로 인공지능이민주주의와 공존(共存)하기 위해서는 민주주의 관점에서 유익한 목적의 인공지능의 개발은 장려하면서도 부정한 목적의 개발과 이용, 그리고 부작용을 최소화하는 것을 목표로 하는 규범적 대응이 필요하다. 그리고 이러한 규범적 대응의 기본원칙은 ‘인간 중심의 인공지능’이 되어야 한다. 인공지능의 설계, 개발 및 활용의 전 단계에서 인간의 존엄성을 존중하여야 하며, 인공지능은 인간의 자율성을 보완하는 수단으로서만 활용되어야 한다. 이제 민주주의 실현을 위해 인공지능으로 무엇을 할 수 있는지보다 인공지능으로 무엇을 해야 하는지를 적극적으로 고민해야 할 시점이다.

인공지능에 관한 법적과제 : 국가배상책임을 중심으로

김남욱(Kim, Nam-Wook) 한국토지공법학회 2021 土地公法硏究 Vol.93 No.-

국가와 지방자치단체는 인공지능을 광범위하게 도입하여 자동행정행위 또는 행정결정을 행하고 있다. 즉, 4차산업혁명과 지능정보화사회에서 핵심적 기술인 인공지능과 알고리즘을 행정법 영역에서 세무탈루방지 및 세무조사, 조세평가와 자동환급, 규제기관에서 규제의 효율성 제고, 범죄예측과 감시, 스마트 치안서비스와 재범방지, 환경단속, 대학입시교육 행정, 인공지능플랫폼 자치행정 등을 행하고 있다. 행정기본법안에서 인공지능에 의한 완전자동행위를 기속행위에 대하여 행할 수 있도록 하고 있으나, 규제행정에서의 인공지능과 알고리즘의 활용은 국민의 권리가 제한되거나 의무가 부과되는 침익적 행정행위에 해당하므로 법률유보원칙에 의하여 인공지능 알고리즘에 의한 행정을 할 수 있는 법적 근거가 마련되어져야 한다. 인공지능의 알고리즘의 편향성과 불투명성으로 인하여 인공지능에 의한 위법한 자동행 정행위를 입증이 어렵다고 할 것이다. AI공무원의 행정결정과 손해간의 과실책임에 관한 입증하기 어려을뿐만 아니라 인공지능이 안정성 결함등의 입증이 어려우므로 국가배상법 제2조 및 제5조의 입증책임 완화 내전 전환의 법리의 필요하다. 교통신호기에 대한 공공영 조물설치 관리하자책임이 학설과 판례에 의해 인정되고 있고, 미국의 경우 인공지능을 결합한 교통신호기체제를 도입하고 있으므로 인공지능에 대한 국가배상법제5조에 의한 국가 배상책임을 물을 수 있는지 문제된다. 한편, 정부는 인공지능에 의한 행정행위에 대하여 권리구제를 확보하기 위하여 행정심판법을 개정할 방침에 있다. 인공지능에 의한 행정작용이 이루어진 경우 국민의 권리구제가 마련되어 있지 아니면 법치국가라고 할 수 없다. 그런데 현행 국가배상에 의하면 AI와 알고리즘에 의한 국가배 상책임을 물을 수 없으므로 이에 대응한 입법적 조치가 요구된다. 이하에서는 인공지능의 개념과 유형, 인공지능의 행정법영역에 활용사례와 인공지능 알고리즘의 책임문제를 논의한 후, 약한 인공지능, 강한 인공지능, 초 인공지능으로 구분하여 공무원AI의 국가배상법 제2조에 의한 국가배상책임의 적용가능성과 인공지능 및 알고리즘의 공공영조물 설치 및 관리의 하자책임에 관한 문제를 검토하여 그 법적 개선방안을 마련한다. The state and local governments have widely adopted artificial intelligence to make automatic administrative actions or administrative decisions. In other words, artificial intelligence and algorithms, which are key technologies in the 4th industrial revolution and intelligent information society, are used in the administrative law area to prevent tax evasion and tax investigation, tax evaluation and automatic refund, improve the efficiency of regulation in regulatory agencies, crime prediction and monitoring, and smart security services. And recidivism prevention, environmental crackdown, university entrance examination education administration, artificial intelligence platform self-government administration, etc. The Basic Administrative Act allows fully automatic actions by artificial intelligence to be performed for binding actions, but the use of artificial intelligence and algorithms in regulatory administration is an invasive administrative action in which the rights of the people are limited or obligations are imposed. In accordance with the reservation principle, a legal basis for administration by artificial intelligence algorithms should be established. Due to the bias and opacity of artificial intelligence algorithms, it would be difficult to prove illegal automatic administrative actions by artificial intelligence. Since it is difficult to prove the liability for negligence between the administrative decisions of AI public officials and damages, it is necessary to ease the burden of proof and the legal principle of civil war transition. Responsibility for installing and managing public structures for traffic signals is recognized by theory and precedent, and in the case of the United States, a traffic signal system that combines artificial intelligence is introduced. Therefore, the national compensation liability for artificial intelligence is imposed under Article 5 of the National Compensation Act. It is a question if you can. On the other hand, the government is planning to revise the Administrative Appeals Act in order to secure rights relief for administrative actions by artificial intelligence. In the case of administrative action by artificial intelligence, it cannot be said to be a rule of law unless a remedy for the rights of the people is in place. However, according to the current national compensation, it is impossible to claim national liability for compensation by AI and algorithms, so legislative measures are required to respond. In the following, the concepts and types of artificial intelligence, the use cases of artificial intelligence in the administrative law area of artificial intelligence, and the responsibilities of artificial intelligence algorithms are discussed, and then classified into weak artificial intelligence, strong artificial intelligence, and super artificial intelligence, according to Article 2 of the National Compensation Act of Public Officials AI It examines the applicability of the national liability for compensation and the problem of the defect liability in the installation and management of artificial intelligence and algorithms, and prepares a legal improvement plan.

형사사법 절차에서 인공지능 기술의 활용과 기술경영에 관한 연구

김태율,정혜련 한국경영법률학회 2020 經營法律 Vol.31 No.1

The information and communications technology area has achieved innovative development, and the term "Artificial Intelligence" (AI) is becoming a common language. Topics such as self-driving cars, artificial intelligence speakers, AlphaGo and artificial intelligence robots can also be seen appearing frequently in the media, the Internet and dramas. As the use of artificial intelligence technology increases in various fields, it is expected that artificial intelligence technology will be introduced and utilized in the criminal justice field, There is a need to discuss legal and normative issues that will be caused by artificial intelligence's actions and the character of the acts, criminal capabilities, and criminal responsibility capabilities. And in this study, the definition and concept of artificial intelligence were reviewed generally, and the legal status and character of the responsibility that could be caused by the use of artificial intelligence were discussed in criminal law, and discuss whether artificial intelligence can be recognized as a member of the Criminal Justice Act. In addition, examined the domestic special law on artificial intelligence and the newly enacted legislation and based on recent trends, such as identifying major issues commonly mentioned by checking related laws abroad, special laws related to artificial intelligence are being enacted in Korea, but legislation or policies have yet to be implemented from a comprehensive perspective. procedures were confirmed. Continually, The cases and domestic status of the U.S., Europe, and the Netherlands where artificial intelligence technology was used in criminal justice procedures were confirmed. Currently, there are differences in the level of development in both countries and Korea, including the U.S. and the U.S., but in general, it has been confirmed that its utilization is still in its early stages. Based on these findings, we reviewed the availability of artificial intelligence technology in criminal justice procedures in Korea and suggested policy implications. 정보통신기술 영역이 혁신적인 발전을 거듭하면서 그 원동력 중 하나인 인공지능(AI: Artificial Intelligence)과 관련된 용어들이 일상화되고 있다. 자율주행 자동차, 인공지능 스피커, 알파고, 인공지능 로봇과 같은 주제들도 언론이나 인터넷, 드라마 등에 자주 등장하는 것을 볼 수 있다. 여러 분야에서 인공지능 기술 활용이 증가함에 따라 형사사법 분야에서도 인공지능 기술이 도입되어 활용될 것이 예견되는바, 인공지능의 행위로 인해 야기될 법적·규범적 문제와 그 행위의 성격, 범죄능력, 형사책임능력 등에 대한 논의의 필요성이 대두되고 있다. 이에 본 연구에서는 인공지능의 정의와 개념에 대해 개괄적으로 확인하고, 인공지능의 활용으로 인해 야기될 수 있는 책임에 대한 법적 지위와 그 성격을 형사법적으로 논하고, 인공지능을 형사사법의 구성원으로까지 인정할 수 있을지를 논의해 보고자 한다. 또한, 인공지능과 관련된 국내 특별법과 새로이 제정될 입법안 등을 살펴보고, 국외의 관련 법률을 확인함으로써 공통으로 언급되는 주요 논점을 확인하는 등 최근 동향을 살펴 비교해 본바, 국내의 경우 인공지능 관련 특별법들이 제정되고 있지만 아직은 종합적 관점에서의 입법이나 정책은 미비한 것으로 확인되었다. 계속해서 인공지능 기술이 형사사법 절차에서 활용된 미국과 유럽, 네덜란드의 사례와 국내 현황을 확인해 본바, 현재 형사사법 체계에서 영미 등 각국과 국내 모두 발전 정도의 차이는 있으나 대체적으로 그 활용도가 아직 초기 단계임을 확인할 수 있었다. 이와 같은 연구 결과를 토대로 향후 국내 형사사법 절차에서의 인공지능 기술의 활용 가능성과 기술경영의 방향에 대해 검토하고 정책적 시사점에 대해 제언하였다.

인공지능과 법체계의 변화 ―형사사법을 예로 하여―

양천수 한국법철학회 2017 법철학연구 Vol.20 No.2

Due to the Baduk match between AlphaGo, the artificial intelligence of Google Deep Mind and the Korean professional Baduk player Lee, Se Dol in March 2016, artificial intelligence becomes a reality. As if to reflect this phenomenon, the academic interest in artificial intelligence is increasing more and more in law. The impact of artificial intelligence on our society is expected to be greater than anything else. Some people argue that artificial intelligence will give rise to the ‘Fourth Industrial Revolution’. In this context, this article intends to analyze how artificial intelligence will affect our criminal justice system. For the clarity of this discussion, this article divides artificial intelligence into ‘weak artificial intelligence’ and ‘strong artificial intelligence’. If the strong artificial intelligence is the perfect implementation of all the mental abilities of humans, the weak artificial intelligence is the artificial intelligence that has not yet reached such level. At this point in time, the artificial intelligence remains weak. The weak artificial intelligence can be useful as a tool of criminal justice. For example, the weak artificial intelligence can be used as a useful tool when acknowledging facts, judging guilt and making sentences. Even the weak artificial intelligence may be able to replace much of the works done by criminal justice. Contrary to this, the weak artificial intelligence can be used as a tool of crime. However, in this case, the difficult problem will not appear particularly in terms of the theory of criminal law. The strong artificial intelligence will be a serious theoretical and practical challenge to the Korean criminal justice. This is because if the strong artificial intelligence alone commits a crime, it will be a matter of whether criminal punishment can be sentenced to the strong artificial intelligence. This also relates to a question of whether our criminal justice will accept the post-anthropocentric criminal justice beyond the anthropocentric criminal justice. This article argues that the criminal punishment of the strong artificial intelligence can be theoretically justified. As a ground for this, our legal system has already accepted a certain part of the post-anthropocentric legal thoughts. However, this article also raises a question of whether it is necessary to regulate the strong artificial intelligence by criminal law. 지난 2006년 3월에 있었던 구글 딥마인드의 인공지능 알파고와 이세돌 9단의 바둑대국 덕분에 인공지능은 어느덧 우리의 현실이 되고 있다. 이를 반영하듯 법학에서도 인공지능에 대한 학문적 관심이 높아 가고 있다. 앞으로 인공지능이 우리 사회에 미칠 영향은 그 무엇보다 클 것으로 예상된다. 인공지능이 제4차 산업혁명을 야기할 것이라는 주장도 제기된다. 이러한 상황에서 이 글은 인공지능이 우리 형사사법에 어떤 영향을 미칠 것인지를 분석한다. 논의를 분명히 하기 위해 이 글은 인공지능을 ‘약한 인공지능’과 ‘강한 인공지능’으로 구분하여 논의를 전개한다. 강한 인공지능이 인간이 수행하는 일체의 정신능력을 완벽하게 구현한 것이라면, 약한 인공지능은 아직 여기에는 이르지 못한 인공지능을 말한다. 현 시점에서 우리가 갖고 있는 인공지능은 여전히 약한 인공지능에 머물러 있다. 약한 인공지능은 형사사법의 도구로서 유용하게 활용될 수 있다. 이를테면 사실인정을 하거나 죄책을 판단할 때 그리고 양형을 할 때 약한 인공지능은 유용한 도구로 활용될 수 있다. 심지어 약한 인공지능은 형사법관이 수행하는 업무를 상당 부분 대체할 수도 있을 것이다. 반대로 약한 인공지능은 범죄의 도구로서 활용될 수 있다. 다만 이 경우 형법이론적으로 특별히 어려운 문제가 등장하지는 않을 것이다. 이와 달리 강한 인공지능은 우리 형사사법에 중대한 이론적·실천적 도전이 될 것이다. 왜냐하면 강한 인공지능이 독자적으로 범죄를 저지른 경우 강한 인공지능에 형사처벌을 할 수 있는지가 문제가 될 것이기 때문이다. 이는 우리 형사사법이 인간중심적 형사사법을 넘어서 탈인간중심적 형사사법을 받아들일 것인가의 문제와도 관련을 맺는다. 이 글은 강한 인공지능에 형사처벌을 하는 것이 이론적으로 정당화될 수 있다고 주장한다. 그 근거로서 우리 법체계는 이미 일정 부분 탈인간중심적 법사상을 수용하고 있다는 점을 든다. 그러면서도 이 글은 과연 강한 인공지능을 형법으로 규율할 필요가 있는지에 의문을 제기한다.

인공지능이 의사결정에 미치는 영향에 관한 연구: 인간과 인공지능의 협업 및 의사결정자의 성격 특성을 중심으로

이정선(JeongSeon Lee),서보밀(Bomil Suh),권영옥(YoungOk Kwon) 한국지능정보시스템학회 2021 지능정보연구 Vol.27 No.3

Artificial intelligence (AI) is a key technology that will change the future the most. It affects the industry as a whole and daily life in various ways. As data availability increases, artificial intelligence finds an optimal solution and infers/predicts through self-learning. Research and investment related to automation that discovers and solves problems on its own are ongoing continuously. Automation of artificial intelligence has benefits such as cost reduction, minimization of human intervention and the difference of human capability. However, there are side effects, such as limiting the artificial intelligence’s autonomy and erroneous results due to algorithmic bias. In the labor market, it raises the fear of job replacement. Prior studies on the utilization of artificial intelligence have shown that individuals do not necessarily use the information (or advice) it provides. Algorithm error is more sensitive than human error; so, people avoid algorithms after seeing errors, which is called “algorithm aversion.” Recently, artificial intelligence has begun to be understood from the perspective of the augmentation of human intelligence. We have started to be interested in Human-AI collaboration rather than AI alone without human. A study of 1500 companies in various industries found that human-AI collaboration outperformed AI alone. In the medicine area, pathologist-deep learning collaboration dropped the pathologist cancer diagnosis error rate by 85%. Leading AI companies, such as IBM and Microsoft, are starting to adopt the direction of AI as augmented intelligence. Human-AI collaboration is emphasized in the decision-making process, because artificial intelligence is superior in analysis ability based on information. Intuition is a unique human capability so that human-AI collaboration can make optimal decisions. In an environment where change is getting faster and uncertainty increases, the need for artificial intelligence in decision-making will increase. In addition, active discussions are expected on approaches that utilize artificial intelligence for rational decision-making. This study investigates the impact of artificial intelligence on decision-making focuses on human-AI collaboration and the interaction between the decision maker personal traits and advisor type. The advisors were classified into three types: human, artificial intelligence, and human-AI collaboration. We investigated perceived usefulness of advice and the utilization of advice in decision making and whether the decision-maker’s personal traits are influencing factors. Three hundred and eleven adult male and female experimenters conducted a task that predicts the age of faces in photos and the results showed that the advisor type does not directly affect the utilization of advice. The decision-maker utilizes it only when they believed advice can improve prediction performance. In the case of human-AI collaboration, decision-makers higher evaluated the perceived usefulness of advice, regardless of the decision makers personal traits and the advice was more actively utilized. If the type of advisor was artificial intelligence alone, decision-makers who scored high in conscientiousness, high in extroversion, or low in neuroticism, high evaluated the perceived usefulness of the advice so they utilized advice actively. This study has academic significance in that it focuses on human-AI collaboration that the recent growing interest in artificial intelligence roles. It has expanded the relevant research area by considering the role of artificial intelligence as an advisor of decision-making and judgment research, and in aspects of practical significance, suggested views that companies should consider in order to enhance AI capability. To improve the effectiveness of AI-based systems, companies not only must introduce high-performance systems, but also need employees who properly understand digital information presented by AI, and can add non-digital

인공지능을 활용한 민사분쟁 해결에 관한 고찰

강영주 안암법학회 2022 안암 법학 Vol.- No.64

This paper presents a review of the possibility of civil lawsuits using artificial intelligence, which is in the spotlight of the legal market in the current depersonalized contactless era. Today, the scale of e-commerce is increasing with each passing day, and online dispute resolution (ODR) is being used as an appropriate method to resolve related disputes. Recently, as artificial intelligence, the core of the 4th industrial revolution, has been grafted into the legal field, online dispute resolution procedures using artificial intelligence are in the spotlight. It is expected that artificial intelligence in civil litigation will be effective in not only establishing impersonal judicial procedures but also in addressing the shortage of judges, minimizing unfair trials, and reducing trial costs. However, concerns arising from the use of artificial intelligence cannot be overlooked, particularly issues involving proper control when artificial intelligence system in use and resulting ethical challenges. In addition, widely disclosing data such as precedents is necessary to ensure a large corpus of high-quality data to access the advantages of artificial intellig- ence. In this case, protecting personal information will become increasingly problematic. Contemplating the above, considering how to use artificial intelligence in practice is necessary. Civil disputes, in which the principle of private autonomy of the parties is an important principle, is considered appropriate when actively undertaking dispute resolution using artificial intelligence. When examining the contents as applied to civil litigation, first, it can be used for mediation and arbitration, where the procedure is less rigid than that of a trial. In the case of mediation, chatbots or autonomous vehicle programs are being resorted to, and efforts to develop artificial intelligence programs that can be used in the mediation field are ongoing as well. Furthermore, small claims cases can also be resolved using online dispute resolution procedures. Estonia, located in Northern Europe, is already using an artificial intelligence system to solve small claims cases. Recently, there is much interest in the introduction of discovery in Korea, and if the electronic discovery is also used, the need for artificial intelligence will increase in this regard. Although there are many problems to overcome when artificial intelligence is employed in the judicial system, its use seems unavoidable and prospects are bright. In the future, continuously studying how humans and artificial intelligence will cooperate in resolving conflicts will be necessary. 이 글은 인공지능을 민사분쟁의 해결에 어떻게 활용할 수 있는지에 대한 문제를 다룬다. 전자상거래의 규모가 나날이 증가하면서 이와 관련된 분쟁 역시 증가하고 있는데, 온라인 분쟁해결절차(ODR)는 이러한 분쟁을 해결하기 위해 적합한 방법으로 평가받고 있다. 특히 최근 4차 산업혁명의 핵심인 인공지능이 법률 분야에 접목되면서 인공지능을 활용한 온라인 분쟁해결절차가 더욱 주목을 받고 있다. 최근 코로나바이러스로 인한 비대면 시대를 경험하면서 인공지능을 활용한 온라인 분쟁해결절차는 사법 분야에서도 각광을 받고 있다는 점에서 중요한 의미를 지닌다. 인공지능을 민사소송에 활용함으로 비대면 사법 절차를 구축할 수 있을 뿐 아니라 법관 수 부족을 해결할 수 있다. 그리고 불공평한 재판을 감소시키고 재판 비용을 절감시키는 점 등의 효과가 있을 것으로 보인다. 하지만 인공지능 활용에 대한 우려의 목소리도 간과할 수 없다. 인공지능 시스템을 제대로 활용하기 위해 이를 어떻게 통제하는가 하는 점이 우려되고 있는데, 이는 윤리적인 문제와 연결된다. 또한 인공지능의 장점을 활용하기 위해서는 양질의 데이터를 대량으로 확보할 필요가 있는 만큼 이를 위해 판례와 같은 데이터를 대폭 공개할 필요가 있다. 이 경우 어떻게 개인정보를 보호할 것인가 하는 점을 역시 고려해 보아야 한다. 당사자의 사적 자치 원칙이 중요시되는 민사 분야는 인공지능을 적극적으로 활용하여 시도하기에 적절하다고 생각한다. 먼저 재판에 비하여 절차가 엄격하지 않은 조정과 중재에 인공지능을 활용할 수 있을 것이다. 조정의 경우 챗봇이나 자율주행자동차 프로그램을 활용해 해결하려는 노력이 꾸준이 제기되고 있으며, 중재 분야에서도 인공지능 프로그램 개발을 시도하고 있다. 또한 북유럽에 위치한 에스토니아에서 볼 수 있듯이 소액사건 해결에도 이미 인공지능 시스템을 이용하고 있다. 최근 한국에서 증거개시제도의 도입에 대하여 논의되는 바, 여기에 전자증거개시제도까지 활용하게 된다면 인공지능의 필요성이 더욱 높아질 것이다. 인공지능을 활용한 민사분쟁 해결에 여러 가지 문제들이 있지만, 분쟁해결에 인공지능을 활용하는 것은 사법제도의 발전을 위해 피할 수 없는 사실로 보인다. 또한 법정보기술산업의 규모가 크게 증가하는 현실을 볼 때 그 전망은 밝다고 할 수 있다.

블록형 프로그래밍 언어 기반 인공지능 교육이 학습자의 인공지능 기술 태도에 미치는 영향 분석

이영호 한국정보교육학회 2019 정보교육학회논문지 Vol.23 No.2

Artificial intelligence has begun to be used in various parts of our lives, and recently its sphere has been expanding. However, students tend to find it difficult to recognize artificial intelligence technology because education on artificial intelligence is not being conducted on elementary school students. This paper examined the teaching programming language and artificial intelligence teaching methods, and looked at the changes in students' attitudes toward artificial intelligence technology by conducting education on artificial intelligence. To this end, education on block-type programming language-based artificial intelligence technology was provided to students' level. And we looked at students' attitudes toward artificial intelligence technology through a single group pre-postmortem. As a result, it brought about significant improvements in interest in artificial intelligence, possible access to artificial intelligence technology and the need for education on artificial intelligence technology in schools. 인공지능이 우리 생활의 다양한 곳에 사용되기 시작하였으며, 최근 그 영역 또한 점차 확대되고 있다. 하지만 인공지능에 대한 교육이 초등학생을 대상으로 이루어지고 있지 않기 때문에 학생들이 인공지능 기술에 대해 어렵게 인식하는 경향이 있다. 이에 본 논문에서는 교육용 프로그래밍 언어와 인공지능 교육 방법을 고찰하고, 인공지능에 대한 교육을 실시함으로써 학생들의 인공지능 기술에 대한 태도의 변화를 살펴보았다. 이를 위해 학생들의 수준에 적절한 블록형 프로그래밍 언어 기반 인공지능 기술에 대한 교육을 실시하였다. 그리고 학생들의 인공지능 기술에 대한 태도를 단일집단 사전사후 검사를 통해 태도의 변화를 살펴보았다. 그 결과 인공지능에 대한 흥미, 인공지능 기술에 대한 접근 가능성, 학교에서 인공지능 기술에 대한 교육의 필요성에 있어 유의미한 향상을 가져왔다.