인공지능에 의한 사이보그 형 자동화 의사결정에 대한 고찰

양종모 충북대학교 법학연구소 2021 과학기술과 법 Vol.12 No.1

Artificial intelligence research started with computers trying to take the place of what humans have to do intelligently. Research started in the 1950s went through several ups and downs and reached the same period of the third boom as it is now. With the shocking situation where Alpha Go defeated Lee Se-dol, the strongest player in Go, in 2016, interest in artificial intelligence increased rapidly, and stories about the future situations that artificial intelligence will bring about, such as the possibility and singularity of artificial intelligence, are talked about even among the general public. Certainly, artificial intelligence has the potential to fundamentally change the way humans live, not just technological advances. The real value of artificial intelligence algorithms is prediction. At the center of all the algorithmic revolutions that have taken place in the various fields of modern society, there is one unchanging purpose: prediction. The algorithm for predicting the risk of recidivism used in US law enforcement fits precisely with the principle that individual humans behave in a predictable and consistent manner. While using the algorithm of predicting the risk of a second offender, an artificial intelligence algorithm, not a judge, actually takes the place of the defendant's decision on whether or not to be arrested or sentenced. Automated decision making continues to grow at an unprecedented rate and benefits because machine learning offers the possibility to extend the automated decision-making process, allowing wider, deeper decisions without human intervention. It is also very large and is expected to continue to expand its use. However, the risks are as great as the benefits of artificial intelligence algorithms. The risks of artificial intelligence algorithms outweigh the individual risks of any algorithmic technology specifically applied. Despite the widespread use of artificial intelligence in the social sphere, the reality is that the problems of artificial intelligence cannot be properly grasped. However, people who were treated differently due to automatic decision-making by artificial intelligence began to question the fairness or fairness of artificial intelligence, and in particular, while causing sensitive problems such as discriminatory results, controversy surrounding artificial intelligence algorithms gradually became more and more controversial. It is expanding. Even if a decision made by artificial intelligence is wrong or causes negative effects such as discrimination, there is a big problem that there are few means to object to this. In a situation where automated decision-making is more likely to threaten human autonomy and dignity, in order to secure an individual's autonomous personality, make sure that the entire process of the individual's automatic decision-making that affects him or her is fair and error-free. It is of utmost importance to know and allow humans to directly intervene if necessary. Although available data is increasing and algorithms are gradually improving, artificial intelligence algorithms do not completely eliminate the uncertainty posed by decision making. Eventually, there are cases in which humans, as finalists, have to make important decisions in situations where uncertainty has not been resolved. It is necessary to build a system in which artificial intelligence algorithms and human experts cooperate well to make the best decisions, and in addition to the direction of such a collaboration system establishment, the problem of legal responsibility due to errors in decision-making in artificial intelligence algorithms or collaboration systems is necessary. I want to deal with it in this paper.

인공지능 창작 문예물의 저작권 문제에 관한 고찰 -저자와 저작물의 법적 보호 가능성을 중심으로

오태호 한국문예창작학회 2024 한국문예창작 Vol.23 No.1

이 글은 생성형 인공지능 시대를 통과하고 있는 2024년 2월 인공지능이 창작한 문학 작품의 저작권 문제를 살펴보기 위해 작성된다. 구체적으로는 미국에서 저작권 문제의 법적 논쟁을 보여준 ‘그래픽노블’ 『새벽의 자리아』 사건의 개요를 검토하고, ‘인공지능 비람풍’의 장편소설 『지금부터의 세계』와 ‘인공지능 시아’의 시집 『시를 쓰는 이유』에 대해 ‘저자와 저작물의 판단’을 유추해 보며, 기성 작가가 대화형 인공지능인 ‘ChatGPT’를 활용하여 소설을 공동 창작하여 출간한 단편소설집 『매니페스토』를 통해 ‘저자와 저작물, 저작권’ 등의 판단에 대한 추론을 진행해 보았다. 결론적으로 인간 소설가 김태연과 ‘인공지능 비람풍’의 작업으로 탄생된 『지금부터의 세계』는 ‘최초의 인공지능 창작 장편소설’이라기보다는 김태연과 인공지능이 따로 작업을 수행한 뒤 짜깁기를 통해 만들어낸 ‘저자 김태연과 인공지능 비람풍의 공동창작물’에 해당한다. ‘인공지능 시아’의 시집 『시를 쓰는 이유』는 저자 ‘슬릿스코프(=김제민과 김근형)’가 인공지능 시아를 활용하여 만들어낸 ‘인공지능 시아의 단독창작물’이다. 『매니페스토』는 ‘소설가 7인과 ChatGPT’가 각각 협업을 수행하여 8인의 공동저자를 표방하며 만들어낸 공동창작물에 해당한다고 주장하지만, ‘인간만이 저자’라는 법적 판단을 전제로 한다면 7인의 소설가만이 저자이며 ChatGPT는 도구로 활용되었다고 판단된다. 이렇게 보면 앞으로도 인간과 인공지능 사이에서 ‘저자와 저작물, 저작권 관련 논의’는 지속될 가능성이 높으며, 누가 어떻게 창작하고 누가 어떻게 얼마나 텍스트와 공감할 수 있을 것인가가 최대의 화두가 될 것으로 전망된다. 다만 향후 온전히 인공지능의 창작물로 공표되거나 인간 창작 주체가 인공지능의 ‘도구적 활용’을 명기하여 창작된 작품이 확산된다면 문학 시장은 보다 폭넓은 외연을 확보하게 될 전망이다. 왜냐하면 전문가적 글쓰기로서의 순수문학에 대한 진입장벽이 높은 독자와 예비 작가들이 생성형 인공지능 도구를 활용하여 대중적 글쓰기를 수행함으로써 새로이 저자와 독자의 외연을 넓힐 수 있다는 점에서 유의미한 대중문학의 장이 열릴 것이기 때문이다. This article is written to examine the copyright issue of literary works created by artificial intelligence in February 2024, which is going through the artificial intelligence era. Specifically, we reviewed the outline of the case of the “comic book” Zarya of the Dawn that showed the legal debate over copyright issues in the United States, inferred the “judgment of authors and works” on the novel “The World from Now” and the poetry collection of “Artificial Intelligence SIA” Why I Write Poems. We collaborated with the interactive artificial intelligence “ChatGPT” and established writers to create novels, and made inferences on the judgments of “authors, works, and copyrights” through the recently published short story collection Manifesto. In conclusion, the feature novel The World from Now created by the work of Kim Taeyeon and ‘Artificial Intelligence Virampung’ is not a ‘first artificial intelligence creation feature novel’, but rather a ‘collaborative creation of author Kim Taeyeon and artificial intelligence Virampung’ created by collaboration between Kim Taeyeon and artificial intelligence. The poetry collection of ‘Artificial Intelligence SIA’ Why I Write Poems is a ‘Exclusive Creation of Artificial Intelligence SIA’ created by author Slitscope and Kakao Brain using artificial intelligence SIA. Manifesto corresponds to a co-creation created by 7 Novelists and ChatGPT to advocate 8 co-au-thors in collaboration, but given the legal judgment that ‘Only Humans are Authors’, it is judged that only 7 novelists are authors, and ChatGPT was used as a tool. In this way, “discussions on authors, works, and copyrights” between humans and artificial intelligence are likely to continue in the future, and it is expected that who will be able to create, how, and how much they will be able to empathize with the text will be the biggest topic.

인공지능과 규범창설 ―입법평가를 예로 하여―

양천수 한국법철학회 2023 법철학연구 Vol.26 No.2

This article explores whether artificial intelligence can be used in the area of ​​legislative evaluation. As the ChatGPT is showing, the technological level and capabilities currently shown by artificial intelligence are astonishing. In the area of linguistic communication, artificial intelligence is now not only communicating like humans, but also is showing professional achievements in areas that require professional capabilities, such as medical care, administration, judicial decision making and interviews. As a result, the fear that artificial intelligence will replace the professional field performed by humans is now becoming a real risk. In that situation, this article examines whether artificial intelligence can be used for legislative evaluation that requires high professional competence, such as medical, administrative, judicial and interview, and if so, how the scope can be defined, and what limitations there are. To this end, this article first identifies what legislative evaluation means (II) and what capabilities are required to carry out such legislative evaluation (III). Next, by examining the level of technology AI has reached at present, it is examined whether AI has the necessary capabilities to conduct legislative evaluation (IV). Then, in order to verify whether artificial intelligence can actually be used for legislative evaluation, this article handles the question of how artificial intelligence can or is used in the medical, judicial, administrative and interview areas (V). Based on this, it is reviewed in which areas artificial intelligence can be used during legislative evaluation and what additional requirements are necessary for this (VI). This article reaches the following conclusions. Considering the current technological level, there is a clear possibility of using artificial intelligence for legislative evaluation. However, this should be limited to areas such as quantitative evaluation. In addition, governance and legal institutions must support that human experts can verify the legislative evaluation results presented by artificial intelligence. This is because artificial intelligence still shows imperfections in areas that require highly complex thinking skills, such as the realm of discretion. As the hallucination issue of ChatGPT exemplifies, artificial intelligence is not enough to completely replace human specialized domains. The same can be said for legislative evaluation. 이 글은 입법평가 영역에 인공지능을 활용할 수 있는지를 모색한다. ChatGPT 열풍이 시사하는 것처럼 현재 인공지능이 보여 주는 기술적 수준이나 역량은 놀라울 정도이다. 언어적 소통 영역에 한정해 말하면 이제 인공지능은 인간처럼 소통하는 것에 머물지 않고 의료나 행정, 사법, 면접 등과 같이 전문적인 역량이 필요한 영역에서도 상당한 성취를 보여 준다. 이에 인공지능이 인간이 수행하던 전문 영역을 대체할 것이라는 두려움이 현실적 위험으로 엄습한다. 이러한 상황에서 이 글은 의료나 행정, 사법, 면접처럼 고도의 전문적 역량이 요청되는 입법평가에도 인공지능을 활용할 수 있는지, 만약 가능하다면 그범위는 어떻게 획정할 수 있는지, 이에 따른 한계는 무엇인지 살펴본다. 이를 위해 먼저 입법평가가 어떤 의미를 지니는지(II), 이러한 입법평가를 수행하는 데 필요한 역량은 무엇인지 규명한다(III). 다음으로 인공지능이 현재 도달한 기술 수준을 검토함으로써 입법평가를 수행하는 데 필요한 역량을 인공지능이 갖추고 있는지 살펴본다(IV). 이어서 실제로 인공지능이 입법평가에 활용될 수 있는지를 검증한다는 차원에서 의료, 사법, 행정, 면접 영역에서 인공지능이 어떻게 활용될 수 있는지 또는 활용되는지를 살펴본다(V). 이를 토대로 하여 입법평가 가운데 어떤 영역에서 인공지능을 활용할 수 있는지, 이때 필요한 추가적인 근거와 요건은 무엇인지 검토한다(VI). 이 글은 다음과 같은 결론에 도달한다. 지금의 기술적 수준을 고려할 때 입법평가에 인공지능을 활용할 가능성은 분명 존재한다. 그러나 이는 양적 평가와 같은 영역에만 제한적으로 활용되어야 한다. 더불어 인공지능이 내놓은 입법평가 결과를 인간 전문가가 검증할 수 있도록 거버넌스를 구축하고 법적 근거도 확보해야 한다. 인공지능은 재량 영역처럼 고도로 복잡한 사고 능력을 발휘해야 하는 영역에서 여전히 불완전함을 보여 주기 때문이다. ChatGPT가 범하는 환각(hallucination) 이슈가 예증하듯이 인공지능은 인간이 수행하던 전문적 영역을 완전하게 대체하기에는 부족하다. 이는 입법평가에도 마찬가지라고 말할 수 있다.

Association between Company’s Medical Artificial Intelligence and Growth Opportunities

( Min-soo Kim ),( Hyeon-ji Lee ),( Jeong-min Yang ),( Jae-hyun Kim ) 융합연구학회 2024 융합연구학회지 Vol.8 No.1

The technological and industrial advancements in the field of medical artificial intelligence (AI) may be associated with the rapid growth of companies in this sector. The purpose of this study was to examine the relationship between the growth opportunities in the medical AI industry and companies engaged in one or more AI-related businesses. Secondary data analysis was performed using the 2021 artificial intelligence industry survey data collected from September 2021 to November 2021. In order to observe the relationship between the medical artificial intelligence industry and company growth opportunities, the medical artificial intelligence industry, company growth opportunities, difficulties, Artificial intelligence start year, Main business field, sales volume, listing status, corporate affiliated research institute, AI main business, Percentage of Data Utilization variables, Rao-Scott cross-test, and logistic regression analysis including covariates were performed. Among all companies, when the AI application industry included medical AI, the OR for the company growth opportunities was 1.80 (P-value 0.031, 95% CI 1.06-3.06). For the medical artificial intelligence industry, the OR was 2.28 (P-value 0.016, 95% CI 1.17-4.46). In artificial intelligence companies, medical artificial intelligence-related industries can play a role in enhancing the growth potential of companies. In order to improve the growth potential of artificial intelligence companies, there is a need to consider the implementation of medical artificial intelligence-related industries and implement support policies that consider the timing of the company’s entry into the artificial intelligence industry. Therefore, the government needs to revise industry policies to actively establish laws, regulations, and policies, and further enable medical AI to perform a smooth role as a new growth engine.

중등학생 대상 인공지능 윤리역량 평가척도 개발

배진아,이정훈,홍미선,조정원 한국컴퓨터교육학회 2022 컴퓨터교육학회 논문지 Vol.25 No.6

Artificial intelligence technology is a representative future industrial technology that has a great impact on society and the economy as a whole. However, as artificial intelligence becomes closer to our lives, unexpected ethical issues are also emerging. Accordingly, major countries around the world are making various efforts, such as preparing ethical standards to secure trust in artificial intelligence. In addition, the need for artificial intelligence ethics education for students who will become users and developers of artificial intelligence has emerged. However, there are not enough research to establish ethical standards for artificial intelligence ethics education and strengthening of executive power. Therefore, the purpose of this research is to develop a scale that can measure the ethical competence of artificial intelligence for middle and high school students. This research was conducted with the aim of developing a process evaluation tool to foster artificial intelligence ethics and strengthening of executive power of artificial intelligence ethics. To this end, the items were modified and supplemented through scale item analysis and expert advice previously studied, and data were collected by applying them to educational programs. After that, through this survey, the artificial intelligence ethical competency scale was developed through stages such as validity and reliability test of variables and confirmation factor analysis. Through the artificial intelligence ethical competency evaluation scale developed through this study, it will be possible to comprehensively evaluate the artificial intelligence ethical literacy and execution ability of middle and high school students. 인공지능 기술은 사회, 경제 전반에 광범위한 영향을 미치는 대표적인 미래 산업기술이다. 그러나 인공지능이 우리 삶에 밀접해지면서 예상치 못한 윤리적 이슈도 함께 나타나고 있다. 이에 주요 국가들은 신뢰 확보를 위한 인공지능 윤리기준을 마련하는 등 다양한 노력을 기울이고 있다. 또한 인공지능의 이용자이면서 개발자가 될 학생들을 위한 인공지능 윤리 교육의 필요성이 대두되었다. 하지만, 인공지능 윤리교육을 위한 윤리기준을 마련하고, 윤리에 대한 실천력을 강화를 위한 연구는 충분치 않다. 이에 본 연구에서는 중 ·고등 학생을 대상으로 인공지능 윤리역량을 측정할 수 있는 척도를 개발하는 것을 목적으로 한다. 인공지능 윤리소양 함양과 인공지능 윤리 실천력을 강화하기 위한 수행형 기반 측정 도구 개발을 목표로 연구하였다. 이를 위해 기존에 연구된 척도 문항 분석과 전문가 자문을 거쳐 문항을 수정 및 보완하고, 교육 프로그램에 적용하여 데이터를 수집하였다. 이후 본조사를 통해 변수의 타당성 및 신뢰도 검정, 확인적 요인분석 등의 단계를 거쳐 인공지능 윤리역량 평가척도를 개발하였다. 본 연구를 통해 개발된 인공지능 윤리역량 평가척도를 통해 중 ·고등학생의 인공지능 윤리 소양과 윤리 실천력 등을 종합적으로 평가할 수 있을 것이다.

인공지능과 인권

김병록 조선대학교 법학연구원 2024 法學論叢 Vol.31 No.1

Human rights and artificial intelligence are two important concepts that interact with each other in today's rapidly developing digital age. How will artificial intelligence technology affect human rights that are spreading throughout people's lives? This question has become an increasing focus of attention. Artificial intelligence is the field that enables computer systems to simulate human-like thinking and decision-making capabilities. However, some of the problems that arise from artificial intelligence may have a direct impact on human rights. The interaction between human rights and artificial intelligence is a complex problem. While artificial intelligence technology has the potential to harm people and human rights, it also has great potential to be used to protect and promote human rights. Therefore, artificial intelligence technology must be developed and used while observing human rights through an approach supported by an ethical and legal framework. In this paper, after reviewing human rights issues such as artificial intelligence and freedom of expression, artificial intelligence and freedom of privacy, artificial intelligence and bias, hate, discrimination, artificial intelligence and defamation, artificial intelligence and copyright, we will discuss the issue of legal response to artificial intelligence. Regarding the relationship between the state and science and technology, the Constitution stipulates that "the state shall endeavor to develop the national economy through innovation of science and technology and the development of information and manpower (Article 127), and the rights of authors, inventors, and scientists are protected by law (Article 22)." It declares that the state will actively plan and form for the promotion of science and technology and lead in a certain direction. In relation to these constitutional provisions, the establishment and implementation of science and technology policies can be seen as an important duty given to the Republic of Korea as a democratic welfare state. It can be said that the main legislative duty is to achieve a balance between the value of promoting the development and utilization of artificial intelligence systems and the appropriate response to the risks that artificial intelligence can pose. To achieve a balance between artificial intelligence and human rights, it is necessary to comply with ethical values, use transparent and responsible systems, update legal regulations, and adopt an approach that guarantees stakeholder participation. By doing so, we will be able to build a future where human rights are protected while taking advantage of the potential benefits of artificial intelligence.

인공지능과 불법행위책임

최경진(Kyoungjin Choi) 한국정보법학회 2021 정보법학 Vol.25 No.2

기술이 발전함에 따라 과거에는 상상에 그쳤던 인공지능이 점차 일상생활 속으로들어오고 있다. 인공지능이 사회·경제 각 분야에 접목됨으로써 인공지능에 대한 법적 규율에 대하여도 관심이 높아지고 있다. 또한 인공지능의 수준이 점점 더 고도화됨에 따라 법적 규율에 있어서도 변화가 발생할 것으로 예상된다. 인공지능의 활용에따른 민사법상의 책임문제도 그 중의 하나이다. 인공지능과 관련한 불법행위책임의 문제는 민법상 일반 불법행위책임으로부터 제조물책임, 공작물책임, 자동차손해배상보장법 상의 자동차사고 책임에 이르기까지 다양하게 나타난다. 인공지능은 불법행위책임에 새로운 도전으로 다가왔지만, 어떻게 불법행위책임을 인정할 것인가와 관련해서는 일반 불법행위책임의 성립요건인고의·과실, 위법성, 인과관계, 손해, 책임의 주체 등에 대하여 근본적인 검토를 한 후에 종래의 법해석에 의하여 해결하기 어려운 문제가 확인된 경우에 인공지능의 특성을 고려한 해석론 혹은 입법론적 접근을 하는 것이 바람직하다. 이 글에서는 일반 불법행위책임 측면에서 인공지능을 둘러싼 고의·과실이나 위법성 등의 의미를 살펴보고, 특수 불법행위책임 측면에서의 인공지능의 규율 가능성과 한계 등을 살펴보았다. 일반 불법행위책임이나 민법 및 특별법 상의 특수 불법행위책임에 의한 해결을 최대한 먼저 시도해보아야 한다. 그럼에도 기술적 특성이 강해서 일반적인 증명이 쉽지않거나 실제 생명·신체·재산에 대한 인공지능의 위험성이 높은 경우에는 제한적범위 내에서 강화된 책임을 단계별로 인정하는 것은 향후 깊이 검토할 필요가 있다. 또한 앞서 살펴본 바와 같이 인공지능을 포함한 디지털제품에 대하여 종래의 제조물책임법을 개정해서 포섭할 것인지 그렇지 않으면 별도의 ‘디지털제조물책임법’을 제정할 것인지에 대하여도 깊이 있는 논의가 필요하다. 이러한 논의들은 서로 긴밀히 관련되어 있기 때문에 인공지능과 관련한 과도한 책임법의 범람을 지양하기 위해서라도 일반 불법행위책임으로 다룰 수 있는 영역과 구체적인 요건·효과, 종래 특수 불법행위책임의 적용을 위한 요건 및 효과, 제조물책임법 등 특별법 상의 인공지능에 대한 규율 등을 종합적이고도 정밀하게 검토하면서 상호간에 보충적인 작용을 하면서 적절히 인공지능으로 인한 불법행위책임을 규율할수 있는 연구와 입법적 논의가 진행되어야 할 것이다. 향후 다각적이고 깊이 있는 연구를 통하여 인공지능의 변화 속도에 발맞춰서 적절한 규율체계를 정립해나는데 이글이 논의의 기초가 되길 기대한다. As technology advances, artificial intelligence, which was only imaginary in the past, is gradually entering our daily life. As artificial intelligence is applied to various fields of society and economy, interest in legal regulations on artificial intelligence is also increasing. In addition, as the level of artificial intelligence becomes more and more advanced, it is expected that changes will also occur in legal regulations. One of them is the issue of liability under the civil law for the use of artificial intelligence. The problem of tort liability related to artificial intelligence is diverse, ranging from general tort liability under the Civil Act to product liability, work piece liability, and automobile accident liability under the Automobile Damage Compensation Act. Artificial intelligence has come as a new challenge to tort liability, but in relation to how to recognize tort liability, it is first reviewed from the point of view of general tort liability. It is desirable to adopt a new interpretation or legislative approach considering the characteristics of artificial intelligence. This article examines the meaning of intention, negligence, and illegality surrounding artificial intelligence in terms of general tort liability, and examines the possibility and limitations of civil regulation on artificial intelligence in terms of special tort liability. The resolution of general tort liability or special tort liability under civil and special laws should be attempted first. Nevertheless, in cases where general proof is not easy due to strong technical characteristics, or when the risk of artificial intelligence to real life, body, or property is high, it is necessary to consider in depth the acknowledgment of reinforced responsibility step by step within a limited scope. In addition, it is necessary to discuss in depth whether or not to revise and include the existing Product Liability Act for digital products including artificial intelligence or to enact a separate ‘Digital Product Liability Act’. Since these discussions are closely related, various types of tort liability should be comprehensively and precisely reviewed in order to avoid the overflow of excessive liability laws related to artificial intelligence. In addition, research and legislative discussions should be conducted to properly regulate liability for torts caused by artificial intelligence while complementing each other. It is hoped that this article will serve as a basis for future in-depth research and establishing an appropriate discipline system for the pace of change in artificial intelligence.

비즈니스 영역에서 인공지능 기술의 활용과 인공지능 윤리

배재권 한국지식정보기술학회 2022 한국지식정보기술학회 논문지 Vol.17 No.6

Artificial intelligence is leading the convergence of technologies and industries by converging with various original technologies in the era of the 4th industrial revolution. Technology convergence is a series of processes that collect large amounts of data (Big Data) through the Internet of Things (IoT) and wearable devices, store and manage data in the cloud server, and extract meaningful big data using artificial intelligence. The development of artificial intelligence is accelerating, and the applicability of artificial intelligence technology in the business field is also increasing. In this study, the applicability of artificial intelligence-based predictive analysis models is reviewed in business areas, and artificial intelligence application business areas (requirement forecasting and R&D optimization areas, product and service cost reduction and quality improvement, product and service promotion optimization areas, personalization provided user experience) was derived. In addition, five principles of artificial intelligence ethics were presented to minimize the side effects of artificial intelligence technology and reduce the failure factors of artificial intelligence introduction. Artificial intelligence should be constructed for the public welfare and advantage(profit) of mankind. Artificial intelligence must operate according to the principles of transparency and fairness. Artificial intelligence should not violate the data basic law (rights) or privacy of individuals, interest group and communities. All citizens should have the right to be educated to enjoy mental, emotional and economic prosperity through artificial intelligence. Never endow artificial intelligence with autonomous powers to harm, destroy, or deceive humans.

인공지능에 의한 발명의 발명자성에 대한 소고

이상호 한국지식재산학회 2022 産業財産權 Vol.- No.71

Under Korean patent laws, a patent right is initially vested in an inventor, and the justification of the patent right needs to be reviewed under the consideration of whether the recipient can be qualified as an inventor. This paper reviews three philosophical justifications for patent rights and applies them to artificial-intelligence-generated inventions and concludes that an inventor should be a natural person, and artificial intelligence's inventorship is not justified. First, under Locke's labor theory, every human being has property rights to his own person from birth and can expand his ownership, including patent rights, through his manual or mental labor. Artificial intelligence is a man-made object and does not have any basis for expanding property rights therefrom through labor as it is bereft of any innate rights whatsoever to own itself. Under Hegel's personality theory, a natural person has "the right to direct his will upon any object" and is a bearer of free will, which also can be a basis of the right to a patent. Free will is not merely the act of calculation, it's a reflection of Being itself. Artificial intelligence cannot have such self-purpose and dignity as human beings have and thus cannot be justified as an inventor. Under Bentham's Utilitarian view, it is presumed that an individual responds to incentives, and that this response benefits society. However, artificial intelligence lacks any motivation to devise an invention seeking a monopoly. One might argue that if artificial intelligence's inventorship is denied and no natural persons are qualified as an inventor and no one would be able to reap the benefits arising from the invention generated by artificial intelligence. It might be concerning as this will diminish scientists' motivation to develop the technology and eventually lead to a failure to maximize the utility in society as a whole. However, scientists' efforts should be protected only to the extent appropriate to their contributions. No one should be granted the rights to an invention that he or she has not contributed to. Otherwise, once the artificial intelligence technology reaches AGI (artificial general intelligence) or ASI (artificial superintelligence), only small number of owners would enjoy the limitless fruits of such artificial intelligence. Additionally, once artificial intelligence gains legal status, it can expand its rights boundlessly in society, which would pose a menace to humankind. In these cases, the inventorship of artificial intelligence should be denied under the Utilitarian view as it fails to maximize its utility in society. Accordingly, it is submitted that only natural persons are eligible for an inventor. If artificial intelligence generates an invention with no human contribution, the invention becomes the property of the public. However, if a natural person's contribution is insufficient to satisfy the inventorship requirement, it may be necessary to expand the scope of inventorship to include partial contributions from natural persons. In this regard, the work for hire doctrine under copyright provides a hint on how to enlarge the boundary of inventorship. It is suggested that a natural person employer who defines a problem and plans to find the solution using artificial intelligence, as a creative employee, should be credited as an inventor under the ‘invention for hire’ doctrine even if his contribution to a conception of an invention does not meet the current inventorship requirements. 특허법에 따르면, 특허권은 원시적으로 발명자에게 주어지므로 특허권의 정당성을 논함에 있어 권리를 받는 자가 발명자로 인정되어 권리를 누리는 것이 합당한지 검토해야 할 필요가 있다. 본 고는 특허권에 대한 세 가지 철학적 정당성을 검토하고 인공지능에 의한 발명에 적용하여 오직 자연인만 발명자로 인정받을 수 있으며 인공지능의 발명자성은 정당화되지 못한다고 결론 내렸다. 먼저, 로크의 노동이론에 따르면 모든 인간은 생득적으로 자기 자신에 대한 재산권적 권리를 가지며 특허권을 포함해 자신의 정신적 육체적 노동을 통해 소유권을 확장해 나갈 수 있다. 하지만 인공지능은 사람이 만든 객체에 불과하여 자기 자신으로부터 노동을 통해 확장할 수 있는 어떤 내재적 권리의 기반을 가지고 있지 못하다. 헤겔의 인격 이론에 따르면 자연인은 자신의 의지를 객체에 투영할 수 있는 권리를 가지며 특허권의 근거가 되는 자유의지의 담지자이기도 하다. 자유의지는 단순한 정보의 선택을 의미하지 않으며 존재 자체로부터 나오는 자기 자신의 목적의 투영이다. 인공지능은 인간과 같은 자기 목적성이나 존엄성을 가지고 있지 못하므로 발명자로 정당화될 수 없다. 벤담의 공리주의에 따르면, 인간은 유인에 반응하는 존재로 상정되며 이러한 인간의 반응이 사회의 유용을 증대시키는 역할을 한다. 하지만, 인공지능은 이러한 유인에 반응하여 발명의 독점권을 추구하는 존재가 아니다. 혹자는 만약 인공지능의 발명자성이 부정되고 발명자로 인정될 수 있는 자연인이 존재하지 않는 경우, 누구도 인공지능이 발명한 결과물에 대한 유익을 취할 수 없게 될 것이고, 이는 결국 인공지능을 연구하는 과학자들의 사기를 저하해 사회 전체 유익이 최대화되지 못한다는 위험을 불러올 수 있다고 염려할 수 있다. 하지만 과학자들의 노력은 그에 상응하는 정도의 보호만 받을 필요가 있다. 누구도 자신이 발명하지 않은 것에 대한 권리를 주장할 수는 없다. 인공지능기술이 초인공지능 내지는 강인공지능에 이르게 되면 소수의 사람이 인공지능이 개발한 열매를 누릴 수 있는 위험이 있다. 또한, 인공지능이 자신의 법률적 지위를 가지게 되면 특허권은 자신의 발명에 대한 권리를 사회에서 무한대로 확장할 수 있는 근거가 될 수가 있고, 이는 인류가 위협될 수 있다. 이 두 경우 모두 인공지능을 발명자로 인정하는 것은 부정되어야 하는데 이는 공리주의적 관점에서 사회 전체적 유용성을 최대화하지 못하기 때문이다. 따라서, 자연인만 발명자로 인정받아야 하며, 만약 인간의 개입 없이 인공지능에 의한 발명이 이루어지면 이는 결국 공공재로 취급되어야 한다. 그러나 자연인이 인공지능을 사용하며 발명에 이르는 과정을 기획한 경우의 비록 발명의 착상에 대한 발명자의 기여가 비록 발명자 요건을 만족시키는 정도는 아니라 하더라도 발명자성의 범위를 보다 확대하여 발명자성을 부여하는 것이 합리적이라 하겠다. 이와 관련해서 저작권법의 업무상 저작물 제도는 발명자성의 외연을 넓히는 단초를 제공한다. 본 고는 자연인 사용자가 문제를 정의하고 해결책을 찾기 위해 인공지능을 창의적 근로자로 사용한 경우 해당 자연인의 발명 착상에 대한 기여가 비록 특허법에서 요구하는 발명자성에 미치지 못한다고 하더라도 업무상 발명(invention for hire)제도를 통해 발명자로 인정해줄 것을 제안한다.

인공지능을 활용한 민사분쟁 해결에 관한 고찰

강영주 안암법학회 2022 안암 법학 Vol.- No.64

This paper presents a review of the possibility of civil lawsuits using artificial intelligence, which is in the spotlight of the legal market in the current depersonalized contactless era. Today, the scale of e-commerce is increasing with each passing day, and online dispute resolution (ODR) is being used as an appropriate method to resolve related disputes. Recently, as artificial intelligence, the core of the 4th industrial revolution, has been grafted into the legal field, online dispute resolution procedures using artificial intelligence are in the spotlight. It is expected that artificial intelligence in civil litigation will be effective in not only establishing impersonal judicial procedures but also in addressing the shortage of judges, minimizing unfair trials, and reducing trial costs. However, concerns arising from the use of artificial intelligence cannot be overlooked, particularly issues involving proper control when artificial intelligence system in use and resulting ethical challenges. In addition, widely disclosing data such as precedents is necessary to ensure a large corpus of high-quality data to access the advantages of artificial intellig- ence. In this case, protecting personal information will become increasingly problematic. Contemplating the above, considering how to use artificial intelligence in practice is necessary. Civil disputes, in which the principle of private autonomy of the parties is an important principle, is considered appropriate when actively undertaking dispute resolution using artificial intelligence. When examining the contents as applied to civil litigation, first, it can be used for mediation and arbitration, where the procedure is less rigid than that of a trial. In the case of mediation, chatbots or autonomous vehicle programs are being resorted to, and efforts to develop artificial intelligence programs that can be used in the mediation field are ongoing as well. Furthermore, small claims cases can also be resolved using online dispute resolution procedures. Estonia, located in Northern Europe, is already using an artificial intelligence system to solve small claims cases. Recently, there is much interest in the introduction of discovery in Korea, and if the electronic discovery is also used, the need for artificial intelligence will increase in this regard. Although there are many problems to overcome when artificial intelligence is employed in the judicial system, its use seems unavoidable and prospects are bright. In the future, continuously studying how humans and artificial intelligence will cooperate in resolving conflicts will be necessary. 이 글은 인공지능을 민사분쟁의 해결에 어떻게 활용할 수 있는지에 대한 문제를 다룬다. 전자상거래의 규모가 나날이 증가하면서 이와 관련된 분쟁 역시 증가하고 있는데, 온라인 분쟁해결절차(ODR)는 이러한 분쟁을 해결하기 위해 적합한 방법으로 평가받고 있다. 특히 최근 4차 산업혁명의 핵심인 인공지능이 법률 분야에 접목되면서 인공지능을 활용한 온라인 분쟁해결절차가 더욱 주목을 받고 있다. 최근 코로나바이러스로 인한 비대면 시대를 경험하면서 인공지능을 활용한 온라인 분쟁해결절차는 사법 분야에서도 각광을 받고 있다는 점에서 중요한 의미를 지닌다. 인공지능을 민사소송에 활용함으로 비대면 사법 절차를 구축할 수 있을 뿐 아니라 법관 수 부족을 해결할 수 있다. 그리고 불공평한 재판을 감소시키고 재판 비용을 절감시키는 점 등의 효과가 있을 것으로 보인다. 하지만 인공지능 활용에 대한 우려의 목소리도 간과할 수 없다. 인공지능 시스템을 제대로 활용하기 위해 이를 어떻게 통제하는가 하는 점이 우려되고 있는데, 이는 윤리적인 문제와 연결된다. 또한 인공지능의 장점을 활용하기 위해서는 양질의 데이터를 대량으로 확보할 필요가 있는 만큼 이를 위해 판례와 같은 데이터를 대폭 공개할 필요가 있다. 이 경우 어떻게 개인정보를 보호할 것인가 하는 점을 역시 고려해 보아야 한다. 당사자의 사적 자치 원칙이 중요시되는 민사 분야는 인공지능을 적극적으로 활용하여 시도하기에 적절하다고 생각한다. 먼저 재판에 비하여 절차가 엄격하지 않은 조정과 중재에 인공지능을 활용할 수 있을 것이다. 조정의 경우 챗봇이나 자율주행자동차 프로그램을 활용해 해결하려는 노력이 꾸준이 제기되고 있으며, 중재 분야에서도 인공지능 프로그램 개발을 시도하고 있다. 또한 북유럽에 위치한 에스토니아에서 볼 수 있듯이 소액사건 해결에도 이미 인공지능 시스템을 이용하고 있다. 최근 한국에서 증거개시제도의 도입에 대하여 논의되는 바, 여기에 전자증거개시제도까지 활용하게 된다면 인공지능의 필요성이 더욱 높아질 것이다. 인공지능을 활용한 민사분쟁 해결에 여러 가지 문제들이 있지만, 분쟁해결에 인공지능을 활용하는 것은 사법제도의 발전을 위해 피할 수 없는 사실로 보인다. 또한 법정보기술산업의 규모가 크게 증가하는 현실을 볼 때 그 전망은 밝다고 할 수 있다.