비즈니스 영역에서 인공지능 기술의 활용과 인공지능 윤리

배재권 한국지식정보기술학회 2022 한국지식정보기술학회 논문지 Vol.17 No.6

Artificial intelligence is leading the convergence of technologies and industries by converging with various original technologies in the era of the 4th industrial revolution. Technology convergence is a series of processes that collect large amounts of data (Big Data) through the Internet of Things (IoT) and wearable devices, store and manage data in the cloud server, and extract meaningful big data using artificial intelligence. The development of artificial intelligence is accelerating, and the applicability of artificial intelligence technology in the business field is also increasing. In this study, the applicability of artificial intelligence-based predictive analysis models is reviewed in business areas, and artificial intelligence application business areas (requirement forecasting and R&D optimization areas, product and service cost reduction and quality improvement, product and service promotion optimization areas, personalization provided user experience) was derived. In addition, five principles of artificial intelligence ethics were presented to minimize the side effects of artificial intelligence technology and reduce the failure factors of artificial intelligence introduction. Artificial intelligence should be constructed for the public welfare and advantage(profit) of mankind. Artificial intelligence must operate according to the principles of transparency and fairness. Artificial intelligence should not violate the data basic law (rights) or privacy of individuals, interest group and communities. All citizens should have the right to be educated to enjoy mental, emotional and economic prosperity through artificial intelligence. Never endow artificial intelligence with autonomous powers to harm, destroy, or deceive humans.

인공지능과 약관

최경진(Choi, Kyoungjin) 한국비교사법학회 2021 비교사법 Vol.28 No.3

인공지능에 의한 계약(이하에서 “인공지능 계약”이라 한다)이 증가함에 따라 인공지능 계약에서의 약관(이하 “인공지능 약관”이라 한다)으로 인하여 소비자에게 피해가 발생하지 않도록 하면서도 동시에 인공지능의 발전도 가로막지 않도록 인공지능 시대에 약관은 어떠한 의미를 가지고 법적으로 어떻게 다루어야 할 것인가에 관하여 깊이 있는 논의가 필요하다. 이러한 시각을 바탕으로 하여 이 글에서는 인공지능을 이용하여 계약을 체결함에 있어서의 약관과 관련한 문제를 중심으로 논의를 진행하되, 인공지능 약관의 의의나 유용성, 유효성 및 법적 근거, 계약 내용으로의 편입 통제와 같은 약관법의 기초적인 문제를 중심으로 논의를 진행하였다. 발전된 인공지능 계약은 개별적인 당사자에 따라 계약을 체결하는 ‘개별화’와 함께 상황이나 시간의 변화에 따라 적절히 대응하여 변화되는 ‘현행화’의 두 가지 성격을 가지고 있고, 계약의 체결 과정에서 인공지능이 결정적 역할을 하여 약관을 형성한다는 특성을 도출할 수 있었다. 이처럼 인공지능 계약에 있어서 구체적인 약관의 내용이 인공지능에 의하여 확정되는 과정을 고려할 때 종래와 같이 사전에 계약내용의 모든 것이 확정되어 있는 고정적인 약관의 모습이 아니라 인공지능에 의하여 최종적으로 확정되는 ‘동적 약관’으로 새롭게 파악할 필요성이 인정된다. 동적 약관으로 파악하게 되면, 약관으로서의 인공지능에 대한 통제 및 투명성 의무의 도입과 같은 새로운 법적 접근이 필요하다. 즉, 종래의 약관의 계약 내용으로의 편입 통제와 약관 조항의 불공정성 판단을 통한 내용 통제는 인공지능 약관에도 그대로 적용할 수 있겠지만, 인공지능의 특성을 고려하여 특별히 계약 체결 과정에서의 투명성을 증진하기 위한 대응노력이 필요하다. 특히 투명성을 증진하기 위하여 인공지능 약관과 관련한 정보제공의무를 강화하거나 중립적인 제3자에 의한 지속적인 모니터링과 이를 통한 약관 조항의 통제 등을 제도화하는 논의가 필요하다. 인공지능과 관련한 약관규제의 논의는 이제 막 시작단계에 들어섰을 뿐이고 향후 인공지능의 발전과 계약 형성에의 적용례가 쌓여 가면 보다 더 세밀하게 논의하여 인공지능 시대에 맞는 약관규제법의 발전방안을 도출할 수 있을 것으로 기대한다. 이 글이 향후 인공지능 시대의 약관법 논의의 단초가 되기를 기대한다. As contracts by artificial intelligence (hereinafter referred to as “artificial intelligence contract”) increase, in-depth discussion is needed about the meaning and legal treatment of the Standard Form Contract in the age of artificial intelligence in order not to cause damage to consumers due to the terms of the artificial intelligence contract and at the same time not to block the development of artificial intelligence. Based on this perspective, this article discusses the issues related to the Standard Form Contract in concluding a contract using artificial intelligence. In particular, the discussion is focused on the fundamental issues, such as the meaning, usefulness, validity and legal basis of the Standard Form Contract in artificial intelligence contract, as well as the control of incorporation into the content of contract. The advanced artificial intelligence contract has two characteristics: ‘individualization’, in which contracts are concluded according to individual parties to contract, and ‘actualization’, which contracts change in response to changes in circumstances or time. Artificial intelligence plays a decisive role in the contract conclusion process and forms the Standard Form Contract. In this way, when considering the process in which the contents of specific terms and conditions are confirmed by artificial intelligence in an AI contract, it is far from the appearance of a fixed Standard Form Contract in which all the contents of the contract are confirmed in advance as in the past. Rather, it is necessary to recognize it as a Dynamic Standard Form Contract in which the contract is finally confirmed by artificial intelligence. Furthermore, in consideration of the characteristics of artificial intelligence, it is necessary to make special efforts to improve transparency in the process of the formation of the Dynamic Standard Form Contract . The discussion of standard form contract in artificial intelligence contract is only just beginning. With the development of artificial intelligence in the future, it is expected that a more detailed discussion will lead to the development of a Standard Form Contract regulation law suitable for the age of artificial intelligence. It is hoped that this article will serve as a starting point for the discussion of the Standard Form Contract law in the age of artificial intelligence in the future.

인공지능의 형사상 책임능력

최호진 연세대학교 법학연구원 2024 法學硏究 Vol.34 No.1

인공지능의 법적 책임과 지위에 대한 논의가 인공지능의 특성을 충분히 고려하지 못하고 있으며, 이에 대한 새로운 법적 논의가 필요하다. 특히 인공지능의 행위로 발생한 결과에 대한 책임의 귀속이 불명확하며, 현재의 법규범이 이를 충분히 다룰 수 있는지에 대한 의문이 제기되고 있다. 미래의 인공지능이 더욱 발전하면서 법적 책임과 지위에 대한 논의는 더욱 중요해질 것으로 예상된다. 인공지능의 책임 귀속을 확인하기 위한 두 가지 주요 연구방법론을 소개하였다. 자연인과 인공지능의 유사성 판단기준으로 사용될 수 있는 규범적 표지로 인격성(personality), 법인격 기준, 자율성 기준이 있다. 유사성을 기반으로 한 유비추론 연구방법론을 통해 인공지능에게 자연인과 동등한 책임을 부여하기 어렵다. 인공지능의 책임능력과 관련해서는 현재 인공지능에 대해서는 자유의지를 전제로 한 책임능력을 인정하기 어렵다. 인공지능의 형벌능력과 관련해서는 형벌 목적 관점과 예방효과의 불투명성, 형벌 정형성의 문제, 형벌감수성과 형벌수용의 문제, 형벌 부과 절차의 부재 등으로 인하여 형벌능력을 인정하기 어렵다. 현재는 인공지능에게 법인격을 부여하거나 형법 주체성을 논의할 시점이라기보다는 형사사법에 인공지능을 어떻게 도구적으로 활용할 것인가에 대하여 논의할 시점이라고 생각한다. 대신, 인공지능을 새로운 위험원으로 보고 이로 인한 위험을 관리하는 ‘인공지능 관리법’이 필요하다. 인공지능에 대하여 허용된 위험의 법리를 적용한 특별법이 필요하다. Discussions on the legal responsibility and status of artificial intelligence do not fully consider the characteristics of artificial intelligence, and new legal discussions are needed. In particular, the attribution of responsibility for the consequences arising from the actions of artificial intelligence is unclear, and questions are raised as to whether the current legal norms can sufficiently deal with it. As artificial intelligence develops further in the future, discussions on legal responsibility and status are expected to become more important. Two main research methodologies were introduced to confirm the attribution of responsibility to artificial intelligence. As normative markers that can be used as criteria for determining the similarity between natural persons and artificial intelligence, there are standards for personality, legal personality, and autonomy. It is difficult to give artificial intelligence the same responsibility as natural persons through a ubiquitous research methodology based on similarity. Regarding the responsibility ability of artificial intelligence, it is difficult to recognize the responsibility ability that presupposes free will for artificial intelligence at present. Regarding the punishment ability of artificial intelligence, it is difficult to recognize the punishment ability due to the opacity of the purpose of punishment and the prevention effect, the problem of punishment formality, the problem of punishment sensitivity and acceptance of punishment, and the absence of a punishment imposition procedure. I think it is not the time to give artificial intelligence a legal personality or discuss the subjectivity of criminal law, but rather to discuss how to use artificial intelligence as a tool in criminal justice. Instead, there is a need for an ‘Artificial Intelligence Management Act’ that sees artificial intelligence as a new source of risk and manages the risks resulting from it. There is a need for a special law that applies the law of allowed risk to artificial intelligence.

인공지능 창작 문예물의 저작권 문제에 관한 고찰 -저자와 저작물의 법적 보호 가능성을 중심으로

오태호 한국문예창작학회 2024 한국문예창작 Vol.23 No.1

이 글은 생성형 인공지능 시대를 통과하고 있는 2024년 2월 인공지능이 창작한 문학 작품의 저작권 문제를 살펴보기 위해 작성된다. 구체적으로는 미국에서 저작권 문제의 법적 논쟁을 보여준 ‘그래픽노블’ 『새벽의 자리아』 사건의 개요를 검토하고, ‘인공지능 비람풍’의 장편소설 『지금부터의 세계』와 ‘인공지능 시아’의 시집 『시를 쓰는 이유』에 대해 ‘저자와 저작물의 판단’을 유추해 보며, 기성 작가가 대화형 인공지능인 ‘ChatGPT’를 활용하여 소설을 공동 창작하여 출간한 단편소설집 『매니페스토』를 통해 ‘저자와 저작물, 저작권’ 등의 판단에 대한 추론을 진행해 보았다. 결론적으로 인간 소설가 김태연과 ‘인공지능 비람풍’의 작업으로 탄생된 『지금부터의 세계』는 ‘최초의 인공지능 창작 장편소설’이라기보다는 김태연과 인공지능이 따로 작업을 수행한 뒤 짜깁기를 통해 만들어낸 ‘저자 김태연과 인공지능 비람풍의 공동창작물’에 해당한다. ‘인공지능 시아’의 시집 『시를 쓰는 이유』는 저자 ‘슬릿스코프(=김제민과 김근형)’가 인공지능 시아를 활용하여 만들어낸 ‘인공지능 시아의 단독창작물’이다. 『매니페스토』는 ‘소설가 7인과 ChatGPT’가 각각 협업을 수행하여 8인의 공동저자를 표방하며 만들어낸 공동창작물에 해당한다고 주장하지만, ‘인간만이 저자’라는 법적 판단을 전제로 한다면 7인의 소설가만이 저자이며 ChatGPT는 도구로 활용되었다고 판단된다. 이렇게 보면 앞으로도 인간과 인공지능 사이에서 ‘저자와 저작물, 저작권 관련 논의’는 지속될 가능성이 높으며, 누가 어떻게 창작하고 누가 어떻게 얼마나 텍스트와 공감할 수 있을 것인가가 최대의 화두가 될 것으로 전망된다. 다만 향후 온전히 인공지능의 창작물로 공표되거나 인간 창작 주체가 인공지능의 ‘도구적 활용’을 명기하여 창작된 작품이 확산된다면 문학 시장은 보다 폭넓은 외연을 확보하게 될 전망이다. 왜냐하면 전문가적 글쓰기로서의 순수문학에 대한 진입장벽이 높은 독자와 예비 작가들이 생성형 인공지능 도구를 활용하여 대중적 글쓰기를 수행함으로써 새로이 저자와 독자의 외연을 넓힐 수 있다는 점에서 유의미한 대중문학의 장이 열릴 것이기 때문이다. This article is written to examine the copyright issue of literary works created by artificial intelligence in February 2024, which is going through the artificial intelligence era. Specifically, we reviewed the outline of the case of the “comic book” Zarya of the Dawn that showed the legal debate over copyright issues in the United States, inferred the “judgment of authors and works” on the novel “The World from Now” and the poetry collection of “Artificial Intelligence SIA” Why I Write Poems. We collaborated with the interactive artificial intelligence “ChatGPT” and established writers to create novels, and made inferences on the judgments of “authors, works, and copyrights” through the recently published short story collection Manifesto. In conclusion, the feature novel The World from Now created by the work of Kim Taeyeon and ‘Artificial Intelligence Virampung’ is not a ‘first artificial intelligence creation feature novel’, but rather a ‘collaborative creation of author Kim Taeyeon and artificial intelligence Virampung’ created by collaboration between Kim Taeyeon and artificial intelligence. The poetry collection of ‘Artificial Intelligence SIA’ Why I Write Poems is a ‘Exclusive Creation of Artificial Intelligence SIA’ created by author Slitscope and Kakao Brain using artificial intelligence SIA. Manifesto corresponds to a co-creation created by 7 Novelists and ChatGPT to advocate 8 co-au-thors in collaboration, but given the legal judgment that ‘Only Humans are Authors’, it is judged that only 7 novelists are authors, and ChatGPT was used as a tool. In this way, “discussions on authors, works, and copyrights” between humans and artificial intelligence are likely to continue in the future, and it is expected that who will be able to create, how, and how much they will be able to empathize with the text will be the biggest topic.

인공지능이 의사결정에 미치는 영향에 관한 연구: 인간과 인공지능의 협업 및 의사결정자의 성격 특성을 중심으로

이정선(JeongSeon Lee),서보밀(Bomil Suh),권영옥(YoungOk Kwon) 한국지능정보시스템학회 2021 지능정보연구 Vol.27 No.3

Artificial intelligence (AI) is a key technology that will change the future the most. It affects the industry as a whole and daily life in various ways. As data availability increases, artificial intelligence finds an optimal solution and infers/predicts through self-learning. Research and investment related to automation that discovers and solves problems on its own are ongoing continuously. Automation of artificial intelligence has benefits such as cost reduction, minimization of human intervention and the difference of human capability. However, there are side effects, such as limiting the artificial intelligence’s autonomy and erroneous results due to algorithmic bias. In the labor market, it raises the fear of job replacement. Prior studies on the utilization of artificial intelligence have shown that individuals do not necessarily use the information (or advice) it provides. Algorithm error is more sensitive than human error; so, people avoid algorithms after seeing errors, which is called “algorithm aversion.” Recently, artificial intelligence has begun to be understood from the perspective of the augmentation of human intelligence. We have started to be interested in Human-AI collaboration rather than AI alone without human. A study of 1500 companies in various industries found that human-AI collaboration outperformed AI alone. In the medicine area, pathologist-deep learning collaboration dropped the pathologist cancer diagnosis error rate by 85%. Leading AI companies, such as IBM and Microsoft, are starting to adopt the direction of AI as augmented intelligence. Human-AI collaboration is emphasized in the decision-making process, because artificial intelligence is superior in analysis ability based on information. Intuition is a unique human capability so that human-AI collaboration can make optimal decisions. In an environment where change is getting faster and uncertainty increases, the need for artificial intelligence in decision-making will increase. In addition, active discussions are expected on approaches that utilize artificial intelligence for rational decision-making. This study investigates the impact of artificial intelligence on decision-making focuses on human-AI collaboration and the interaction between the decision maker personal traits and advisor type. The advisors were classified into three types: human, artificial intelligence, and human-AI collaboration. We investigated perceived usefulness of advice and the utilization of advice in decision making and whether the decision-maker’s personal traits are influencing factors. Three hundred and eleven adult male and female experimenters conducted a task that predicts the age of faces in photos and the results showed that the advisor type does not directly affect the utilization of advice. The decision-maker utilizes it only when they believed advice can improve prediction performance. In the case of human-AI collaboration, decision-makers higher evaluated the perceived usefulness of advice, regardless of the decision makers personal traits and the advice was more actively utilized. If the type of advisor was artificial intelligence alone, decision-makers who scored high in conscientiousness, high in extroversion, or low in neuroticism, high evaluated the perceived usefulness of the advice so they utilized advice actively. This study has academic significance in that it focuses on human-AI collaboration that the recent growing interest in artificial intelligence roles. It has expanded the relevant research area by considering the role of artificial intelligence as an advisor of decision-making and judgment research, and in aspects of practical significance, suggested views that companies should consider in order to enhance AI capability. To improve the effectiveness of AI-based systems, companies not only must introduce high-performance systems, but also need employees who properly understand digital information presented by AI, and can add non-digital

인공지능과 인권

김병록 조선대학교 법학연구원 2024 法學論叢 Vol.31 No.1

Human rights and artificial intelligence are two important concepts that interact with each other in today's rapidly developing digital age. How will artificial intelligence technology affect human rights that are spreading throughout people's lives? This question has become an increasing focus of attention. Artificial intelligence is the field that enables computer systems to simulate human-like thinking and decision-making capabilities. However, some of the problems that arise from artificial intelligence may have a direct impact on human rights. The interaction between human rights and artificial intelligence is a complex problem. While artificial intelligence technology has the potential to harm people and human rights, it also has great potential to be used to protect and promote human rights. Therefore, artificial intelligence technology must be developed and used while observing human rights through an approach supported by an ethical and legal framework. In this paper, after reviewing human rights issues such as artificial intelligence and freedom of expression, artificial intelligence and freedom of privacy, artificial intelligence and bias, hate, discrimination, artificial intelligence and defamation, artificial intelligence and copyright, we will discuss the issue of legal response to artificial intelligence. Regarding the relationship between the state and science and technology, the Constitution stipulates that "the state shall endeavor to develop the national economy through innovation of science and technology and the development of information and manpower (Article 127), and the rights of authors, inventors, and scientists are protected by law (Article 22)." It declares that the state will actively plan and form for the promotion of science and technology and lead in a certain direction. In relation to these constitutional provisions, the establishment and implementation of science and technology policies can be seen as an important duty given to the Republic of Korea as a democratic welfare state. It can be said that the main legislative duty is to achieve a balance between the value of promoting the development and utilization of artificial intelligence systems and the appropriate response to the risks that artificial intelligence can pose. To achieve a balance between artificial intelligence and human rights, it is necessary to comply with ethical values, use transparent and responsible systems, update legal regulations, and adopt an approach that guarantees stakeholder participation. By doing so, we will be able to build a future where human rights are protected while taking advantage of the potential benefits of artificial intelligence.

Association between Company’s Medical Artificial Intelligence and Growth Opportunities

( Min-soo Kim ),( Hyeon-ji Lee ),( Jeong-min Yang ),( Jae-hyun Kim ) 융합연구학회 2024 융합연구학회지 Vol.8 No.1

The technological and industrial advancements in the field of medical artificial intelligence (AI) may be associated with the rapid growth of companies in this sector. The purpose of this study was to examine the relationship between the growth opportunities in the medical AI industry and companies engaged in one or more AI-related businesses. Secondary data analysis was performed using the 2021 artificial intelligence industry survey data collected from September 2021 to November 2021. In order to observe the relationship between the medical artificial intelligence industry and company growth opportunities, the medical artificial intelligence industry, company growth opportunities, difficulties, Artificial intelligence start year, Main business field, sales volume, listing status, corporate affiliated research institute, AI main business, Percentage of Data Utilization variables, Rao-Scott cross-test, and logistic regression analysis including covariates were performed. Among all companies, when the AI application industry included medical AI, the OR for the company growth opportunities was 1.80 (P-value 0.031, 95% CI 1.06-3.06). For the medical artificial intelligence industry, the OR was 2.28 (P-value 0.016, 95% CI 1.17-4.46). In artificial intelligence companies, medical artificial intelligence-related industries can play a role in enhancing the growth potential of companies. In order to improve the growth potential of artificial intelligence companies, there is a need to consider the implementation of medical artificial intelligence-related industries and implement support policies that consider the timing of the company’s entry into the artificial intelligence industry. Therefore, the government needs to revise industry policies to actively establish laws, regulations, and policies, and further enable medical AI to perform a smooth role as a new growth engine.

인공지능 생성물에 대한 중국에서의 논의 - Feilin Law Firm v. Baidu 사건과 Tencent Dreamwriter 사건을 중심으로 -

홍대운 ( Hong Dae Un ),이주연 ( Lee Ju Yoen ) 중앙대학교 법학연구원 문화.미디어.엔터테인먼트법연구소 2021 문화.미디어.엔터테인먼트 법 Vol.15 No.1

인공지능이 초래한 지적재산권법상 여러가지 쟁점이 전 세계적으로 논의되고 있지만, 이 문제는 아직 해결되지 못한 채 미궁 속에 있다. 이러한 상황에서 2019년 인공지능분야의 선도국가에 속하는 중국에서 인공지능과 저작권 문제를 다룬 2건의 판결-베이징 인터넷법원이 선고한 페일린(菲林) 법률사무소 대 바이두(Baidu, 百度) 사건 판결과 광동성 선전시 난산구 인민법원이 선고한 텐센트 드림라이터(Tencent Dreamwriter) 사건 판결-이 내려져서 우리나라를 비롯한 전세계의 주목을 받았다. 특히 뒤의 판결은 인공지능 창작물에 대한 저작권을 인정한 최초의 사례로 소개되기도 하였다. 그러나 이두 사건 모두 법원이 문제된 어문을 인공지능을 도구로 활용하였거나 인공지능이 보조하여 작성한 ‘인간의’ 창작물이라고 보아 저작권을 인정한 사례라는 점에서 동일하다. 다만 저작물의 독창성 내지 창작성을 판단하는 기준에서 베이징 인터넷법원은 독창성을 독자적 요건으로 보고 객관적 기준에 따라 판단한 반면, 선전시 난산구 인민법원은 인간의 창작을 독창성 요건의 일부로 보아 주관적 기준으로 판단하였다는 점에서 차이가 있다. 이런 의미에서는 인공지능 창작물에 대하여 보다 호의적으로 판단한 것은 베이징인터넷법원이라고 할 수 있다. 인공지능과 저작권 문제에 관한 선행 연구들과 현재 진행중인 논의를 분석한 결과 정작 논의의 첫 출발점인 인공지능이 관여된 창작물에서 ‘인간의’ 창작물과 ‘인공지능의’ 창작물을 어떻게 정의하고 나눌지에 대한 통일된 견해가 정립되지 못한 상황임을 알 수 있었다. 이러한 여건 속에서 위 두 사건은 각 법원이 나름의 논리로 인공지능이 관여된 창작물에 대한 분쟁을 해결하였다는 점에서 많은 의미가 있고 연구할 가치도 높다. 또한 이 두 판결은 인공지능 산업을 부양하고자 하는 중국 정부의 정책을 반영한 사례로 평가할 수 있다. Although various issues in the intellectual property law brought about by artificial intelligence are being debated around the world, these issues have not yet been resolved and are in a labyrinth. Under these circumstances, in 2019, two rulings dealing with artificial intelligence and copyright issues― Feilin Law Office vs. Baidu decided by Beijing Internet Court and the Tencent Dreamwriter case decided by Nanshan District People’s Court, Shenzhen, Guangdong Province were made ― in China, one of the leading countries in the field of artificial intelligence. The two cases attracted attention around the world, including Korea. In particular, the latter has been known as the first case of acknowledging copyright for creations by artificial intelligence. However, in both cases, courts held that works at issue were copyrighted works on the ground that they were created by humans using artificial intelligence or assisted by artificial intelligence. Nonetheless, in determining the originality of a work, the two courts employed different standards: The Beijing Internet Court considered originality as an independent requirement and judged it according to an objective standard, whereas the Nanshan People’s Court of Shenzhen regarded human creation as a subjective criterion as part of the originality requirement. In this sense, the Beijing Internet Court arguably had favorable attitude toward creations by artificial intelligence. An analysis of the existing and ongoing studies on artificial intelligence and copyright issues reveals that no consensus has been reached on the starting point of the discussion―how to define and distinguish human creations and creations by artificial intelligence in creations involving artificial intelligence. Under these circumstances, the rulings of the above two cases are of great significance and deserve further study in that the two courts resolved disputes over creations involving artificial intelligence based on their own logic. In addition, these two rulings can be regarded as reflecting the Chinese government’s policy to boost the artificial intelligence industry.

인공지능에 의한 발명의 발명자성에 대한 소고

이상호 한국지식재산학회 2022 産業財産權 Vol.- No.71

Under Korean patent laws, a patent right is initially vested in an inventor, and the justification of the patent right needs to be reviewed under the consideration of whether the recipient can be qualified as an inventor. This paper reviews three philosophical justifications for patent rights and applies them to artificial-intelligence-generated inventions and concludes that an inventor should be a natural person, and artificial intelligence's inventorship is not justified. First, under Locke's labor theory, every human being has property rights to his own person from birth and can expand his ownership, including patent rights, through his manual or mental labor. Artificial intelligence is a man-made object and does not have any basis for expanding property rights therefrom through labor as it is bereft of any innate rights whatsoever to own itself. Under Hegel's personality theory, a natural person has "the right to direct his will upon any object" and is a bearer of free will, which also can be a basis of the right to a patent. Free will is not merely the act of calculation, it's a reflection of Being itself. Artificial intelligence cannot have such self-purpose and dignity as human beings have and thus cannot be justified as an inventor. Under Bentham's Utilitarian view, it is presumed that an individual responds to incentives, and that this response benefits society. However, artificial intelligence lacks any motivation to devise an invention seeking a monopoly. One might argue that if artificial intelligence's inventorship is denied and no natural persons are qualified as an inventor and no one would be able to reap the benefits arising from the invention generated by artificial intelligence. It might be concerning as this will diminish scientists' motivation to develop the technology and eventually lead to a failure to maximize the utility in society as a whole. However, scientists' efforts should be protected only to the extent appropriate to their contributions. No one should be granted the rights to an invention that he or she has not contributed to. Otherwise, once the artificial intelligence technology reaches AGI (artificial general intelligence) or ASI (artificial superintelligence), only small number of owners would enjoy the limitless fruits of such artificial intelligence. Additionally, once artificial intelligence gains legal status, it can expand its rights boundlessly in society, which would pose a menace to humankind. In these cases, the inventorship of artificial intelligence should be denied under the Utilitarian view as it fails to maximize its utility in society. Accordingly, it is submitted that only natural persons are eligible for an inventor. If artificial intelligence generates an invention with no human contribution, the invention becomes the property of the public. However, if a natural person's contribution is insufficient to satisfy the inventorship requirement, it may be necessary to expand the scope of inventorship to include partial contributions from natural persons. In this regard, the work for hire doctrine under copyright provides a hint on how to enlarge the boundary of inventorship. It is suggested that a natural person employer who defines a problem and plans to find the solution using artificial intelligence, as a creative employee, should be credited as an inventor under the ‘invention for hire’ doctrine even if his contribution to a conception of an invention does not meet the current inventorship requirements. 특허법에 따르면, 특허권은 원시적으로 발명자에게 주어지므로 특허권의 정당성을 논함에 있어 권리를 받는 자가 발명자로 인정되어 권리를 누리는 것이 합당한지 검토해야 할 필요가 있다. 본 고는 특허권에 대한 세 가지 철학적 정당성을 검토하고 인공지능에 의한 발명에 적용하여 오직 자연인만 발명자로 인정받을 수 있으며 인공지능의 발명자성은 정당화되지 못한다고 결론 내렸다. 먼저, 로크의 노동이론에 따르면 모든 인간은 생득적으로 자기 자신에 대한 재산권적 권리를 가지며 특허권을 포함해 자신의 정신적 육체적 노동을 통해 소유권을 확장해 나갈 수 있다. 하지만 인공지능은 사람이 만든 객체에 불과하여 자기 자신으로부터 노동을 통해 확장할 수 있는 어떤 내재적 권리의 기반을 가지고 있지 못하다. 헤겔의 인격 이론에 따르면 자연인은 자신의 의지를 객체에 투영할 수 있는 권리를 가지며 특허권의 근거가 되는 자유의지의 담지자이기도 하다. 자유의지는 단순한 정보의 선택을 의미하지 않으며 존재 자체로부터 나오는 자기 자신의 목적의 투영이다. 인공지능은 인간과 같은 자기 목적성이나 존엄성을 가지고 있지 못하므로 발명자로 정당화될 수 없다. 벤담의 공리주의에 따르면, 인간은 유인에 반응하는 존재로 상정되며 이러한 인간의 반응이 사회의 유용을 증대시키는 역할을 한다. 하지만, 인공지능은 이러한 유인에 반응하여 발명의 독점권을 추구하는 존재가 아니다. 혹자는 만약 인공지능의 발명자성이 부정되고 발명자로 인정될 수 있는 자연인이 존재하지 않는 경우, 누구도 인공지능이 발명한 결과물에 대한 유익을 취할 수 없게 될 것이고, 이는 결국 인공지능을 연구하는 과학자들의 사기를 저하해 사회 전체 유익이 최대화되지 못한다는 위험을 불러올 수 있다고 염려할 수 있다. 하지만 과학자들의 노력은 그에 상응하는 정도의 보호만 받을 필요가 있다. 누구도 자신이 발명하지 않은 것에 대한 권리를 주장할 수는 없다. 인공지능기술이 초인공지능 내지는 강인공지능에 이르게 되면 소수의 사람이 인공지능이 개발한 열매를 누릴 수 있는 위험이 있다. 또한, 인공지능이 자신의 법률적 지위를 가지게 되면 특허권은 자신의 발명에 대한 권리를 사회에서 무한대로 확장할 수 있는 근거가 될 수가 있고, 이는 인류가 위협될 수 있다. 이 두 경우 모두 인공지능을 발명자로 인정하는 것은 부정되어야 하는데 이는 공리주의적 관점에서 사회 전체적 유용성을 최대화하지 못하기 때문이다. 따라서, 자연인만 발명자로 인정받아야 하며, 만약 인간의 개입 없이 인공지능에 의한 발명이 이루어지면 이는 결국 공공재로 취급되어야 한다. 그러나 자연인이 인공지능을 사용하며 발명에 이르는 과정을 기획한 경우의 비록 발명의 착상에 대한 발명자의 기여가 비록 발명자 요건을 만족시키는 정도는 아니라 하더라도 발명자성의 범위를 보다 확대하여 발명자성을 부여하는 것이 합리적이라 하겠다. 이와 관련해서 저작권법의 업무상 저작물 제도는 발명자성의 외연을 넓히는 단초를 제공한다. 본 고는 자연인 사용자가 문제를 정의하고 해결책을 찾기 위해 인공지능을 창의적 근로자로 사용한 경우 해당 자연인의 발명 착상에 대한 기여가 비록 특허법에서 요구하는 발명자성에 미치지 못한다고 하더라도 업무상 발명(invention for hire)제도를 통해 발명자로 인정해줄 것을 제안한다.

인공지능(AI) 시대의 도래와 법제도의 방향에 관한 논의 - 독일의 인공지능 정책을 중심으로 -

송기복 한국경찰법학회 2020 경찰법연구 Vol.18 No.2

Artificial intelligence is gradually moving away from the field of research and is being used throughout everyday life, including self-driving, chatbot, biometric recognition, smart home, and medical devices. In addition, the utilization and application of big data is affecting various fields such as society, economy, politics, and law. Already in major advanced countries, discussions have been held to adjust the current legal system for the protection of data protection and privacy in telecommunications, industry, medical and financial sectors, the risk of discrimination by artificial intelligence, the issue of responsibility for artificial intelligence systems, and the establishment of ethical and artificial intelligence policy systems for artificial intelligence. Meanwhile, Germany has developed a high level of artificial intelligence research infrastructure (Infra) in connection with the federal government, state governments, research institutes, industries, and universities, and has developed widely in social, economic, and industrial sectors to make useful use of the benefits and convenience that artificial intelligence technology will bring. On the other hand, the legal system is being reviewed to cope with changes that will occur in various fields such as society, ethics, legal system, and culture due to the emergence of artificial intelligence technology and to prepare for the risks posed by artificial intelligence. First of all, based on the ethics needed in a series of processes such as designing, manufacturing, and utilizing artificial intelligence through technical standardization, and academic dialogue such as social, economic, and cultural sectors, the expansion of convergence on artificial intelligence's social impact, future effects by technology, and discussions on designing artificial intelligence to prevent artificial intelligence from threatening human safety. In order to establish a legal system that can utilize artificial intelligence technology without conflict with existing social values and legal systems, this school intended to provide a forum for discussion on the direction of artificial intelligence policy in Korea, although it is insufficient. 인공지능은 점차 연구의 장(場)에서 벗어나 자율주행, 채팅봇, 생체 인식, 스마트 홈, 의료 기기 등 일상생활 곳곳에서 활용되고 있다. 또한 빅데이터의 활용과 응용은 사회·경제·정치·법률 등 다양한 분야에서 영향을 미치고 있다. 이미 주요 선진국에서는 자율주행 및 얼굴 인증 시스템의 실용화에 따른 안전성과 개인정보 보호를 위해 통신·산업·의료·금융 분야 등에서 데이터 보호와 프라이버시 보호를 위한 규제와 인공지능에 의한 차별의 위험성, 인공지능 시스템에 대한 책임의 문제, 인공지능의 윤리 및 인공지능 정책 시스템 구축을 위한 현행 법제도의 조정을 위한 논의가 지속되고 있다. 한편 독일은 연방정부와 주 정부, 연구기관, 산업, 대학 등과 연계하여 고도의 인공지능 연구 인프라(Infra)를 구축하고 인공지능 기술이 가져올 이익과 편리함을 유용하게 활용하기 위하여 사회·경제·산업 분야 등에서 폭넓게 전개해 나가고 있다. 한편으로 인공지능 기술의 대두로 사회·윤리·법제도·문화 등 다양한 분야에서 초래될 변화에 대응하고 인공지능이 초래할 위험성에 대비하고자 법제도의 검토를 진행하고 있다. 우선 기술적 표준화를 통한 인공지능의 설계·제조·활용 등 일련의 과정에서 필요한 윤리와, 사회·경제·문화 분야 등 학제적 대화를 바탕으로 인공지능의 사회적 영향, 기술에 의한 미래의 영향에 관한 융합의 확대, 인공지능 기술이 인간의 안전을 위협하지 않도록 인공지능을 설계하는 논의를 지속하고 있다. 본고에서는 인공지능의 발전과 함께 기존의 사회적 가치관, 법제도와 충돌하지 않고 인공지능 기술을 활용할 수 있는 법제도의 정착을 위하여 독일의 인공지능 정책을 참조하여 부족하지만 우리나라의 인공지능 정책의 방향을 제시하는 논의의 장을 마련하고자 하였다.