인공지능 발전과 신뢰 기반 조성 등에 관한 기본법과 의료 인공지능의 규제

이원복 법제처 2025 법제 Vol.708 No.-

2024년 12월 제정된 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 인공지능 기술의 발전과 신뢰성 확보를 목표로 하는 포괄적 법률로 정부의 정책 방향 설정과 실행을 위한 국가의 의무 규정을 포함한다. 또한 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템을 "고영향 인공지능"으로 정의하고 안전성과 신뢰성을 높일 수 있는 조치와 함께 자율적 검증과 인증을 장려한다. 그러나 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 인공지능 사업자의 의무 위반에 대하여 형사 처벌등의 강한 제재를 예정하고 있지 않은 半연성규범으로 평가된다. 이는 보다 먼저 입법된 EU의 Artificial Intelligence Act가 위반시 무거운 제재 규정을 두고 있는 것과 대비가 된다. 연성규범으로 인공지능과 같은 신기술을 규율하는 것은 강제력이 없다는 단점도 있지만, 개정이 쉬우므로 변화에 빠르게 대처할 수 있고 이해 당사자들의 신뢰를 이끌어내기 용이하다는 장점이 있다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 이와 같은 연성규범의 장점을 발휘할 수 있다. 특히 의료 AI에 국한하여 보면 우리나라는 이미 식품의약품안전처가 의료기기법과 디지털의료제품법을 통하여 규제를 하고 있고, 연구대상자 보호제도처럼 연성규범이지만 경성규범과 같은 규범력을 획득한 선례도 있으므로, 半연성규범의 실질을 가진 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 의료 AI의 규율에 적절하다. EU의 Artificial Intelligence Act가 기존 EU의 Medical Devices Regulation에 의한 의료 AI 규제와의 중복 또는 충돌, 임상시험의 근거 미비, 의료인 및 의료기관에 대한 부담스러운 의무 부과, AI가 탑재된 의료기기의 위험등급 상향 문제 등의 비판을 받고 있는데, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 의료 AI에 대하여 적용되는 과정에서 유사한 부작용이 발생할 소지가 있으나 법률의 半연성규범적 성격이 이를 어느 정도 완화해 줄 것으로 예상된다. 종합하면 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 안전성과 신뢰성을 확보하는 동시에 혁신을 저해하지 않도록 균형을 모색한 법으로 평가되고 탄력적인 법 운용을 통하여 의료 AI 산업에 미치는 부정적 영향을 최소화할 수 있는 여지가 있다. 다만, 향후 시행 과정에서 의료를 포함하여 각 영역별 특성을 고려한 운용 및 중복 규제 방지책 마련이 필요하다. South Korea’s "Framework Act on the Development of Artificial Intelligence and the Creation of a Foundation for Trust" ("Framework Act on Artificial Intelligence"), enacted in December 2024, is a comprehensive law aimed at securing the development and reliability of artificial intelligence technology and includes mandatory regulations on the state to set and implement the government's policy direction. In addition, the Framework Act on Artificial Intelligence defines AI systems that have a significant impact on human life, physical safety, and fundamental rights or are likely to pose a risk as "high-impact artificial intelligence". The Act encourages voluntary validation and certification of "high-impact artificial intelligence", along with measures to enhance safety and reliability, without imposing strong sanctions such as criminal penalties or heavy fines. In this regard, the Framework Act on Artificial Intelligence is a "semi-soft law." The semi-soft law approach is in contrast to the EU's earlier Artificial Intelligence Act, which has a variety of mandatory regulations and heavy penalties for violations. Regulating innovative technologies, such as artificial intelligence, with soft law has many advantages: it can respond to technological advances quickly and is better at drawing consensus and building the trust of stakeholders. For medical AI in particular, a soft-law approach makes even more sense: Korea's Ministry of Food and Drug Safety already regulates medical AI through the Medical Devices Act and the Digital Medical Products Act, and soft law plays a valuable role in the healthcare sector and is widely respected and followed. The Framework Act on Artificial Intelligence will likely become an effective norm for medical AI in South Korea. The Framework Act on Artificial Intelligence seeks to balance safety and reliability while not hindering innovation. A flexible implementation of the law that takes into account the uniqueness of different industries is still necessary to minimize the negative impact of horizontal regulation.

형사사법 절차에서 인공지능 기술의 활용과 기술경영에 관한 연구

김태율,정혜련 한국경영법률학회 2020 經營法律 Vol.31 No.1

The information and communications technology area has achieved innovative development, and the term "Artificial Intelligence" (AI) is becoming a common language. Topics such as self-driving cars, artificial intelligence speakers, AlphaGo and artificial intelligence robots can also be seen appearing frequently in the media, the Internet and dramas. As the use of artificial intelligence technology increases in various fields, it is expected that artificial intelligence technology will be introduced and utilized in the criminal justice field, There is a need to discuss legal and normative issues that will be caused by artificial intelligence's actions and the character of the acts, criminal capabilities, and criminal responsibility capabilities. And in this study, the definition and concept of artificial intelligence were reviewed generally, and the legal status and character of the responsibility that could be caused by the use of artificial intelligence were discussed in criminal law, and discuss whether artificial intelligence can be recognized as a member of the Criminal Justice Act. In addition, examined the domestic special law on artificial intelligence and the newly enacted legislation and based on recent trends, such as identifying major issues commonly mentioned by checking related laws abroad, special laws related to artificial intelligence are being enacted in Korea, but legislation or policies have yet to be implemented from a comprehensive perspective. procedures were confirmed. Continually, The cases and domestic status of the U.S., Europe, and the Netherlands where artificial intelligence technology was used in criminal justice procedures were confirmed. Currently, there are differences in the level of development in both countries and Korea, including the U.S. and the U.S., but in general, it has been confirmed that its utilization is still in its early stages. Based on these findings, we reviewed the availability of artificial intelligence technology in criminal justice procedures in Korea and suggested policy implications. 정보통신기술 영역이 혁신적인 발전을 거듭하면서 그 원동력 중 하나인 인공지능(AI: Artificial Intelligence)과 관련된 용어들이 일상화되고 있다. 자율주행 자동차, 인공지능 스피커, 알파고, 인공지능 로봇과 같은 주제들도 언론이나 인터넷, 드라마 등에 자주 등장하는 것을 볼 수 있다. 여러 분야에서 인공지능 기술 활용이 증가함에 따라 형사사법 분야에서도 인공지능 기술이 도입되어 활용될 것이 예견되는바, 인공지능의 행위로 인해 야기될 법적·규범적 문제와 그 행위의 성격, 범죄능력, 형사책임능력 등에 대한 논의의 필요성이 대두되고 있다. 이에 본 연구에서는 인공지능의 정의와 개념에 대해 개괄적으로 확인하고, 인공지능의 활용으로 인해 야기될 수 있는 책임에 대한 법적 지위와 그 성격을 형사법적으로 논하고, 인공지능을 형사사법의 구성원으로까지 인정할 수 있을지를 논의해 보고자 한다. 또한, 인공지능과 관련된 국내 특별법과 새로이 제정될 입법안 등을 살펴보고, 국외의 관련 법률을 확인함으로써 공통으로 언급되는 주요 논점을 확인하는 등 최근 동향을 살펴 비교해 본바, 국내의 경우 인공지능 관련 특별법들이 제정되고 있지만 아직은 종합적 관점에서의 입법이나 정책은 미비한 것으로 확인되었다. 계속해서 인공지능 기술이 형사사법 절차에서 활용된 미국과 유럽, 네덜란드의 사례와 국내 현황을 확인해 본바, 현재 형사사법 체계에서 영미 등 각국과 국내 모두 발전 정도의 차이는 있으나 대체적으로 그 활용도가 아직 초기 단계임을 확인할 수 있었다. 이와 같은 연구 결과를 토대로 향후 국내 형사사법 절차에서의 인공지능 기술의 활용 가능성과 기술경영의 방향에 대해 검토하고 정책적 시사점에 대해 제언하였다.

자율적 인공지능에 의한 창작물의 저작권 보호 여부 및 저작자 결정의 이론적 근거에 대한 연구

김도경 한국스포츠엔터테인먼트법학회 2024 스포츠엔터테인먼트와 법 Vol.27 No.2

As artificial intelligence technology becomes increasingly sophisticated and advanced, a new era of creation through artificial intelligence has arrived, it has reached a level where it can match intellectual ability of humans, thereby improving human capabilities. An important issue was raised in relation to copyright law as to who owns the copyright of works created by autonomous artificial intelligence without human intervention. In order to solve this problem, one option currently available is to grant copyright to emergent works created by autonomous artificial intelligence, such as the artificial intelligence itself, users of artificial intelligence, artificial intelligence programmers, or artificial intelligence companies as copyright holders. Alternatively, a legislative policy could be chosen to not grant copyright at all by ensuring that such creations belong to the public domain as soon as they are created so that everyone can use them freely. Therefore, it is an important issue to prevent legal confusion by resolving the issue of who holds the copyright for the creations created by autonomous artificial intelligence. A legislative solution is needed to determine the most appropriate option among the options for granting and determining copyright holders. In line with this awareness of the problem, this study clearly presents copyright issues related to the creation of creative works by autonomous artificial intelligence, and consider legislative measures such as the revision of the copyright law, protection by other laws such as the Unfair Competition Prevention Act, or the review of protection under the special law(sui generis) and attribution to the public domain. Accordingly, it is expected to be used as a theoretical basis for legislative data to review ways not to grant copyrights according to copyright protection of artificial intelligence creations (i.e., belong to the public domain) or to grant authorship, propose the most valid alternative based on clear copyright-related grounds, and use it as a theoretical basis for judicial judgment in the event of a copyright-related dispute over creations of artificial intelligence.

인공지능과 규범창설 ―입법평가를 예로 하여―

양천수 한국법철학회 2023 법철학연구 Vol.26 No.2

This article explores whether artificial intelligence can be used in the area of ​​legislative evaluation. As the ChatGPT is showing, the technological level and capabilities currently shown by artificial intelligence are astonishing. In the area of linguistic communication, artificial intelligence is now not only communicating like humans, but also is showing professional achievements in areas that require professional capabilities, such as medical care, administration, judicial decision making and interviews. As a result, the fear that artificial intelligence will replace the professional field performed by humans is now becoming a real risk. In that situation, this article examines whether artificial intelligence can be used for legislative evaluation that requires high professional competence, such as medical, administrative, judicial and interview, and if so, how the scope can be defined, and what limitations there are. To this end, this article first identifies what legislative evaluation means (II) and what capabilities are required to carry out such legislative evaluation (III). Next, by examining the level of technology AI has reached at present, it is examined whether AI has the necessary capabilities to conduct legislative evaluation (IV). Then, in order to verify whether artificial intelligence can actually be used for legislative evaluation, this article handles the question of how artificial intelligence can or is used in the medical, judicial, administrative and interview areas (V). Based on this, it is reviewed in which areas artificial intelligence can be used during legislative evaluation and what additional requirements are necessary for this (VI). This article reaches the following conclusions. Considering the current technological level, there is a clear possibility of using artificial intelligence for legislative evaluation. However, this should be limited to areas such as quantitative evaluation. In addition, governance and legal institutions must support that human experts can verify the legislative evaluation results presented by artificial intelligence. This is because artificial intelligence still shows imperfections in areas that require highly complex thinking skills, such as the realm of discretion. As the hallucination issue of ChatGPT exemplifies, artificial intelligence is not enough to completely replace human specialized domains. The same can be said for legislative evaluation. 이 글은 입법평가 영역에 인공지능을 활용할 수 있는지를 모색한다. ChatGPT 열풍이 시사하는 것처럼 현재 인공지능이 보여 주는 기술적 수준이나 역량은 놀라울 정도이다. 언어적 소통 영역에 한정해 말하면 이제 인공지능은 인간처럼 소통하는 것에 머물지 않고 의료나 행정, 사법, 면접 등과 같이 전문적인 역량이 필요한 영역에서도 상당한 성취를 보여 준다. 이에 인공지능이 인간이 수행하던 전문 영역을 대체할 것이라는 두려움이 현실적 위험으로 엄습한다. 이러한 상황에서 이 글은 의료나 행정, 사법, 면접처럼 고도의 전문적 역량이 요청되는 입법평가에도 인공지능을 활용할 수 있는지, 만약 가능하다면 그범위는 어떻게 획정할 수 있는지, 이에 따른 한계는 무엇인지 살펴본다. 이를 위해 먼저 입법평가가 어떤 의미를 지니는지(II), 이러한 입법평가를 수행하는 데 필요한 역량은 무엇인지 규명한다(III). 다음으로 인공지능이 현재 도달한 기술 수준을 검토함으로써 입법평가를 수행하는 데 필요한 역량을 인공지능이 갖추고 있는지 살펴본다(IV). 이어서 실제로 인공지능이 입법평가에 활용될 수 있는지를 검증한다는 차원에서 의료, 사법, 행정, 면접 영역에서 인공지능이 어떻게 활용될 수 있는지 또는 활용되는지를 살펴본다(V). 이를 토대로 하여 입법평가 가운데 어떤 영역에서 인공지능을 활용할 수 있는지, 이때 필요한 추가적인 근거와 요건은 무엇인지 검토한다(VI). 이 글은 다음과 같은 결론에 도달한다. 지금의 기술적 수준을 고려할 때 입법평가에 인공지능을 활용할 가능성은 분명 존재한다. 그러나 이는 양적 평가와 같은 영역에만 제한적으로 활용되어야 한다. 더불어 인공지능이 내놓은 입법평가 결과를 인간 전문가가 검증할 수 있도록 거버넌스를 구축하고 법적 근거도 확보해야 한다. 인공지능은 재량 영역처럼 고도로 복잡한 사고 능력을 발휘해야 하는 영역에서 여전히 불완전함을 보여 주기 때문이다. ChatGPT가 범하는 환각(hallucination) 이슈가 예증하듯이 인공지능은 인간이 수행하던 전문적 영역을 완전하게 대체하기에는 부족하다. 이는 입법평가에도 마찬가지라고 말할 수 있다.

인공지능 예술에 담긴 커뮤니케이션에 대한 고찰

한지윤,최유미 (사)한국만화웹툰학회 2025 만화웹툰연구 Vol.5 No.2

Artificial intelligence has been a great inspiration for artists. Artificial intelligence art was created in various ways using artificial intelligence as a creative tool. Since then, there has been a dispute over the possibility of art subjects. In academia, many studies have been conducted on this subject. However, most of the research contents are mainly based on the morphological analysis of the completed creative results. So I felt the need for research in a different approach. Artificial intelligence and art were the same research subjects. And I want to find the intersection between the two and explore artificial intelligence art. First, understand the meaning of communication. The whole system of society consists of communication. Therefore, communication will be found in artificial intelligence and art. Second, research is conducted on the development of artificial intelligence and the learning structure of artificial intelligence and human intelligence. The process of delivering data to learn intelligence is analyzed with communication theory. Third, artificial intelligence works of art are analyzed based on the research conducted. Finally, I organize about communication. It was confirmed that each has communication in artificial intelligence, art, and artificial intelligence art. Communication is complex communication from 'double coincidence' to 'virtual double coincidence' depending on the sender and receiver. In the process of information-notification-understanding communication, the screening subject plays an important role. Artificial intelligence art will be understood as humans have selected the first information and notifications, and eventually humans will finally select and present their works. Therefore, it is argued that artificial intelligence art is the result of human design. However, when artificial intelligence communicates on its own, it has an abstraction that has coincidence that humans do not intend. Artificial intelligence art is created through communication to make it original with algorithms. Repeated considerations of the coincidences of art/non-art will lead to the evolution of art. The virtual double coincidence in artificial intelligence communication has discovered the peculiarities of artificial intelligence art. Finally, in the paper, the 'abstractness' of 'accidental abstraction' refers to a characteristic that is constantly changing without being fixed from a physical perspective. This is expected to affect visual expression from an art perspective, and research is needed.

인공지능에 의한 발명의 발명자성에 대한 소고

이상호 한국지식재산학회 2022 産業財産權 Vol.- No.71

Under Korean patent laws, a patent right is initially vested in an inventor, and the justification of the patent right needs to be reviewed under the consideration of whether the recipient can be qualified as an inventor. This paper reviews three philosophical justifications for patent rights and applies them to artificial-intelligence-generated inventions and concludes that an inventor should be a natural person, and artificial intelligence's inventorship is not justified. First, under Locke's labor theory, every human being has property rights to his own person from birth and can expand his ownership, including patent rights, through his manual or mental labor. Artificial intelligence is a man-made object and does not have any basis for expanding property rights therefrom through labor as it is bereft of any innate rights whatsoever to own itself. Under Hegel's personality theory, a natural person has "the right to direct his will upon any object" and is a bearer of free will, which also can be a basis of the right to a patent. Free will is not merely the act of calculation, it's a reflection of Being itself. Artificial intelligence cannot have such self-purpose and dignity as human beings have and thus cannot be justified as an inventor. Under Bentham's Utilitarian view, it is presumed that an individual responds to incentives, and that this response benefits society. However, artificial intelligence lacks any motivation to devise an invention seeking a monopoly. One might argue that if artificial intelligence's inventorship is denied and no natural persons are qualified as an inventor and no one would be able to reap the benefits arising from the invention generated by artificial intelligence. It might be concerning as this will diminish scientists' motivation to develop the technology and eventually lead to a failure to maximize the utility in society as a whole. However, scientists' efforts should be protected only to the extent appropriate to their contributions. No one should be granted the rights to an invention that he or she has not contributed to. Otherwise, once the artificial intelligence technology reaches AGI (artificial general intelligence) or ASI (artificial superintelligence), only small number of owners would enjoy the limitless fruits of such artificial intelligence. Additionally, once artificial intelligence gains legal status, it can expand its rights boundlessly in society, which would pose a menace to humankind. In these cases, the inventorship of artificial intelligence should be denied under the Utilitarian view as it fails to maximize its utility in society. Accordingly, it is submitted that only natural persons are eligible for an inventor. If artificial intelligence generates an invention with no human contribution, the invention becomes the property of the public. However, if a natural person's contribution is insufficient to satisfy the inventorship requirement, it may be necessary to expand the scope of inventorship to include partial contributions from natural persons. In this regard, the work for hire doctrine under copyright provides a hint on how to enlarge the boundary of inventorship. It is suggested that a natural person employer who defines a problem and plans to find the solution using artificial intelligence, as a creative employee, should be credited as an inventor under the ‘invention for hire’ doctrine even if his contribution to a conception of an invention does not meet the current inventorship requirements. 특허법에 따르면, 특허권은 원시적으로 발명자에게 주어지므로 특허권의 정당성을 논함에 있어 권리를 받는 자가 발명자로 인정되어 권리를 누리는 것이 합당한지 검토해야 할 필요가 있다. 본 고는 특허권에 대한 세 가지 철학적 정당성을 검토하고 인공지능에 의한 발명에 적용하여 오직 자연인만 발명자로 인정받을 수 있으며 인공지능의 발명자성은 정당화되지 못한다고 결론 내렸다. 먼저, 로크의 노동이론에 따르면 모든 인간은 생득적으로 자기 자신에 대한 재산권적 권리를 가지며 특허권을 포함해 자신의 정신적 육체적 노동을 통해 소유권을 확장해 나갈 수 있다. 하지만 인공지능은 사람이 만든 객체에 불과하여 자기 자신으로부터 노동을 통해 확장할 수 있는 어떤 내재적 권리의 기반을 가지고 있지 못하다. 헤겔의 인격 이론에 따르면 자연인은 자신의 의지를 객체에 투영할 수 있는 권리를 가지며 특허권의 근거가 되는 자유의지의 담지자이기도 하다. 자유의지는 단순한 정보의 선택을 의미하지 않으며 존재 자체로부터 나오는 자기 자신의 목적의 투영이다. 인공지능은 인간과 같은 자기 목적성이나 존엄성을 가지고 있지 못하므로 발명자로 정당화될 수 없다. 벤담의 공리주의에 따르면, 인간은 유인에 반응하는 존재로 상정되며 이러한 인간의 반응이 사회의 유용을 증대시키는 역할을 한다. 하지만, 인공지능은 이러한 유인에 반응하여 발명의 독점권을 추구하는 존재가 아니다. 혹자는 만약 인공지능의 발명자성이 부정되고 발명자로 인정될 수 있는 자연인이 존재하지 않는 경우, 누구도 인공지능이 발명한 결과물에 대한 유익을 취할 수 없게 될 것이고, 이는 결국 인공지능을 연구하는 과학자들의 사기를 저하해 사회 전체 유익이 최대화되지 못한다는 위험을 불러올 수 있다고 염려할 수 있다. 하지만 과학자들의 노력은 그에 상응하는 정도의 보호만 받을 필요가 있다. 누구도 자신이 발명하지 않은 것에 대한 권리를 주장할 수는 없다. 인공지능기술이 초인공지능 내지는 강인공지능에 이르게 되면 소수의 사람이 인공지능이 개발한 열매를 누릴 수 있는 위험이 있다. 또한, 인공지능이 자신의 법률적 지위를 가지게 되면 특허권은 자신의 발명에 대한 권리를 사회에서 무한대로 확장할 수 있는 근거가 될 수가 있고, 이는 인류가 위협될 수 있다. 이 두 경우 모두 인공지능을 발명자로 인정하는 것은 부정되어야 하는데 이는 공리주의적 관점에서 사회 전체적 유용성을 최대화하지 못하기 때문이다. 따라서, 자연인만 발명자로 인정받아야 하며, 만약 인간의 개입 없이 인공지능에 의한 발명이 이루어지면 이는 결국 공공재로 취급되어야 한다. 그러나 자연인이 인공지능을 사용하며 발명에 이르는 과정을 기획한 경우의 비록 발명의 착상에 대한 발명자의 기여가 비록 발명자 요건을 만족시키는 정도는 아니라 하더라도 발명자성의 범위를 보다 확대하여 발명자성을 부여하는 것이 합리적이라 하겠다. 이와 관련해서 저작권법의 업무상 저작물 제도는 발명자성의 외연을 넓히는 단초를 제공한다. 본 고는 자연인 사용자가 문제를 정의하고 해결책을 찾기 위해 인공지능을 창의적 근로자로 사용한 경우 해당 자연인의 발명 착상에 대한 기여가 비록 특허법에서 요구하는 발명자성에 미치지 못한다고 하더라도 업무상 발명(invention for hire)제도를 통해 발명자로 인정해줄 것을 제안한다.

인공지능과 약관

최경진(Choi, Kyoungjin) 한국비교사법학회 2021 비교사법 Vol.28 No.3

인공지능에 의한 계약(이하에서 “인공지능 계약”이라 한다)이 증가함에 따라 인공지능 계약에서의 약관(이하 “인공지능 약관”이라 한다)으로 인하여 소비자에게 피해가 발생하지 않도록 하면서도 동시에 인공지능의 발전도 가로막지 않도록 인공지능 시대에 약관은 어떠한 의미를 가지고 법적으로 어떻게 다루어야 할 것인가에 관하여 깊이 있는 논의가 필요하다. 이러한 시각을 바탕으로 하여 이 글에서는 인공지능을 이용하여 계약을 체결함에 있어서의 약관과 관련한 문제를 중심으로 논의를 진행하되, 인공지능 약관의 의의나 유용성, 유효성 및 법적 근거, 계약 내용으로의 편입 통제와 같은 약관법의 기초적인 문제를 중심으로 논의를 진행하였다. 발전된 인공지능 계약은 개별적인 당사자에 따라 계약을 체결하는 ‘개별화’와 함께 상황이나 시간의 변화에 따라 적절히 대응하여 변화되는 ‘현행화’의 두 가지 성격을 가지고 있고, 계약의 체결 과정에서 인공지능이 결정적 역할을 하여 약관을 형성한다는 특성을 도출할 수 있었다. 이처럼 인공지능 계약에 있어서 구체적인 약관의 내용이 인공지능에 의하여 확정되는 과정을 고려할 때 종래와 같이 사전에 계약내용의 모든 것이 확정되어 있는 고정적인 약관의 모습이 아니라 인공지능에 의하여 최종적으로 확정되는 ‘동적 약관’으로 새롭게 파악할 필요성이 인정된다. 동적 약관으로 파악하게 되면, 약관으로서의 인공지능에 대한 통제 및 투명성 의무의 도입과 같은 새로운 법적 접근이 필요하다. 즉, 종래의 약관의 계약 내용으로의 편입 통제와 약관 조항의 불공정성 판단을 통한 내용 통제는 인공지능 약관에도 그대로 적용할 수 있겠지만, 인공지능의 특성을 고려하여 특별히 계약 체결 과정에서의 투명성을 증진하기 위한 대응노력이 필요하다. 특히 투명성을 증진하기 위하여 인공지능 약관과 관련한 정보제공의무를 강화하거나 중립적인 제3자에 의한 지속적인 모니터링과 이를 통한 약관 조항의 통제 등을 제도화하는 논의가 필요하다. 인공지능과 관련한 약관규제의 논의는 이제 막 시작단계에 들어섰을 뿐이고 향후 인공지능의 발전과 계약 형성에의 적용례가 쌓여 가면 보다 더 세밀하게 논의하여 인공지능 시대에 맞는 약관규제법의 발전방안을 도출할 수 있을 것으로 기대한다. 이 글이 향후 인공지능 시대의 약관법 논의의 단초가 되기를 기대한다. As contracts by artificial intelligence (hereinafter referred to as “artificial intelligence contract”) increase, in-depth discussion is needed about the meaning and legal treatment of the Standard Form Contract in the age of artificial intelligence in order not to cause damage to consumers due to the terms of the artificial intelligence contract and at the same time not to block the development of artificial intelligence. Based on this perspective, this article discusses the issues related to the Standard Form Contract in concluding a contract using artificial intelligence. In particular, the discussion is focused on the fundamental issues, such as the meaning, usefulness, validity and legal basis of the Standard Form Contract in artificial intelligence contract, as well as the control of incorporation into the content of contract. The advanced artificial intelligence contract has two characteristics: ‘individualization’, in which contracts are concluded according to individual parties to contract, and ‘actualization’, which contracts change in response to changes in circumstances or time. Artificial intelligence plays a decisive role in the contract conclusion process and forms the Standard Form Contract. In this way, when considering the process in which the contents of specific terms and conditions are confirmed by artificial intelligence in an AI contract, it is far from the appearance of a fixed Standard Form Contract in which all the contents of the contract are confirmed in advance as in the past. Rather, it is necessary to recognize it as a Dynamic Standard Form Contract in which the contract is finally confirmed by artificial intelligence. Furthermore, in consideration of the characteristics of artificial intelligence, it is necessary to make special efforts to improve transparency in the process of the formation of the Dynamic Standard Form Contract . The discussion of standard form contract in artificial intelligence contract is only just beginning. With the development of artificial intelligence in the future, it is expected that a more detailed discussion will lead to the development of a Standard Form Contract regulation law suitable for the age of artificial intelligence. It is hoped that this article will serve as a starting point for the discussion of the Standard Form Contract law in the age of artificial intelligence in the future.

인공지능과 불법행위책임

최경진(Kyoungjin Choi) 한국정보법학회 2021 정보법학 Vol.25 No.2

기술이 발전함에 따라 과거에는 상상에 그쳤던 인공지능이 점차 일상생활 속으로들어오고 있다. 인공지능이 사회·경제 각 분야에 접목됨으로써 인공지능에 대한 법적 규율에 대하여도 관심이 높아지고 있다. 또한 인공지능의 수준이 점점 더 고도화됨에 따라 법적 규율에 있어서도 변화가 발생할 것으로 예상된다. 인공지능의 활용에따른 민사법상의 책임문제도 그 중의 하나이다. 인공지능과 관련한 불법행위책임의 문제는 민법상 일반 불법행위책임으로부터 제조물책임, 공작물책임, 자동차손해배상보장법 상의 자동차사고 책임에 이르기까지 다양하게 나타난다. 인공지능은 불법행위책임에 새로운 도전으로 다가왔지만, 어떻게 불법행위책임을 인정할 것인가와 관련해서는 일반 불법행위책임의 성립요건인고의·과실, 위법성, 인과관계, 손해, 책임의 주체 등에 대하여 근본적인 검토를 한 후에 종래의 법해석에 의하여 해결하기 어려운 문제가 확인된 경우에 인공지능의 특성을 고려한 해석론 혹은 입법론적 접근을 하는 것이 바람직하다. 이 글에서는 일반 불법행위책임 측면에서 인공지능을 둘러싼 고의·과실이나 위법성 등의 의미를 살펴보고, 특수 불법행위책임 측면에서의 인공지능의 규율 가능성과 한계 등을 살펴보았다. 일반 불법행위책임이나 민법 및 특별법 상의 특수 불법행위책임에 의한 해결을 최대한 먼저 시도해보아야 한다. 그럼에도 기술적 특성이 강해서 일반적인 증명이 쉽지않거나 실제 생명·신체·재산에 대한 인공지능의 위험성이 높은 경우에는 제한적범위 내에서 강화된 책임을 단계별로 인정하는 것은 향후 깊이 검토할 필요가 있다. 또한 앞서 살펴본 바와 같이 인공지능을 포함한 디지털제품에 대하여 종래의 제조물책임법을 개정해서 포섭할 것인지 그렇지 않으면 별도의 ‘디지털제조물책임법’을 제정할 것인지에 대하여도 깊이 있는 논의가 필요하다. 이러한 논의들은 서로 긴밀히 관련되어 있기 때문에 인공지능과 관련한 과도한 책임법의 범람을 지양하기 위해서라도 일반 불법행위책임으로 다룰 수 있는 영역과 구체적인 요건·효과, 종래 특수 불법행위책임의 적용을 위한 요건 및 효과, 제조물책임법 등 특별법 상의 인공지능에 대한 규율 등을 종합적이고도 정밀하게 검토하면서 상호간에 보충적인 작용을 하면서 적절히 인공지능으로 인한 불법행위책임을 규율할수 있는 연구와 입법적 논의가 진행되어야 할 것이다. 향후 다각적이고 깊이 있는 연구를 통하여 인공지능의 변화 속도에 발맞춰서 적절한 규율체계를 정립해나는데 이글이 논의의 기초가 되길 기대한다. As technology advances, artificial intelligence, which was only imaginary in the past, is gradually entering our daily life. As artificial intelligence is applied to various fields of society and economy, interest in legal regulations on artificial intelligence is also increasing. In addition, as the level of artificial intelligence becomes more and more advanced, it is expected that changes will also occur in legal regulations. One of them is the issue of liability under the civil law for the use of artificial intelligence. The problem of tort liability related to artificial intelligence is diverse, ranging from general tort liability under the Civil Act to product liability, work piece liability, and automobile accident liability under the Automobile Damage Compensation Act. Artificial intelligence has come as a new challenge to tort liability, but in relation to how to recognize tort liability, it is first reviewed from the point of view of general tort liability. It is desirable to adopt a new interpretation or legislative approach considering the characteristics of artificial intelligence. This article examines the meaning of intention, negligence, and illegality surrounding artificial intelligence in terms of general tort liability, and examines the possibility and limitations of civil regulation on artificial intelligence in terms of special tort liability. The resolution of general tort liability or special tort liability under civil and special laws should be attempted first. Nevertheless, in cases where general proof is not easy due to strong technical characteristics, or when the risk of artificial intelligence to real life, body, or property is high, it is necessary to consider in depth the acknowledgment of reinforced responsibility step by step within a limited scope. In addition, it is necessary to discuss in depth whether or not to revise and include the existing Product Liability Act for digital products including artificial intelligence or to enact a separate ‘Digital Product Liability Act’. Since these discussions are closely related, various types of tort liability should be comprehensively and precisely reviewed in order to avoid the overflow of excessive liability laws related to artificial intelligence. In addition, research and legislative discussions should be conducted to properly regulate liability for torts caused by artificial intelligence while complementing each other. It is hoped that this article will serve as a basis for future in-depth research and establishing an appropriate discipline system for the pace of change in artificial intelligence.

Association between Company’s Medical Artificial Intelligence and Growth Opportunities

( Min-soo Kim ),( Hyeon-ji Lee ),( Jeong-min Yang ),( Jae-hyun Kim ) 융합연구학회 2024 융합연구학회지 Vol.8 No.1

The technological and industrial advancements in the field of medical artificial intelligence (AI) may be associated with the rapid growth of companies in this sector. The purpose of this study was to examine the relationship between the growth opportunities in the medical AI industry and companies engaged in one or more AI-related businesses. Secondary data analysis was performed using the 2021 artificial intelligence industry survey data collected from September 2021 to November 2021. In order to observe the relationship between the medical artificial intelligence industry and company growth opportunities, the medical artificial intelligence industry, company growth opportunities, difficulties, Artificial intelligence start year, Main business field, sales volume, listing status, corporate affiliated research institute, AI main business, Percentage of Data Utilization variables, Rao-Scott cross-test, and logistic regression analysis including covariates were performed. Among all companies, when the AI application industry included medical AI, the OR for the company growth opportunities was 1.80 (P-value 0.031, 95% CI 1.06-3.06). For the medical artificial intelligence industry, the OR was 2.28 (P-value 0.016, 95% CI 1.17-4.46). In artificial intelligence companies, medical artificial intelligence-related industries can play a role in enhancing the growth potential of companies. In order to improve the growth potential of artificial intelligence companies, there is a need to consider the implementation of medical artificial intelligence-related industries and implement support policies that consider the timing of the company’s entry into the artificial intelligence industry. Therefore, the government needs to revise industry policies to actively establish laws, regulations, and policies, and further enable medical AI to perform a smooth role as a new growth engine.

AI 창작물의 저작권 보호는 필요한가

박성준,김상겸 연세대학교 법학연구원 2024 법학연구 Vol.34 No.2

It is the era of artificial intelligence. Technological innovation, which has been a constant driving force for the growth of mankind, has emerged a new type of technology called artificial intelligence. With the development of digital and information and communication technologies, artificial intelligence technology has opened the horizon of the new era of the 4th industrial revolution and provided many conveniences to mankind. Meanwhile, artificial intelligence has taken human life to the next level and presented humanity with numerous legal challenges. The problem of artificial intelligence creations is also a representative example of this. Artificial intelligence, which has been developing over and over, has expanded its scope to the realm of creation, which was said to be the exclusive property of mankind, and has caused problems with copyright and responsibility, bringing about a great impact on the human intellectual property system. Looking at this situation, this paper was written to find a way to achieve harmony with the human intellectual property system by regulating and protecting artificial intelligence creations within the copyright field, and the results of the study are as follows. First, although various artificial intelligence creations are produced, it was confirmed that artificial intelligence creations are in a legal blank state under the current intellectual property system. Since it is not recognized as a work under the copyright law, it is not possible to regulate them within the current legislation governing human creation. As a result of examining their need for protection, it may be contradictory, but it was concluded that artificial intelligence creations need to be regulated within the current legal system for human creation. Even considering the purpose of the Copyright Act, which is the protection of human creations and the development of related industries, the necessity of regulation and protection can be recognized. However, in order to protect artificial intelligence creations, numerous issues of copyright law, such as the issue of copyrightability of creations, copyright attribution, and protection method, must be decided in the current legislation. Considering that artificial intelligence cannot be a subject of rights and obligations at present and the current technological ability to create creations without human intervention, the subject of rights of creations should be human. Based on this, the constitutional approach to the knowledge and information society as a protection measure, “introduction of electronic personality” to prepare for the upcoming era of strong artificial intelligence, legal improvements such as “Amendment of Copyright Act” and “Enactment of Special Act on Artificial Intelligence” as a way to realize the recognition of copyright and the establishment of authors, and the production of “Ethical Guidelines” as a concrete system, the registration system as a technical indication obligation, and external measures were proposed. However, since these measures also attempt a legal approach to artificial intelligence from the beginning, social consensus should be reached through further discussion on their concrete realization measures. Regardless of the field, artificial intelligence will create new legal issues in a completely different way than before. Now, we must start an in-depth discussion to present a new paradigm to respond to new issues in artificial intelligence.