인공지능(AI) 단일법 제정 필요성과 행정법학의 과제

이효진 국민대학교 법학연구소 2023 법학논총 Vol.35 No.3

This article aims to discuss the legal basis for the necessity of the artificial intelligence law and the tasks of using artificial intelligence in administration. Korea is enacting laws for AI discipline. The goal of the Korean government is to establish norms to minimize the development and side effects of artificial intelligence technology. In order to maximize benefits and minimize risks, it is necessary to establish appropriate regulatory framework and independent governance. The European Union proposed the Artificial Intelligence Act (AI Act) in April 2021, developing from soft laws such as artificial intelligence ethical norms and guidelines. The AI Act builds independent governance and flexibly applies regulations from strict regulations to flexible regulations according to the risk-based approach. There are two ways to enact artificial intelligence legislation in Korea. First, revising and regulating individual laws related to artificial intelligence. Second, enacting the 'Artificial Intelligence Act' to enact general laws. The former and the latter comparison method can first examine whether AI-related laws have a specific framework for AI technology development, independent governance to secure the effectiveness of AI regulations, and whether they provide a venue for global exchanges including the government, business, school, and private sector. If there is a limit to artificial intelligence-related laws, the 'Artificial Intelligence Act' should be established to establish a governance system to develop technology and establish a regulatory frame. Based on this awareness of the problem, the Council Laying Down artificial intelligence laws are currently reviewed to examine the differences and legal issues of the artificial intelligence law. By the way artificial intelligence is also used in administration to realize rapid and efficient government. However, we should be wary of the administration's obstruction of the realization of the rule of law by relying on the convenience of artificial intelligence, and ensure the transparency and procedural legitimacy of artificial intelligence. The core of artificial intelligence is to establish ethical norms and to constitute governance. To this end, the direction to proceed and the tasks of the Administrative Law are presented in connection with the Artificial Intelligence Act, General Act on Public Administration, and the Administrative Procedure Act. 이 글은 인공지능 단일법의 필요성에 대한 법적 근거와 행정에서의 인공지능 활용에 따른 행정법학의 과제에 대해 논하고자 한다. 우리나라는 인공지능에 대한 규범적 대응을 위해 법체계를 정비하는 시점에 있다. 우리 정부의 인공지능 정책 방향은 인공지능 기술의 발전과 산업의 진흥을 도모하며 인공지능의 역기능을 최소화하기 위한 규범을 정립하는 것이다. 편익의 최대화와 위험의 최소화의 균형점을 이루기 위해서는 현실에 적합한 규제 프레임워크와 독립적인 거버넌스 구축이 요구된다. 유럽 연합은 인공지능 윤리 규범, 가이드라인과 같은 연성법에서 시작하여 강제력 있는 규제 프레임으로 2021년 4월 인공지능 법안(AI Act)을 제안한 바 있다. 동 법안은 규제의 실효성을 확보하기 위한 독립적인 거버넌스를 구축하고 있으며, 위험 기반 접근(Risk-based approach) 방식에 따라 엄격한 규제부터 유연한 대응까지 규율을 탄력적으로 적용한다는 점에서 우리에게 시사점을 준다. 그렇다면 우리의 인공지능 법제 정비방안은 두 가지로 생각할 수 있다. 첫째, 현행 인공지능 관련 개별법을 개정하여 인공지능을 활용하는 개별 분야에서 추진체계를 두고 규율하는 것 둘째, 인공지능 단일법을 제정하여 인공지능 분야의 일반적인 법률을 재정하는 것이다. 전자와 후자를 비교하는 방법은 먼저 우리 현행 인공지능 관련 법률이 인공지능 기술 개발과 산업 발전을 위한 구체적인 추진체계를 갖추고 있는지, 인공지능 윤리 확보를 실현하기 위한 방안과 규제의 실효성을 확보하기 위한 독립적인 거버넌스를 구성하고 있는지, 정부와 기업 및 학교와 이해관계자를 아우르는 국내외적 교류의 장을 마련하고 있는지 검토할 수 있다. 만일 현행 인공지능 관련 법률에 한계가 있다면, 인공지능 단일법을 마련하여 거버넌스 체계를 구축하여 기술의 발전과 규제 프레임을 확립해야 한다. 이러한 문제의식을 바탕으로 현재 국회에 계류 중인 인공지능 법안을 검토하여 인공지능 단일법의 차별점과 법적 쟁점을 고찰한다. 한편 인공지능 기술은 행정분야에서도 활용되며 신속하고 효율적인 전자정부를 구현하고 있다. 다만 행정이 인공지능이 제공하는 편익에 기대어 법치주의와 적법절차의 실현을 방해하는 것을 경계해야 하며, 인공지능의 투명성과 자동적 처분의 절차적 정당성을 확보할 수 있는 방안을 마련해야 한다. 인공지능 법제의 중심은 윤리 규범의 마련과 거버넌스 구조의 구축에 있으므로 인공지능법과 자동적 처분에 대해 규율하고 있는 행정기본법, 처분의 적법절차 원칙을 위한 행정절차법을 연계하여 인공지능 법제가 나아갈 방향과 행정법학의 과제를 제시한다.

인공지능이 의사결정에 미치는 영향에 관한 연구: 인간과 인공지능의 협업 및 의사결정자의 성격 특성을 중심으로

이정선(JeongSeon Lee),서보밀(Bomil Suh),권영옥(YoungOk Kwon) 한국지능정보시스템학회 2021 지능정보연구 Vol.27 No.3

Artificial intelligence (AI) is a key technology that will change the future the most. It affects the industry as a whole and daily life in various ways. As data availability increases, artificial intelligence finds an optimal solution and infers/predicts through self-learning. Research and investment related to automation that discovers and solves problems on its own are ongoing continuously. Automation of artificial intelligence has benefits such as cost reduction, minimization of human intervention and the difference of human capability. However, there are side effects, such as limiting the artificial intelligence’s autonomy and erroneous results due to algorithmic bias. In the labor market, it raises the fear of job replacement. Prior studies on the utilization of artificial intelligence have shown that individuals do not necessarily use the information (or advice) it provides. Algorithm error is more sensitive than human error; so, people avoid algorithms after seeing errors, which is called “algorithm aversion.” Recently, artificial intelligence has begun to be understood from the perspective of the augmentation of human intelligence. We have started to be interested in Human-AI collaboration rather than AI alone without human. A study of 1500 companies in various industries found that human-AI collaboration outperformed AI alone. In the medicine area, pathologist-deep learning collaboration dropped the pathologist cancer diagnosis error rate by 85%. Leading AI companies, such as IBM and Microsoft, are starting to adopt the direction of AI as augmented intelligence. Human-AI collaboration is emphasized in the decision-making process, because artificial intelligence is superior in analysis ability based on information. Intuition is a unique human capability so that human-AI collaboration can make optimal decisions. In an environment where change is getting faster and uncertainty increases, the need for artificial intelligence in decision-making will increase. In addition, active discussions are expected on approaches that utilize artificial intelligence for rational decision-making. This study investigates the impact of artificial intelligence on decision-making focuses on human-AI collaboration and the interaction between the decision maker personal traits and advisor type. The advisors were classified into three types: human, artificial intelligence, and human-AI collaboration. We investigated perceived usefulness of advice and the utilization of advice in decision making and whether the decision-maker’s personal traits are influencing factors. Three hundred and eleven adult male and female experimenters conducted a task that predicts the age of faces in photos and the results showed that the advisor type does not directly affect the utilization of advice. The decision-maker utilizes it only when they believed advice can improve prediction performance. In the case of human-AI collaboration, decision-makers higher evaluated the perceived usefulness of advice, regardless of the decision makers personal traits and the advice was more actively utilized. If the type of advisor was artificial intelligence alone, decision-makers who scored high in conscientiousness, high in extroversion, or low in neuroticism, high evaluated the perceived usefulness of the advice so they utilized advice actively. This study has academic significance in that it focuses on human-AI collaboration that the recent growing interest in artificial intelligence roles. It has expanded the relevant research area by considering the role of artificial intelligence as an advisor of decision-making and judgment research, and in aspects of practical significance, suggested views that companies should consider in order to enhance AI capability. To improve the effectiveness of AI-based systems, companies not only must introduce high-performance systems, but also need employees who properly understand digital information presented by AI, and can add non-digital

유럽연합(EU) 인공지능규범의 제정과 특징

정남철 유럽헌법학회 2022 유럽헌법연구 Vol.- No.38

On February 19, 2020, the European Commission published the White Paper on Artificial Intelligence. In addition, on April 21, 2021, an Regulation on AI was proposed. The AI regulation proposed by the European Commission can be seen as the first norm on artificial intelligence. However, even before such an AI regulation was proposed, the European Commission presented the EU’s future digital strategy and included such a policy in the White Paper on AI. The AI White Paper is the European Union’s future blueprint for AI. In particular, it is noteworthy that the artificial intelligence white paper emphasizes the ‘ecosystem of trust’. There are concerns about the uncertainty of artificial intelligence and the violation of fundamental rights or threats to democracy that artificial intelligence will cause, and the establishment of an ecosystem of trust is a response to this. The European Union is trying to solve this problem by building a trust ecosystem on the premise of the uncertainty of artificial intelligence. As such, the EU policy on artificial intelligence aims to implement human-centered artificial intelligence. However, the AI white paper does not contain specific and binding regulatory measures. Under these circumstances, the Regulation on Artificial Intelligence proposed by the European Commission on April 21, 2021 has practical meaning. In the AI Regulation, the important framework presented in the AI White Paper is largely maintained, and it can be seen that these contents form a central element of the AI Regulation. If the AI Regulation is enacted, it will be the first regulatory system with direct binding force on member states. The AI norms are the minimum safeguards for innovation and investment in AI. It is noteworthy that the regulatory system based on risk was established. In particular, the requirements and obligations for high-risk AI are impressive, and it is worth referring to establishing a regulatory system for artificial intelligence in Korea. These contents are a reflection of the risk-based AI regulatory policy presented in the previous White Paper on AI. Considering that these regulations are not limited to EU member states and can affect providers or users in third countries, it is necessary to pay attention to the process and trends in the enactment of artificial intelligence commands and to prepare effective countermeasures. 지난 2020년 2월 19일 유럽집행위원회는 인공지능백서(White Paper on Artificial Intelligence)를 발표하였다. 또한 2021년 4월 21일에는 인공지능명령(Regulation on AI)을 제안하였다. 유럽집행위원회가 제안한 인공지능명령은 인공지능에 관한 최초의 규범이라고 볼 수 있다. 그러나 이러한 인공지능명령안이 제안되기 전에도 유럽집행위원회는 유럽연합의 미래 디지털전략을 제시하고 인공지능백서에서 그러한 정책을 포함하고 있다. 인공지능백서는 인공지능에 대한 유럽연합의 미래 청사진이다. 특히 인공지능백서에서 ‘신뢰 생태계’를 강조하고 있다는 점이 주목된다. 인공지능의 불확실성과 인공지능이 초래할 기본권 침해나 민주주의에 대한 위협 등을 우려하고 있으며, 신뢰 생태계의 구축은 이에 대한 대응이다. 유럽연합은 인공지능의 불확실성을 전제로 신뢰 생태계의 구축을 통해 이러한 문제를 해결하려고 노력하고 있다. 이처럼 유럽연합의 인공지능에 대한 정책은 인간중심적 인공지능을 구현하는 것을 목적으로 한다. 그러나 인공지능백서에는 구체적이고 구속력이 있는 규제방안이 포함되어 있지 않다. 이러한 상황에서 2021. 4. 21. 유럽집행위원회가 제안한 ‘인공지능명령’은 실천적 의미가 있다. 인공지능명령안에는 인공지능백서에서 제시된 중요한 골격이 대체로 유지되고 있으며, 이러한 내용은 인공지능명령의 중심적 요소를 이루고 있다고 볼 수 있다. 인공지능명령(안)이 제정되면, 회원국에 대해 직접 구속력을 가진 최초의 규율체계가 될 것이다. 인공지능규범은 인공지능에 대한 혁신과 투자를 위한 최소한의 안전장치이다. 리스크에 기초한 규제체계를 확립한 점이 주목된다. 특히 높은 리스크를 가진 인공지능에 대한 요건과 의무부과는 인상적인데, 인공지능에 대한 규제체계를 확립할 때 참고할 만한 사항이다. 이러한 내용은 종전의 인공지능백서에서 제시한 리스크 기반의 인공지능 규제정책이 그대로 투영된 것이다. 이러한 규제가 유럽연합 회원국에 국한되지 않고 제3국의 제공자나 사용자에게 미칠 수 있다는 점에서 인공지능명령의 제정과정과 동향을 주목하고 이에 효과적인 대응방안을 마련해야 한다.

인공지능 관련 저작권 침해에 관한 시론

전응준 한국경영법률학회 2021 經營法律 Vol.31 No.4

Copyright infringement related to artificial intelligence needs to be addressed in terms of AI learning stage and use stage of AI output. Considering the current degree of development of AI technology, it is thought that the issue of copyright infringement occurring in AI learning stage should be solved more urgently than the issue of copyright infringement occurring in use stage of AI output. Artificial intelligence learning step requires large-scale data input and the use of almost all works as data, making it difficult to solve with conventional fair use law. Accordingly legislative cases in each country, including South Korea, are trying to solve the issue of copyright infringement that may occur in the AI ​​learning stage by placing a new fair use clause or a clause allowing text data mining (TDM). On the other hand, I am of the view that copyright infringement that may occur in the stage of using AI output can be largely resolved by the existing laws of infringement and tort liability. However, even in this area, "depending on the development of technology," there could be marginal cases that are difficult for existing legal principles to solve. Whether an artificial intelligence output has creativity or copyright- ability is a matter that is directly related to whether an artificial intelligence output can infringe on other's copyright. On one side of the view that the copyrightability of artificial intelligence output should be denied, it seems that the current artificial intelligence output can only be used in limited areas such as stock articles, weather articles, and sampling music. Looking at the level of AI(GAN) artwork, chatbot and language translation using NLP, it is necessary to examine in detail whether the AI ​​technology grasps the context from a semantic point of view, and whether creative individuality is expressed accordingly. It is my view that whether pattern recognition, numerical vectorization of characteristics, and probabilistic models adopted by artificial intelligence technology have reached the point where AI can understand human expressions from the viewpoint of semantics not syntactics should be judged legally in the concrete case. An abundance of these discussions will lead to appropriate conclusions on whether to provide legal protection for artificial intelligence output or who to hold legally liable for situations in which artificial intelligence output is believed to infringe on other people's copyrights. This study also discusses the legal nature of open-source license associated with the Edmond de Belamy portrait case. In the AI development process, open source is widely used in the form of open source-based development platforms such as TensorFlow, development tools, and machine learning libraries such as PyTorch. Since AI development requires extensive human and material resources, it is taking an open source community-based development method in which various developers can participate. Regarding the legal treatment of artificial intelligence's achievements and output, it is also necessary to note the legal nature of open-source license applied in the development and distribution process of AI output. 인공지능 관련 저작권 침해는 주요하게 인공지능의 학습단계와 이용단계에서 문제된다. 현재 인공지능 기술의 개발 정도를 고려할 때, 인공지능 학습단계에서 발생할 수 있는 저작권 침해의 문제는 인공지능 이용단계에서 발생할 수 있는 저작권 침해 문제보다 더 시급히 해결되어야 할 것으로 생각된다. 인공지능 학습단계는 대규모의 데이터 입력을 요구하고 데이터로 사용된 저작물을 거의 전부 이용하여야 하기 때문에 종래의 공정이용 법리로 해결하기 어려운 점이 있다. 그에 따라 우리나라를 비롯하여 각국의 입법례는 새로운 공정이용 조항 내지 TDM(Text Data Mining) 허용 조항을 두어 인공지능 학습단계에서 발생할 수 있는 저작권 침해 문제를 해결하려고 하고 있다. 반면, 인공지능 이용단계에서 발생할 수 있는 저작권 침해는 기존의 침해 법리, 불법행위 법리에 의해 상당 부분 해결될 수 있다고 본다. 다만 이 영역에 있어서도 ‘기술의 발전에 따라’ 기존의 법리가 해결하기 어려운 한계적 사안이 발생할 수 있을 것이다. 인공지능 생성물이 창작성 내지 저작물성을 갖추고 있는지 여부는 인공지능 생성물이 타인의 저작권을 침해할 수 있는지 여부와 직접적으로 연결되는 문제이다. 인공지능 생성물의 저작물성을 부정해야 한다고 보는 견해의 일면에는 현행 인공지능 생성물의 수준이 주식 기사, 날씨 기사, 샘플링 음악 등 제한된 영역에서 활용될 수 있는 정도에 불과하다는 점이 고려되었다고 보이는데, 현재 GAN을 이용한 AI 미술품의 수준, NLP를 이용한 챗봇, 언어번역의 수준을 보면 해당 인공지능 기술이 의미론적(semantic) 관점에서 문맥, 맥락을 파악하는지, 그에 따라 창작적 개성이 발현되었는지를 구체적으로 검토해야 할 단계에 진입하였다고 생각된다. 인공지능 기술이 채택하고 있는 패턴인식, 특성의 수치벡터화, 확률적 모형 등이 인간의 표현을 구문론적(syntactic) 차원을 넘어서 의미론적(semantic)차원으로 이해하는지에 관하여 개별 기술 단위로 법률적으로 판단해야 할 시점에 이르렀다고 본다. 이러한 논의를 풍부하게 진행하여야 인공지능 생성물에 대해 법적인 보호를 할 것인지, 인공지능 생성물이 타인의 저작권 등을 침해하는 것으로 여겨지는 상황에 대해 누구에게 법적 책임을 부담시킬 것인지 등에 관한 적절한 결론을 도출할 수 있을 것이다. 본고는 Edmond de Belamy 초상화 사례와 관련되어 있는 오픈소스 라이선스의 법적 성격에 대해서도 기본적인 사항을 논하였다. 인공지능 개발 과정에서 오픈소스는 TensorFlow와 같은 오픈소스 기반 개발플랫폼, 개발도구, PyTorch와 같은 기계학습 라이브러리 등의 형태로 널리 사용되고 있다. 인공지능 개발은 광범위한 인적, 물적 자원이 필요한 영역이므로 이를 위해 다양한 사람이 참여할 수 있는 오픈소스 커뮤니티 기반의 개발 방식을 취하고 있는 것이다. 인공지능의 성과물, 생성물에 대한 법적 취급과 관련하여, 개발 및 배포 과정에서 적용되는 오픈소스 라이선스의 법적 성격에도 유념할 필요가 있다.

인공지능(AI)에 대한 법인격 부여와 법적 책임에 관한 연구 - FinTech 산업에서의 인공지능(AI)의 활용과 법적 책임을 중심으로 -

고인석 ( Ko¸ Inseok ) 한국지급결제학회 2021 지급결제학회지 Vol.13 No.2

인공지능(AI) 시대로의 사회변화는 현대를 살아가는 인간의 삶의 양태와 윤리·법적 기준의 변화와 함께 수많은 정책·제도적 변화의 과제를 던져주고 있다. 최근 인공지능(AI), 빅데이터(Big Data), 사물인터넷(IOT) 기반의 지능정보사회로의 급속한 변화는 사회·경제적 환경의 변화뿐만 아니라 기존의 인간사회의 윤리적 판단과 법적 판단의 기준에 대한 변화를 요구하고 있다. 인공지능 시대는 “인간과 인공지능의 공존”의 시대로서 수많은 정책과 법제도의 변화를 수반하여 엄청난 제도적 혼란과 충돌현상이 초래될 것이다. 따라서 현대 사회인으로서 생활을 영위하기 위해서는 인간과 인공지능의 공존을 위한 새로운 법제도의 정비가 필수적이다. 인공지능에 대한 법인격의 부여의 문제는 인공지능의 자유의지에 따른 행동에 인간에 부합하는 형사책임과 민사책임 부여를 위한 법인격의 인정에 달려 있다고 볼 수 있다. 인공지능에 대한 법인격의 부여문제가 바로 인공지능 시대 인공지능과 인간의 상호공존의 가능성 문제와 직결되어 있다고 볼 수 있다. 인간과 인공지능(AI)의 상호공존과 사회공동체의 지속발전이라는 측면에서 그동안 인공지능 관련 법제개선에 관한 단편적 법이론 연구의 범위를 넘어서 해외 법제연구의 동향과 법제도의 변화과정을 분석하여 인공지능에 대한 법인격 부여, 법적 책임의 인정, 알고리즘 규제 등 진화하는 인공지능기술의 발전에 부합하는 법이론과 법제정비 방안의 도출이 필요하다. 본 연구에서는 인공지능 시대 인간과 인공지능의 상호공존을 위한 인공지능에 대한 법인격의 부여 및 법적 책임에 대한 법이론적 대안을 제시하고, 나아가 핀테크 산업분야에서 인공지능의 활용과 법적 책임에 대한 제도적 개선안을 제시하고자 한다. Social change in the era of artificial intelligence (AI) presents numerous tasks of policy and institutional changes along with changes in the lifestyle and ethical and legal standards of humans living in the modern era. Recently, the rapid change to an intelligent information society based on artificial intelligence (AI), big data (Big Data), and the Internet of Things (IOT) requires not only changes in the social and economic environment, but also changes in the standards of ethical and legal judgments of existing human society. The era of artificial intelligence is an era of “coexistence between humans and artificial intelligence,” and numerous changes in policies and legal systems will lead to tremendous institutional confusion and conflict. Therefore, in order to lead a life as a modern society, it is essential to reorganize a new legal system for the coexistence of humans and artificial intelligence. It can be seen that the issue of granting a legal personality to artificial intelligence depends on the recognition of criminal responsibility and civil responsibility in accordance with the actions of artificial intelligence according to its free will. It can be seen that the issue of granting a legal personality to artificial intelligence is directly related to the possibility of mutual coexistence between artificial intelligence and humans in the artificial intelligence era. In terms of mutual coexistence between humans and artificial intelligence (AI) and continuous development of social communities, the trend of overseas legal research on the improvement of artificial intelligence-related legislation and the process of change in the legal system will be analyzed. It is necessary to derive legal theories and legal reform measures consistent with the development of artificial intelligence technology, such as granting legal personality to artificial intelligence, recognizing legal responsibility, and improving algorithms. This study proposes legal theoretical alternatives to the granting of legal personality and legal responsibility to artificial intelligence for mutual coexistence between humans and artificial intelligence in the era of artificial intelligence, and further suggests active use of artificial intelligence and legal improvement.

인공지능(AI) 창작물의 저작권관계 정립 방향

윤종민 강원대학교 비교법학연구소 2023 江原法學 Vol.73 No.-

생성형 인공지능인 챗GPT가 공개된 이후 인공지능을 둘러싼 법률문제에 대한 관심이 크게 증가하고 있다. 저작권분야에 있어서도 인공지능이 창작한 저작물이 일반에게 널리 공개‧유통되고 인공지능으로 인한 저작권 침해 문제가 현실화되면서 인공지능이 창작한 저작물을 어떻게 취급할 것인가에 대한 문제가 다시 쟁점으로 부각되고 있다. 소위 인공지능과 관계된 저작권 논쟁이다. 이 글에서는 인공지능이 창작한 저작물에 대한 권리‧의무의 귀속 등 저작권관계에 관한 그동안의 논의들을 분석‧평가하고, 이를 바탕으로 인공지능 산업의 원활한 발전과 인공지능 창작물의 효과적인 보호 및 활용체계 구축 등 인공지능과 저작권법의 적용관계를 조화롭게 운영해 나갈 수 있는 방안을 모색해 보고자 한다. 그동안 인공지능이 창작한 저작물에 대한 권리관계는 인간 중심의 저작권법원리에 입각한 법해석론적인 견해와 입장으로 인하여 적절히 대응하지 못하였는바 인공지능 창작물의 효과적인 보호와 이용을 촉진하기 위해서는 미래지향적인 저작권제도의 정립을 위한 보다 실천적인 노력이 필요하다. 현재 상황에서 인공지능이 창작한 저작물을 둘러싼 다양한 법률문제에 원활히 대응하기 위해서는 법리적 해석에 의한 접근보다는 입법정책적인 결단을 통해 법과 제도를 정비하는 것이 바람직해 보인다. 즉, 현행 저작권법제도의 운영원리를 최대한 유지하면서 인공지능 창작물을 효과적으로 보호하는 한편 그로 인해 발생되는 각종 법률문제를 원활히 해결하기 위해 저작권법의 발전적이고 보완적인 정비가 필요하다. 인공지능 창작물의 저작권관계를 정립하기 위해서는 인공지능이 창작한 저작물을 저작권법상의 저작물로 포섭하여 법적인 보호대상으로 하고, 해당 저작물에 대한 권리의 귀속 및 배분관계를 적절히 설정하며, 인공지능의 저작물 창작 및 서비스 등과 관련하여 제기되는 저작권 침해 문제를 해결할 수 있는 권리구제 시스템을 갖추어야 한다. Since the release of ChatGPT, a generative artificial intelligence, interest in legal issues surrounding artificial intelligence has increased significantly. In the field of copyright, as works generated by artificial intelligence are widely disclosed and distributed to the public and copyright infringement problems caused by artificial intelligence become a reality, the problem of how to treat works created by artificial intelligence is emerging as an issue again. This is a copyright controversy related to so-called artificial intelligence. In this article, we analyze and evaluate the current discussions on copyright relations, including the attribution of rights and obligations for works generated by artificial intelligence, and based on this, we would like to find ways to harmoniously operate the relationship between artificial intelligence and copyright law for establishing a system for the development of the artificial intelligence industry and the effective protection and utilization of artificial intelligence generated works. So far, the rights relationship for works generated by artificial intelligence has not been properly responded to due to legal interpretation views and positions based on human oriented copyright legal principles. In order to promote the effective protection and use of artificial intelligence generated works, a more practical efforts are needed to establish copyright system future-oriented. In the current situation, in order to smoothly respond to various legal issues surrounding works generated by artificial intelligence, it seems desirable to reorganize laws and systems through legislative policy decisions rather than an approach based on legal interpretation. In order to effectively protect artificial intelligence generated works and smoothly resolve various legal problems arising therefrom, it is necessary to develop and supplement the copyright law while maintaining the operating principles of the current human oriented copyright law system as much as possible. In order to establish the copyright relationship of artificial intelligence generated works, the works created by artificial intelligence must be included as works under the Copyright Act and be subject to legal protection, the ownership and distribution of rights to the works must be appropriately established, and the rights relief system must be in place to resolve copyright infringement issues raised in relation to the creation and service of works by artificial intelligence.

인공지능 기반 도시공간 조명디자인 개발 방향에 대한 소고

양정순 한국공간디자인학회 2022 한국공간디자인학회논문집 Vol.17 No.8

(연구배경 및 목적) 최근 도시·건축 부분에서 인공지능은 관리, 설계, 제작 부분에서 주목할 성과들이 나타나고 있다. 조명디자인 분야는 스피커와 연계된 테이블램프나 스마트 가로등 위주로 상용화되고 있어 공간으로 확장성은 극히 제한적이다. 특히인공지능 기반 조명디자인 개발 방향 연구와 지침 등은 거의 없어 엔지니어들이 인공지능이 적용된 조명환경을 어떤 방향으로기술개발 하여야 할지 그 방향성이 모호하다. 인공지능 기술개발은 급진적이나 활용 방향성이 제시되지 않아 공간경험과 공간환경 보다는 요소 위주로 이루어지는 한계가 있다. 이에 본 연구에서는 인공지능 기반 조명디자인 개발 방향성에 대한 논의의 필요성을 제기하고 그 방향성을 모색하고자 한다. (연구방법) 먼저 도시 건축공간에 대한 인공지능 관련 선행연구와 개발내용에 대한 조사를 바탕으로 건축공간에서 인공지능 기술개발이 어떻게 이루어지는지 조사 분석하였다. 둘째 인공지능 기반 조명디자인현황에 대해 개별 조명기구 중심의 개발, 운용시스템 그리고 문화콘텐츠로 구분하여 최근 5년간의 신문과 뉴스, 잡지, 조명기술전문사이트 검색을 통해 개발현황에 대한 자료를 수집하였다. 셋째, 수집된 내용을 바탕으로 건축공간에 있어 인공지능 개발의현황 및 선행연구 분석을 통해 인공지능 기반 조명디자인 개발 방향성에 대해 의견을 개진하고자 하였다. (결과) 연구결과로 4 차 산업혁명의 핵심인 사람, 사물, 공간을 초연결, 초지능화 산업구조와 사회시스템으로 변화하고 있으나 그에 대응하는 조명환경에 대한 연구개발이 미진하다는 것을 알 수 있었다. 조명디자인은 지리환경 분석, 법규 적용, 주변 이용자 현황, 동선, 소비 등의 빅데이터 분석을 통해 인공지능으로 빛환경 연출이 확장 가능하다. 더 나아가 공간조명은 정보인지, 생물학적 리듬조절 및 건강, 심미성 강화하는 빛환경의 조건을 찾아 인공지능 적용 가능하다. 이에 인공지능기반 조명디자인은 안전성 강화, 건강증진, 정보전달 및 지역공동체 의식 강화, 유희적 경험과 문화예술적 체험, 자가 학습과정으로서 인공지능 조명을 중심으로 개발 방향성을 제안하고자 한다. (결론) 본 연구에서는 인공지능 기반 조명디자인 방향성에 대한 연구의 중요성에 대한 공감대를 형성하여그 방향성에 대해 함께 모색하고자 하였다. 비록 본 연구가 실험 바탕의 정량적 연구가 아니어서 연구결과에 대해 구체적 수치나데이터는 제시하고 있지 않다. 그러나 AI조명디자인 개발 방향에 대한 사회적 담론 없이 단편적 기술 위주로 개발되는 현재 조명산업 개발 방향에 의구심을 제기하고 그 방향성 수립의 필요성과 발전상을 제안한 데에 본 연구의 의의가 있다. (Background and Purpose) Recently, artificial intelligence (AI) has shown remarkable achievements in the management, design, and production of urban and architectural fields. However, in the lighting design field, AI table lamps linked to speakers or smart street lighting fixtures with multiple functions have been commercialized, which is limited for spatial applications. In particular, there are only few studies and guidelines on the development of AI-based lighting design, making it ambiguous for engineers to choose a direction in developing the lighting environment applied with artificial intelligence. The development of artificial intelligence technology is radical, but there is a limit to the fact that it is focused on elements rather than spatial experience and the spatial environment because the direction of application is not presented. Therefore, this study raises the need for discussion on the direction of AI-based lighting design development. (Method) First, based on previous research, artificial intelligence technology in architectural space was investigated and analyzed. Second, a status survey for lighting design based on artificial intelligence was conducted. This study concerned with lighting fixtures and operation systems, contents based on data newspapers, news, magazines, and lighting technology-specialized websites in the last five years. Third, based on the results of the research, we present opinions on the direction for development of lighting design based on artificial intelligence. (Results) People, things, and space, which are at the core of the fourth industrial revolution, are changing into hyper-connected and super-intelligent industrial structures and social systems, but research and development on lighting environments corresponding to them are insufficient. Lighting design can expand illuminated environments with artificial intelligence through an analysis of the geographic environment, application of laws, and big data analysis of surrounding user status, movement, and consumption patterns. Furthermore, space lighting can be applied to artificial intelligence by determining the conditions of a light environment that enhances information recognition, biological rhythm control, health, and aesthetics. Accordingly, I propose development directions for artificial intelligence lighting as safety enhancement, health promotion, information delivery and awareness enhancement of region, playful experience, cultural and artistic experience, and self-learning processes. (Conclusions) We sought direction by forming a consensus on the importance of research on lighting design based on artificial intelligence. This study is significant in raising doubts about the current direction of development of the lighting industry, which is developed mainly on fragmentary technologies without social discourse on the direction of AI lighting design development, and it suggests its necessity and development.

특허법상 인공지능 창작물의 발명 해당 여부

김용주 중앙대학교 법학연구원 2018 法學論文集 Vol.42 No.2

We live in an age of artificial intelligence. Nowadays it creates something new. Just a few years ago, artificial intelligence would not have thought of composing and drawing pictures by itself. Smart artificial intelligence produces works similar to human beings in the fields of music and art, which were estimated as human’s creative area. Artificial intelligence even plays a role in the development of new drugs and computer programs. The paper starts from the question whether artificial intelligence should be regarded as a human tool or artifacts of artificial intelligence should be treated as protected inventions under the patent law. Thus the paper focuses on the artifacts produced by artificial intelligence and how to protect them. Unlike the protection by copyright law, there would be considerable controversy about the claim that artifacts of artificial intelligence should be protected by patent law. Nevertheless the author intends to insist the necessity of protection because artificial intelligence may have meaningful legal impact. The pace of technological progress is much quicker than that had been in the past. However laws have a tendency of coping with the phenomenon slowly. The author wish to share results through the promotion of science and technology with my contemporaries. The paper briefly reviewed technical features of artificial intelligence. In particular the author reviewed the operating principles of AlphaGo Zero, which can create a new way without human intervention through reinforcement learning. In the case of artificial intelligence, the creation of artworks without any human intervention is likely to correspond to the conceptual invention of Article 2 (1) of the patent law. Artificial intelligence can create new outcomes through self-learning, as seen in the use of artificial intelligence in the pharmaceutical industry and computer programs. There are two results that could be considered meaningful in the process of artificial intelligence. First, the ability of processing data in aspects of time and amount of data. It is superior than general computers due to self-learning. Second, some unpredicted unique results through its self-learning process. The first result may be difficult to be a meaningful invention under the patent law. However, the second result may not be handled just as a tool. It is difficult to say that it is a natural phenomenon. If so, the result of artificial intelligence could be protected as inventions under the patent law. Considering the possibility of artificial intelligence technology being used in industries, the paper tried to think about how to look at artificial intelligence output. The author examined whether the patent law could be applied to artifacts of artificial intelligence. Therefore the author reviewed artificial intelligence related technologies in detail and reviewed the concept of the invention focused on the United States. After that, the author examined whether the concept of invention could be applied to the case of artificial intelligence products that are thought to be meaningful as inventions. 우리는 인공지능이 무언가를 만들어내는 시대에 살고 있다. 불과 몇 년 전만 해도 대부분의 사람들은 인공지능이 작곡을 하고 그림을 그린다는 것을 생각하지 못했을 것이다. 똑똑해진 인공지능은 이제 인간의 창조적 영역이라 일컬어지던 음악이나 미술과 같은 예술 분야에서 인간과 유사한 작품을 만들어 낸다. 그 뿐만 아니라 인공지능은 신약 개발이나 컴퓨터 프로그램을 만드는데 있어 일정한 역할을 하고 있다. 본 논문은 이러한 인공지능의 산출물에 대해 인공지능을 인간의 도구로 보아야 할 것인가, 아니면 인공지능이 만들어낸 새로운 작품에 대해 창조성을 인정하여 특허법상 보호되는 발명으로 취급하여야 할 것인가에 대한 의문점에서 시작하였다. 기존에 학계에서 논의되던 내용은 인공지능과 같은 소프트웨어 특허에 초점을 맞추었다면, 본 논문은 인공지능이 만들어내는 산출물에 초점을 맞추어 이를 보호하여야 할 것인지, 보호한다면 어떠한 근거에서 보호를 해야 할 것인지에 대한 논의를 시작해 보고자 하였다. 인공지능이 저작권법에서 다룰만한 예술 분야에서 구체적으로 두각을 나타내는 것과는 달리 인공지능의 산출물을 특허법상 발명으로 보호한다는 주장에 대해서는 상당히 반론이 많을 수 있다. 그럼에도 불구하고 저자가 어찌 보면 뜬구름 잡는 듯 무모할 수 있는 이러한 논의를 하고자 하는 이유는 인공지능에 의해 새롭게 재편될 세계, 특히 인공지능 산출물이 특허법상 발명으로 취급될법한 유의미한 법적 의미를 지닐 가능성이 농후하다는 생각을 가지고 있기 때문이다. 아울러 과거에 비해 기술의 진보 속도는 훨씬 빠르게 이루어짐에도 불구하고 제도를 관장하는 법이 어떠한 현상이 발생한 후에나 사후적으로 대처하는 것에 대한 미진함을 조금이나마 개선하고자 하는 부족한 젊은 법학자의 객기 때문이기도 하다. 인공지능이 발명을 한다는 것은 어찌 보면 허무맹랑한 소설 같은 이야기이나 4차 산업이라는 거대 담론을 이야기하기 전에 멍석을 깔아보려는, 그래서 과학기술의 진흥을 통한 달콤한 과실을 동시대인과 공유하고 싶은 마음이 크다. 본 논문에서는 최근 회자되고 있는 인공지능의 기술적인 특징을 개괄적으로 살펴보았다. 특히 강화학습 방식을 통해 인간의 개입이 없더라도 스스로 새로운 방식을 만들어내는 알파고 제로의 운용원리를 검토하였다. 인공지능과 관련하여 알파고 제로와 같이 인간의 개입 없이 창작물을 만들어 낼 경우, 특허법 제2조 제1호의 개념상 발명에 해당할 가능성이 있다고 생각한다. 현재 제약 산업 분야와 컴퓨터 프로그램 분야에서의 인공지능 활용에서 볼 수 있듯이 인공지능이 스스로의 학습을 통해 새로운 결과물을 창출할 수 있다. 왜냐하면 인공지능이 만들어낸 결과물은 인간의 학습이라는 제약을 뛰어넘어 새로운 수를 도출할 수 있기 때문이다. 머신러닝 과정을 통해 인공지능이 이전에 비해 뛰어나다고 여겨지는 것은 크게 두 가지이다. 첫째는 방대한 데이터 처리과정을 거쳐 스스로 학습하는데 있어 시간과 절대량을 처리할 수 있는 능력이 월등하다는 것, 둘째는 이러한 학습 과정을 거쳐 스스로 특이한 수를 찾아내는데 이것이 인간이었다면 알기 어려운 수라는 것이다. 첫 번째 특징에 대해서 인공지능의 산출물을 특허법상 유의미한 발명이라고 보기는 어려울 수 있다. 이는 기존에 인간이 데이터를 처리하는 컴 ...

현상으로서의 인공지능(AI) 영화 창작에 대한 고찰

이승엽 ( Lee Seong Yup ) 한양대학교 현대영화연구소 2022 현대영화연구 Vol.18 No.2

AI의 영화 창작은 우리가 인지하지 못했을 뿐 이미 일어난 현상이라고 볼 수 있다. 불과 얼마 전까지 활발하게 이루어졌던 인공지능의 예술 창작 가능성에 관한 질문은 이제 영화로 옮겨 왔다. “AI가 창작한 영화를 영화라 할 수 있을까?”라는 질문은 수많은 사고의 갈래로 뻗어 나갈 수 있지만, 이 논문에서는 인공지능 영화 < 존 아웃 Zone Out >의 사례를 중심으로 크게 두 가지의 시각으로 논의하였다. 첫 번째는 인공지능 벤저민의 작동 원리, 이 영화의 제작 과정, 인공지능 영화의 현황과 가능성에 대한 논의이다. 두 번째는 인공지능 영화를 하나의 새로운 영화적 현상으로 보고 그 의미에 대한 논의이다. 이 논의를 통해 인공지능 영화를 AI가 인간의 영화 창작 프로세스를 돕는 방식, 그리고 인공지능이 창작의 자율성을 가진 방식으로 분류할 수 있다. 이 두 방식은 어쩌면 분리되어 각자의 길을 갈 수도 있고, 두 방식이 큰 체계안에 혼용되어 사용될 수도 있다. 다만 인간이 구축한 시스템 안에서 인공지능이 점점 자동화하는 방향으로 발전할 것이라는 사실은 변하지 않을 것이다. AI 영화 창작이 자동화 범주에 들어서는 단계가 되면 새로운 미학에 대한 논의가 필요하겠지만 우선은 AI 영화가 나타난 그 현상 자체를 영화 역사에서 새롭게 나타난 생생한 의미로 받아들이고자 한다. AI cinema creation can be seen as a phenomenon that has already occurred without us being aware of it. The question about the possibility of artistic creation of artificial intelligence, which had been actively raised not so long ago, has now moved to cinema. The question “Can AI-created cinema be called the cinema?” can lead to numerous branches of thought, but in this paper, the case of the artificial intelligence film < Zone Out > was mainly discussed from two perspectives. The first is a discussion of the working principle of the artificial intelligence Benjamin, the production process of this film, and the current status and potential of artificial intelligence cinema. The second is to view artificial intelligence cinema as a new cinematic phenomenon and discuss its meaning. Through this discussion, we can classify AI cinema as the way AI aids the human to create the cinema and the way AI has creative autonomy. These two methods may go their separate ways, or the two methods may be used interchangeably in a large system. However, it will not change the fact that artificial intelligence will gradually develop in the direction of automation within systems built by humans. When AI cinema creation enters the stage of the automation category, it will be necessary to discuss new aesthetics, but first of all, we want to accept the phenomenon itself that AI cinema appears as a new vivid meaning in the history of cinema.

인공지능 생성물에 대한 중국에서의 논의 - Feilin Law Firm v. Baidu 사건과 Tencent Dreamwriter 사건을 중심으로 -

홍대운 ( Hong Dae Un ),이주연 ( Lee Ju Yoen ) 중앙대학교 법학연구원 문화.미디어.엔터테인먼트법연구소 2021 문화.미디어.엔터테인먼트 법 Vol.15 No.1

인공지능이 초래한 지적재산권법상 여러가지 쟁점이 전 세계적으로 논의되고 있지만, 이 문제는 아직 해결되지 못한 채 미궁 속에 있다. 이러한 상황에서 2019년 인공지능분야의 선도국가에 속하는 중국에서 인공지능과 저작권 문제를 다룬 2건의 판결-베이징 인터넷법원이 선고한 페일린(菲林) 법률사무소 대 바이두(Baidu, 百度) 사건 판결과 광동성 선전시 난산구 인민법원이 선고한 텐센트 드림라이터(Tencent Dreamwriter) 사건 판결-이 내려져서 우리나라를 비롯한 전세계의 주목을 받았다. 특히 뒤의 판결은 인공지능 창작물에 대한 저작권을 인정한 최초의 사례로 소개되기도 하였다. 그러나 이두 사건 모두 법원이 문제된 어문을 인공지능을 도구로 활용하였거나 인공지능이 보조하여 작성한 ‘인간의’ 창작물이라고 보아 저작권을 인정한 사례라는 점에서 동일하다. 다만 저작물의 독창성 내지 창작성을 판단하는 기준에서 베이징 인터넷법원은 독창성을 독자적 요건으로 보고 객관적 기준에 따라 판단한 반면, 선전시 난산구 인민법원은 인간의 창작을 독창성 요건의 일부로 보아 주관적 기준으로 판단하였다는 점에서 차이가 있다. 이런 의미에서는 인공지능 창작물에 대하여 보다 호의적으로 판단한 것은 베이징인터넷법원이라고 할 수 있다. 인공지능과 저작권 문제에 관한 선행 연구들과 현재 진행중인 논의를 분석한 결과 정작 논의의 첫 출발점인 인공지능이 관여된 창작물에서 ‘인간의’ 창작물과 ‘인공지능의’ 창작물을 어떻게 정의하고 나눌지에 대한 통일된 견해가 정립되지 못한 상황임을 알 수 있었다. 이러한 여건 속에서 위 두 사건은 각 법원이 나름의 논리로 인공지능이 관여된 창작물에 대한 분쟁을 해결하였다는 점에서 많은 의미가 있고 연구할 가치도 높다. 또한 이 두 판결은 인공지능 산업을 부양하고자 하는 중국 정부의 정책을 반영한 사례로 평가할 수 있다. Although various issues in the intellectual property law brought about by artificial intelligence are being debated around the world, these issues have not yet been resolved and are in a labyrinth. Under these circumstances, in 2019, two rulings dealing with artificial intelligence and copyright issues― Feilin Law Office vs. Baidu decided by Beijing Internet Court and the Tencent Dreamwriter case decided by Nanshan District People’s Court, Shenzhen, Guangdong Province were made ― in China, one of the leading countries in the field of artificial intelligence. The two cases attracted attention around the world, including Korea. In particular, the latter has been known as the first case of acknowledging copyright for creations by artificial intelligence. However, in both cases, courts held that works at issue were copyrighted works on the ground that they were created by humans using artificial intelligence or assisted by artificial intelligence. Nonetheless, in determining the originality of a work, the two courts employed different standards: The Beijing Internet Court considered originality as an independent requirement and judged it according to an objective standard, whereas the Nanshan People’s Court of Shenzhen regarded human creation as a subjective criterion as part of the originality requirement. In this sense, the Beijing Internet Court arguably had favorable attitude toward creations by artificial intelligence. An analysis of the existing and ongoing studies on artificial intelligence and copyright issues reveals that no consensus has been reached on the starting point of the discussion―how to define and distinguish human creations and creations by artificial intelligence in creations involving artificial intelligence. Under these circumstances, the rulings of the above two cases are of great significance and deserve further study in that the two courts resolved disputes over creations involving artificial intelligence based on their own logic. In addition, these two rulings can be regarded as reflecting the Chinese government’s policy to boost the artificial intelligence industry.