자율적 지능 로봇과 민사책임법상 법정책적 과제- 프랑스법에서의 논의를 중심으로

박수곤 한국민사법학회 2022 民事法學 Vol.100 No.-

The autonomy of intelligent robots generally depends on the degree of development of artificial intelligence. In particular, the operation of an intelligent robot with a significant level of autonomy may be evaluated as outside the control of its developer or inventor, and if the improper operation result of the robot causes damage to others due to such circumstances, it can be difficult to determine who should be held responsible. Therefore, the question arises as to whether the existing positive law is sufficient to regulate such interactions between humans and robots, or whether it is necessary to recognize legal personality or rights to robots. However, since robots are treated as objects under the current law, even if artificial intelligence is added to the robot, it is evaluated that the current law can regulate the situation caused by the malfunction of the artificial intelligence robot. In other words, the current civil liability law can be applied as long as an intelligent robot can be controlled by humans. However, if intelligent robots evolve into beings with autonomy, it will be necessary to establish a special model of responsibility. If we comprehensively analyze the regulatory attitudes in the current French law, it can sufficiently regulate the situation of damage caused by the operation of the intelligent robot at the current technological level, and in this sense, it can be evaluated that the ‘legal flaw’ is not large. Although the emergence of autonomous intelligent robots equipped with strong artificial intelligence is still a situation that needs to be watched over time, intelligent robots with greater autonomy than simple automated robots are coming to market, as artificial intelligence technology develops day by day. Therefore, it can be said that there are some flaws in the current laws and regulations of each country in order to regulate the bad consequences of the operation of these intelligent robots. In this sense, the attitude of the European Parliament resolution on the responsibility of AI operators in October 2020 can be used as a model of responsibility in the process of preparing for the advent of autonomous intelligent robots in the future, but this resolution has limitations in that it only targets AI operators. Considering the above points collectively, it can be evaluated that the liability of animal occupants and the Badinter Act in French law are more suitable as a model of responsibility for the emergence of autonomous intelligent robots in the future. 지능 로봇의 자율성은 인공지능의 발달정도에 의존할 수밖에 없다. 특히, 상당한 수준의 자율성을 갖춘 지능 로봇의 작동은 그 개발자 또는 발명자의 지배를 벗어난 것으로 평가될 여지가 있으며, 이러한 사정으로 인하여 로봇의 부적절한 작동결과가 타인에게 손해를 발생시킬 경우, 그에 대한 손해배상책임을 누구에게 부담시킬 것인지가 해결해야 할 과제로 대두될 수 있다. 이에 기존의 실정법이 이와 같은 인간과 로봇 사이의 상호작용을 규율하기에 충분한 것인지 아니면 로봇에게 법인격 내지 권리를 인정할 필요가 있는 것인지가 문제로 된다. 다만, 현행법상으로는 물건으로 다루어지는 단순 로봇에 대해 인공지능이 추가되는 경우 현재의 실정법이 그와 같은 인공지능형 로봇을 규율하기에 적합한 것으로 평가된다. 즉, 지능형 로봇이라고 하더라도 인간에 의한 통제가 가능한 수준이라면 현재의 책임법이 그대로 적용될 수 있다는 것이다. 그러나 지능형 로봇이 자율성을 가진 존재로 진화할 경우에는 특수한 책임모형을 모색할 필요가 있을 것이다. 현행 프랑스법에서의 규정태도를 종합적으로 분석한다면, 현재의 기술수준에서의 지능 로봇의 작동으로 인한 손해발생 상황에서의 규율에 있어 충분히 대처할 수 있으며 이러한 의미에서는 ‘법적 흠결’이 크지 않은 것으로 평가할 수도 있다. 다만, 강인공지능을 탑재한 자율적 지능 로봇의 출현은 아직까지 시간을 두고 지켜보아야 할 상황이라고는 하나, 그와 같은 자율적 지능 로봇으로 향하는 인공지능 기술의 개발이 나날이 향상됨으로 인하여 단순히 자동화된 로봇 이상의 자율성을 지닌 지능 로봇이 시장에 출시되고 있는 상황이다. 따라서 그와 같은 수준의 지능 로봇의 작동으로 인한 악결과를 규율하기 위해서는 현재의 각국의 법령들에서도 다소의 흠결이 발견되는 상황이라고 할 것이다. 이러한 의미에서 2020년 10월의 인공지능 운영자의 책임에 관한 유럽의회 결의안의 태도는 향후 자율적 지능 로봇의 출현을 준비하는 과정에서의 책임모델로 삼을 수도 있을 것이나, 동 결의안 또한 인공지능 운영자만을 수범자로 하고 있다는 점에서 한계가 있으며, 그 내용면에서는 프랑스에서의 Badinter법과 유사하다고 할 수 있다. 이상과 같은 점들을 종합적으로 고려할 때, 프랑스에서의 동물점유자의 책임 및 Badinter법이 향후 자율적 지능 로봇의 출현을 대비한 책임모델로서 보다 적합한 것으로 평가할 수 있을 것이다.

지능형 로봇 금융지원제도 개선방안: 「로봇 개발 및 보급 촉진법」을 중심으로

고영미 법무부 2019 선진상사법률연구 Vol.- No.86

우리나라는 지능형 로봇을 미래국가핵심 전략산업으로 간주하고 국가 차원의 지원을 위해 2008년 3월 28일 「지능형 로봇 개발 및 보급 촉진법」(이하“지능형로봇법”이라 함)을 한시법으로 제정하였다. 지난해인 2018년 6월 10년의 기간 만료로 폐지 위기를 맞았던 동법은 개정과 함께 다시 10년간 한시법으로 존치하게 되었다. 이러한 지능형로봇법의 목표는 차세대 성장 동력산업인 지능형 로봇을 미래 국가핵심 전략산업으로 육성하기 위한 제도적 기반을 구축함으로써 국가경제의 발전과 국민 삶의 질 향상에 이바지하는 것이다. 동법은 지능형 로봇의 개발 및 보급에 관한 기본 계획을 수립하고, 지능형 로봇제품의 품질확보 및 보급, 확산을 촉진하는데 필요한 지원 시책을 수립하며, 지능형 로봇투자회사의 설립 등을 통해 기술개발에 필요한 재원 확보를 용이하게 하는 등 지능형 로봇의 사회 경제적 파급효과를 고려한 정책적 방안을 포함하고 있다. 또한, 동법은 지능형 로봇 연구개발과 상업화(상품화) 사업에 민간의 투자참여제도를 마련하여 시중의 유동자금을 국가의 성장동력분야인 지능형 로봇산업 분야로 유인하기 위하여 “지능형 로봇 펀드”제도의 도입을 요구하고 있다. 또한 지능형 로봇 펀드는, 공모를 통하여 투자회사에 참여하는 자는 지능형 로봇의 잠재적인 수요자에 해당하기 때문에 지능형 로봇 수요의 창출에 기여할 수 있다는 판단에 기초한다. 지능형 로봇 펀드의 참여자는 로봇수요자로서 수요자의 요구를 원활하게 파악하여 미래 잠재 수요자 확보를 통한 지능형 로봇의 연구개발 결과의 직접적인 사업화에 기여할 수 있게 된다. 즉, 지능형 로봇 투자회사의 가입자가 향후 지능형 로봇의 구매자가 되는 구조로 “시장이 기술을 견인”하여 기술개발과 사업화의 효율성이 증대될 수 있다. 기술한 바와 같이 로봇산업을 국가의 성장동력인 첨단산업으로 육성하기 위해서 지능로봇법에서 다양한 제도를 도입하였으나, 동법에 도입된 지능형 로봇투자회사의 설립과 운영에 관한 지원 및 육성제도는 법률이 시행된 이후 10여젼이 경과하였음에도 불구하고 시행되지 않고 있다. 이와 관련하여 여러 원인들이 거론되고 있지만, 지능형 로봇투자회사 자체의 문제가 우선적인 원인으로 지적될 수 있다. 본 논문은, 로봇 분야의 우수한 기업을 발굴하고 육성하기 위해서는 실효성 있는 금융지원이 필요하다는 인식에 따라, 현행 지능형로봇법상 금융지원 관련 규정의 문제점을 분석하여 지능형 로봇의 개발 및 보급에 필요한 투자 재원을 확보할 수 있는 방안을 도출하기 위한 목적으로 작성되었다. On March 28, 2008, the “Intelligent Robot Development and Supply Promotion Act” (hereinafter referred to as the “Intelligent Robot Act”) was enacted into a temporary law to consider intelligent robots as a core strategic industry for the future state and to support the national level. This act, which faced abolition last year due to the expiration of the 10-year period in June 2018, has been remained a temporary law for another 10 years with the reform. The aim of this intelligent robot act is to contribute to the development of the national economy and the improvement of the quality of people's lives by establishing an institutional foundation to foster intelligent robots, the next generation growth engine industry, as a core strategic industry for the future. The Act included policy measures considering the social and economic ripple effects of intelligent robots, such as establishing basic plans for the development and distribution of intelligent robots, establishing necessary support measures for securing, distributing and promoting the quality of intelligent robot products, and establishing intelligent robot investment companies. In addition, the Act required the introduction of an “intelligent robot fund” system to induce floating funds in the market to the intelligent robot industry sector, which is the growth engine of the country, by developing a private investment participation system in intelligent robot R&D and commercialization projects. The intelligent robot fund was also thought to be able to contribute to the creation of demand for intelligent robots, as participants in the initial public offering would be a potential demand for intelligent robots. Participants of the Intelligent Robot Fund will be able to smoothly understand the needs of the demanders as robot consumers and contribute directly to commercializing the research and development results of intelligent robots by securing potential future users. This means that the smart robot investment company is going to let subscribers buy the smart robot in the future.With a viable structure, the market can “drive the technology” and thus increase the efficiency of technology development and commercialization. As described, various systems were adopted from the Intelligent Robot Act to foster the robot industry as a high-tech industry, which is the nation's growth engine, but support for the establishment and operation of intelligent robot investment companies introduced in the Act.The incubation system has not been implemented even though 10 years have elapsed since the Act was enacted. While many causes are mentioned in this regard, the problems of intelligent robot investment companies themselves may be cited as the primary causes.This paper was written with the aim of analyzing the problems of the regulations related to financial support under the current intelligent robot law in view of the need for effective financial support in order to find and nurture excellent companies in the robotics field, and to draw out ways to secure the investment resources needed for the development and distribution of intelligent robots.

한국의 인공지능과 로봇에 관한 법제정비방안 연구 : EU의 ｢로봇공학에 관한 민사법 규칙｣과 주요국들의 AI 로봇법제 동향 비교분석

심민석(Sim, Min-Seok) 경희법학연구소 2020 경희법학 Vol.55 No.3

인공지능(Artificial Intelligence, AI) 기술의 빠른 발전과 관련 산업의 성장은 국내 및 주요국의 인공지능과 관련한 법률의 제･개정을 빠르게 변화시키고 있다. 우리는 인공지능과 관련하여 2008년 3월에 ｢지능형 로봇개발 및 보급 촉진법｣을 제정하여 인공지능과 관련한 법률을 선진적으로 입법하였다. 다만, 지능형 로봇은 소프트웨어인 인공지능과 하드웨어인 로봇이 서로 결합한 기계장치임에도 인공지능과 로봇에 관한 규정들을 균형 있게 규정하지 않았다. 이를 보완하기 위하여 EU의 ｢로봇공학에 관한 민사법 규정｣과 부속서인 ｢로봇공학 헌장｣, EC의 ｢신뢰할 수 있는 인공지능 윤리원칙｣, 그리고 미국, 일본, 중국의 인공지능과 관련한 정책 및 입법 동향을 살펴보면서 시사점을 알아보았다. 그리고 이에 기반하여 현행 ｢지능형 로봇개발 및 보급 촉진법｣을 보완하는 입법방안으로 ‘지능형 로봇윤리헌장’의 제정공표, 인공지능 윤리원칙의 감시기관으로 연구윤리위원회 설립, 인공지능과 지능형 로봇의 정의개념 정립, 지능형 로봇 등록시스템 구축과 전담기관 설치, 의무보험제도의 도입, 지능형 로봇의 전자인격과 법적 책임의 일반원칙 수립에 관한 내용을 제시하였다. 다만, 법률의 명칭을 ｢인공지능과 로봇개발 및 보급 촉진법(가칭)｣ 또는 ｢인공지능과 지능형 로봇개발 및 보급 촉진법(가칭)｣으로 변경할 필요가 있다. 또한 4차산업혁명을 주도하는 인공지능과 관련한 다양한 분야의 기술개발과 정책을 추진하고, 4차산업혁명 전반의 발전을 이끌 수 있는 컨트롤 타워의 역할을 수행할 수 있도록 4차산업혁명위원회의 지위와 역할을 강화시킬 수 있는 방안을 제시하였다. The rapid development of artificial intelligence technology and the growth of related industries are rapidly changing the enactment and amendment of laws related to artificial intelligence in domestic and major countries. In relation to artificial intelligence, we enacted the ｢Intelligent Robot Development and Distribution Promotion Act｣ in March 2008, and advanced legislation related to artificial intelligence. However, although an intelligent robot is a mechanical device in which artificial intelligence (software) and robot (hardware) are combined with each other, regulations on artificial intelligence and robots are not stipulated in a balanced way. To supplement this, I examined the implications of the EU s ｢Civil Law Rules on Robotics｣, the annexed ｢CHARTER ON ROBOTICS｣, the EC s ｢Ethics guidelines for trustworthy AI｣, and policies and legislative trends related to artificial intelligence in the US, Japan, and China. Based on this, the legislative plan to supplement the current ｢Intelligent Robot Development and Distribution Promotion Act｣, announced the enactment of the Intelligent Robot Ethics Charter , established the Research Ethics Committee as a monitoring institution for artificial intelligence ethics principles, and the definition concept of artificial intelligence and intelligent robots. Contents on the establishment, establishment of an intelligent robot registration system and installation of a dedicated agency, introduction of a compulsory insurance system, and establishment of the general principles of the electronic personality and legal responsibility of intelligent robots are presented. In addition, the status and position of the 4th Industrial Revolution Committee and the role of the 4th Industrial Revolution Committee to play the role of a control tower that can lead the overall development of the 4th Industrial Revolution and promote technology development and policies in various fields related to artificial intelligence leading the 4th Industrial Revolution. It suggested a way to strengthen the role.

3축 손가락 힘센서를 가진 지능로봇의 지능형 로봇손 개발

김갑순(Gab-Soon Kim),신희준(Hi-Jun Shin) 제어로봇시스템학회 2009 제어·로봇·시스템학회 논문지 Vol.15 No.3

This paper describes the intelligent robot’s hand with three-axis finger force sensors for an intelligent robot. In order to grasp an unknown object safely, it should measure the mass of the object, and determine the grasping force using the mass, then control the robot’s fingers with the grasping force. In this paper, the intelligent robot’s hand for an intelligent robot was developed. First, the three-axis finger force sensors were designed and manufactured, second, the intelligent robot’s hand with three-axis finger force sensors were designed and fabricated, third, the high-speed control system was designed and manufactured using DSP(digital signal processor), finally, the characteristic test to grasp an unknown object safely was carried out. It was confirmed that the developed intelligent robot’s hand could grasp an unknown object safely.

법률용어로서의 “로봇(Robot)” 개념에 관한 일고찰- 「지능형 로봇 개발 및 보급 촉진법」의 개선방안의 일환으로

김주영 명지대학교(서울캠퍼스) 법학연구소 2022 명지법학 Vol.21 No.1

As the importance of the role of the state in the development of modern science and technology does not require additional discussion, so the development of our country's robot industry will ask for continuous review to see whether the current robot industry promotion legislation has sufficient content for robot industry promotion or it can be improved. Such review work is also an essential part for the realization of the principle of the rule of law that state intervention should always be carried out under the support of appropriate laws. For the effective conceptual regulation of “robot”, the target of policy, should be preceded to secure industrial competitiveness related to robot technology and promote policies for continuous development of robot industry, the study examines the appropriateness of the definition of “intelligent robot” of the current 「Intelligent Robots Development and Distribution Promotion Act」 - “The term "intelligent robot" means a mechanical device(including software required for operating the mechanical device) that perceives the external environment for itself, discerns circumstances, and moves voluntarily”(Article 2, 1.) - from the point of view of the analysis of systemicity(; Systematik) and understandability(Verständlichkeit) among the examination creteria of the legislative evaluation(Gesetzesevaluation). In conclusion, the concept of “intelligent robot” in the current law does not mean much in the legal system and it is not easy to understand either. And there is also a risk of unnecessarily reducing the applicable scope of the law in practice. So there is a need of deleting the modifier “intelligent” and it is proposed to use a semi-exemplary definition of an exemplary arrangement of targets for the robot industry promotion and support policy based on the concept of “robot” from a more technical point of view, 현대 과학기술의 발전에 있어서 국가의 역할의 중요성은 추가적인 논의를 필요로 하지 않을 것이기에, 현재 우리나라 로봇산업의 발전을 위해서 현행 로봇산업 진흥 법제가 그 목적 달성을 위한 충실한 내용을 갖추고 있는지 혹은 더 나아질 수는 없는지에 대한 지속적인 검토가 필요하다. 아울러 이러한 작업은 국가의 개입이 언제나 적절한 법률의 뒷받침 하에 이루어져야 한다는 실질적 법치국가 원리의 구현을 위해서도 반드시 필요한 부분이기도 하다. 이에 본고에서는 로봇기술 관련 산업경쟁력의 확보와 지속적인 발전을 위한 정책 추진을 위해서 무엇보다 정책 대상인 “로봇”에 대한 실효적인 개념규정이 선행되어야 할 것이기에 현행 「지능형 로봇 개발 및 보급 촉진법」(법률 제17799호)의 “지능형 로봇”에 대한 정의 규정(동법 제2조 제1호)의 적실성을 특히 입법평가(legislative evaluation; Gesetzesevaluation)의 심사도구 가운데 체계성(Systematik) 및 이해가능성(Verständlichkeit) 분석의 관점에서 판단해 보았다. 결론적으로 현재의 “지능형 로봇”의 정의 규정은, 현행 법체계상 큰 의미를 갖지 못하고 있는 가운데, 그 의미를 이해하기도 쉽지 않을 뿐만 아니라 법적용의 실제에 있어 불필요하게 법적용대상을 축소할 우려까지 있다고 판단되기에, “지능형”이란 수식어를 삭제한 가운데 보다 기술적인 측면에서의 “로봇” 개념을 바탕으로 로봇 산업 진흥 및 지원정책의 대상의 예시적 나열이라는 준예시적 정의(quasi-ostensive definition)의 방식의 활용을 제안하였다.

로봇과 인공지능(AI)의 법적․윤리적 입법방안에 관한 연구

심민석 동국대학교 비교법문화연구소 2019 比較法硏究 Vol.19 No.2

It is no exaggeration to say that we stand at the threshold of a Fourth industrial revolution that can not be stopped. There are many positive views on artificial intelligence technology, which is the core technology of this new industrial revolution, but there are also high voices of concern. At this level, the resolution of the European Union's 「Civil Law Rules on Robotics」 in 2017 is highly suggestive of our legislation on legal and ethical issues in the Fourth Industrial Revolution. First of all, as described in the preface of the resolution, the development of artificial intelligence is based on the assumption of safety devices for automated algorithms and the establishment of human control and verification. Basic ethical principles and codes of conduct for designers, producers and users should be established. As far as possible, the parts that can be disputed within the scope of current liability should be judged to the maximum extent possible. In addition, the definitions of our intelligent robots need to be defined more specifically, such as 「Civil Law Rules on Robotics」. And a registration system for robots and artificial intelligence needs to be established, and it is necessary to establish an agency that can do this. And securing the openness of the digital infrastructure proposed by 「Civil Law Rules on Robotics」 is very important in order to form our desirable intelligent information society. The ethical principles of robotics, which are described in 「Civil Law Rules on Robotics」, have great implications for future intelligent robot ethics charters. These legislations can be a great reference for us in defining the legal responsibilities for the future development of robotics and artificial intelligence. 우리는 멈출 수 없는 새로운 산업혁명이라는 시대적인 변화의 문턱에 서있다고 해도 과언은 아니다. 이러한 새로운 산업혁명의 핵심 기술이라고 할 수 있는 인공지능기술에 관해서는 긍정적인 시각도 많지만 우려의 목소리도 높다. 이러한 차원에서 2017년에 의결한 EU의 「로봇공학에 관한 민법 규칙」의 결의안은 제4차 산업혁명에 있어서의 법적․윤리적인 문제에 관한 우리의 입법에 시사하는 바가 크다. 이와 관련하여 살펴보면, 우리의 지능형 로봇에 관한 정의 규정을 「로봇공학에 관한 민법 규칙」과 같이 좀 더 구체화할 필요성이 있고, 국내 및 국제적인 차원에서 등록시스템의 구축은 필요하며 이를 전담할 수 있는 기관의 설립도 필요하다고 본다. 그리고 아직 지능형 로봇윤리헌장은 정식으로 공표되어 있지는 않아 「로봇공학에 관한 민법 규칙」 결의안에 밝히고 있는 로봇공학의 윤리적인 원칙은 향후 지능형 로봇윤리헌장을 작성하는데 있어서 시사해 주는 바가 크다고 할 수 있다. 또한 「로봇공학에 관한 민법 규칙」은 로봇의 잠재적인 피해에 대해 보험에 가입하도록 의무보험제도를 수립하도록 하고 있고, 회복될 수 있는 피해의 유형이나 범위를 피해가 인간이 아닌 행위자에 의해 야기되었다고 보상의 형태를 제한하여서는 안 된다고 밝히고 있다. 이는 향후 로봇과 인공지능의 개발에 따른 법적 책임을 규정하는데 있어 크게 참고가 될 수 있는 규정으로 보인다. 이와 더불어 미래의 입법안에는 자율형 살상무기시스템의 개발을 전면적으로 금지할 수 있는 금지규정을 입법화해야 한다. 그리고 독립적인 윤리심사가 확보될 수 있도록 국가 기관 내에 연구윤리위원회를 설립하여야 하며, 위원회의 운영과 절차는 투명하도록 보장해야 한다. 또한 로봇과 인공지능에 관한 연구지원을 받기 위해서는 반드시 위험영향평가와 윤리영향평가를 받도록 할 필요도 있다.

인공지능 로봇에 관한 법적 고찰

정완 경희대학교 법학연구소 2020 경희법학 Vol.55 No.4

It is clear that in the near future, the use of artificial intelligence robots capable of independent judgments that are similar to human intelligence or even surpass human intelligence will increase. Therefore, in-depth research and review on the legal relations of these artificial intelligence robots are made, and a legislative response is required accordingly. For example, careful legislation is needed on the issue of attribution of civil and criminal liability for the actions of artificial intelligence robots, compensation for damage using insurance systems, and the enactment of codes of conduct for artificial intelligence robot users and manufacturers through the enactment of the ethics charter. In the current situation where there are not many specific legal issues, the first important step is to formulate ethical standards for artificial intelligence robots. The ethics charter of the Korea Artificial Intelligence Ethics Association is that artificial intelligence must be created and used under human control, artificial intelligence developers must not create artificial intelligence that harms humans, and artificial intelligence consumers must ensure that artificial intelligence products and services are appropriate. It must be used as a method and the benefits of artificial intelligence must be used in an abstract manner that all humanity should be able to enjoy and enjoy the benefits of artificial intelligence fairly, but more specific ethical standards must be established. It is imperative to establish ethical standards for use. In addition, a pre- and post-supervision system for artificial intelligence robots should be introduced. In the AI ​​development stage, there is a preliminary technology impact assessment system that can check problems in advance, but there is no supervisory system that can track and evaluate the problems after using the artificial intelligence robot, so the AI ​​technology is operated according to the purpose. It is also very important to check whether the damage can be caused by an unexpected error by the developer. In addition, it is essential to establish a liability system for damages caused by artificial intelligence robots. Risks caused by artificial intelligence may result from a design error or may occur due to use differently from the design purpose, and various unintended risks may appear. Therefore, it is necessary to review how to compensate for such damages. If an artificial intelligence robot can be viewed as a product, product liability can be held under the Product Liability Act, but when artificial intelligence is only a simple software form, it is difficult to ask for product liability. Moreover, how to hold the liability for damages when damage occurs even though there is no negligence of developers and users is also a problem. Therefore, it is necessary to stipulate liability requirements that take into account the characteristics of artificial intelligence robots, and in the case of inevitable damages that are difficult to take responsibility for, the introduction of an insurance system to compensate for them must be considered. 가까운 미래에 보편화될 인공지능 로봇의 사용에 있어서 사람의 지능과 유사하거나 심지어 사람의 지능을 뛰어넘는 독자적 판단이 가능한 인공지능 로봇의 사용이 많아질 것임은 분명하다. 따라서 이들 인공지능 로봇의 법률관계에 관한 깊이 있는 연구검토가 이루어지고 그에 따른 입법적 대응이 요구된다. 예컨대 인공지능 로봇의 행위에 대한 민형사책임의 귀속문제, 보험제도를 이용한 피해보상, 윤리헌장 제정을 통한 인공지능 로봇 사용자와 제조자 등의 행동강령 제정 등에 관한 신중한 입법이 필요하다. 구체적 법률문제의 발생이 많지 않은 현 상황에서 우선 중요한 조치는 인공지능 로봇에 관한 윤리기준을 입안하는 일이다. 한국인공지능윤리협회의 윤리헌장은 인공지능이 인간의 통제 하에 만들어져 사용되어야 하고, 인공지능 개발자는 인간에게 해를 끼치는 인공지능을 만들어서는 안 되며, 인공지능 소비자는 인공지능의 제품과 서비스를 올바른 방법으로 사용해야 하고, 인공지능의 편익은 온 인류가 공평하게 누리고 향유할 수 있어야 한다고 추상적으로 선언하고 있지만 보다 구체적인 윤리기준을 마련해야 하며 이를 위해 정부와 기업, 학계, 시민단체가 모두 참여하여 인공지능의 사용에 관한 윤리기준을 정립하는 일이 긴요하다. 아울러 인공지능 로봇에 대한 사전사후 감독시스템을 함께 도입해야 한다. 인공지능 개발단계에서는 사전에 문제점을 점검할 수 있는 사전 기술영향평가 제도가 마련되어 있지만, 인공지능 로봇의 사용 후에 그 문제점을 추적하고 평가할 수 있는 감독시스템은 없으므로 해당 인공지능 기술이 목적에 맞게 작동되고 있는지, 개발자가 예측하지 못한 오류로 인해 피해가 발생할 수 있는지를 사후에 점검하는 일도 매우 중요하다. 그리고 인공지능 로봇에 의한 피해발생에 대한 배상책임 제도마련이 필수적이다. 인공지능이 유발하는 위험은 설계의 잘못에서 기인할 수도 있고 설계목적과 다르게 사용됨에 따라 발생하기도 하는 등 의도하지 않은 다양한 위험이 나타날 수 있다. 따라서 이러한 피해가 발생할 때 이를 어떻게 보상할 것인가에 대한 검토가 필요하다. 인공지능 로봇을 제조물로 볼 수 있다면 제조물책임법상의 제조물책임을 물을 수 있지만, 인공지능이 단순한 소프트웨어 형태에 불과할 때는 제조물책임을 묻기가 어렵다. 더욱이 개발자와 사용자의 과실이 없는데도 피해가 발생할 때는 어떻게 손해배상책임을 지울 것인지도 문제된다. 따라서 인공지능 로봇의 특성을 고려한 책임요건을 규정해야 하며, 책임을 돌리기 어려운 부득이한 손해발생의 경우 이를 배상하기 위한 보험제도 도입도 검토해야 한다.

자율적 지능 로봇의 법적 지위에 대한 소고

박수곤(Soo-Gon Park) 국민대학교 법학연구소 2018 법학논총 Vol.31 No.2

미래의 로봇기술이 현실화되어 완전히 자율적인 지능 로봇이 등장하게 된다면 당장 우리의 법체계가 그와 같은 현실을 제대로 규율할 수 있는지가 문제로 된다. 자율적 지능 로봇을 활용하여 형성되는 법률관계에 대해 현행의 실정법을 적용함에 있어서는 다소의 미흡함이 발견될 수 있기 때문이다. 인공지능의 발달로 인하여 관련 법령의 변화가 필요하다는 목소리 중에는 지능 로봇에게도 법인격을 부여하거나 지능 로봇의 권리를 인정하자는 의견도 제시되고 있다. 그러나 과연 현 시점에서 자율적 지능로봇에게 새로운 법적 지위를 인정할 필요성이 있는지는 검토가 필요한 대목이 아닐 수 없다. 즉, 자연인이나 법인과는 달리 권리의 객체로 인식되어 온 인간의 창조물인 로봇에 대해 자연인이나 법인과 동일하지는 않더라도 특별한 법적 지위를 인정하기 위해서는 그 필요성에 대한 충분한 공감이 필요할 것이기 때문이다. 그리고 본고에서는 프랑스에서의 논의상황을 주된 고찰의 대상으로 삼았으며, 특히 자율적 지능 로봇에게 특수한 법인격을 인정하는 것이 적절하지 않다는 시각을 주로 소개하였다. 즉, 현재로서는 자율적 지능 로봇에게 곧바로 법인격을 인정하는 것은 시기상조이며, 자율적 지능 로봇을 여전히 물건으로 다루더라도 문제가 될 수 있는 상황을 현행법 하에서 적절히 해결할 수 있다는 것이다. 아울러, 완전히 자율적인 지능 로봇이 현실화되지 않은 상황에서 미리 자율적 지능 로봇의 법인격을 논하면서 그와 같은 해결책을 입법적으로 구체화 하는 것은 정작 자율적 지능 로봇이 현실화 되었을 때, 오히려 시대에 뒤처지는 입법이 될 수도 있다. 다만, 자율적 지능 로봇의 활용이 보편화되는 시대가 도래할 경우에는, 다양한 법분야에서 현행의 법체계와는 분명히 차별성이 인정되는 제도를 마련할 필요는 있을 것이다. If the robot technology of the future is realized and a fully autonomous intelligent robot emerges, the problem is whether our legal system can properly control such reality. This is because it is somewhat inadequate to apply the current law to the legal relationship formed by using autonomous intelligent robots. Among the voices that a revision of related laws is necessary due to the development of artificial intelligence, there is a suggestion that intelligent robots should be given special legal personhood or specific rights. However, it is necessary to examine whether autonomous intelligent robots need to be given new legal status at present. That is, a certain consensus should be formed on the need to grant a specific legal status to autonomous intelligent robots, which are human creatures that have been recognized as objects of rights, unlike natural persons and legal persons, even if the status is not identical to that of natural persons or legal persons. In this paper, we focused on the situation of discussions in France. Especially, I introduced the idea that autonomous intelligent robots are not appropriate to be given special legal personhood. In other words, at this point, it is premature to give autonomous intelligent robots a specific personhood and it is possible to solve the problematic situations, even if the autonomous intelligent robot is still treated as an object of rights under the existing law. In addition, discussing the enactment of laws on the rights or personhood of autonomous intelligent robots in the absence of fully autonomous intelligent robots can lead to outdated legislation. However, if the use of autonomous intelligent robots becomes commonplace, it will be necessary to establish a system that clearly distinguishes from the current legal system in various legal fields.

책임주체로서 지능형 인공지능 로봇에 대한 고찰

고세일 한국재산법학회 2020 재산법연구 Vol.37 No.2

As the word of 4th Industrial Revolution has been widely used to indicate the newest revolution all over the world, it has given the impression that artificial intelligence and robots based on artificial intelligence have been involved in every aspect of all human life. In March 2016, Alphago won all but the fourth Go game over Lee Sedol, professional Go player. The stunning event has put many people’s minds that artificial intelligence has proclaimed that the Google’s Deep Mind had developed intelligent machine’s victory over all humanity. While Artificial intelligence may give us rosy outlook for our future lives, and we also talk a lot about the difficult reality in which the A.I. and A.I. robots would taking people’s jobs sooner or later. At this point, not only the general public, but also lawyers have looked at the areas where the Artificial Intelligence and its A.I. robots may be working with longing and fear at the same time. What would be Artificial Intelligence to us? How should we accept these A.I. and A.I. robots? However, the starting point for these questions may depend on how we view artificial intelligence, and the answer to what social, economic, and legal status could be given to artificial intelligence and artificial intelligence robots. This article consists of five parts. In II., this author has looked at the concepts and status of AI robots. In III., this author has examined the positive and negative legal status discussions of artificial intelligence robots. However, these discussions may vary relying on the levels of technology of artificial intelligence, and its robots. While considering the current technology level, only abstraction discussion may be possible. In this regard, this author has looked at (1) algorithms, (2) autonomous cars, and (3) killer robots as more realistic subjects in IV. And, if there may be a difference between a person and an artificial intelligence robot, the issue that could be considered is (4) different decisions between a person and a A.I. robot with conflict of interests. In V., this author has summarized the discussions so far, and attempted to present a direction on how to consider artificial intelligence robots from today’s point of view. 전 세계에서 4차 산업혁명이라는 단어를 폭발적으로 쓰기 시작하면서, 그 중심에는 인공지능로봇이 인간의 모든 삶에 관여하는 것 같은 인상이 있다. 2016년 3월 이세돌 9단에 대한 알파고의 승리는 많은 사람의 마음속에 인공지능이 모든 인류에 대한 승리를 선포한 인상을 심었다. 인공지능이 앞으로 우리의 미래 삶에 대한 장밋빛 전망을 내놓기도 하고, 인공지능이 많은 사람의 일자리를 빼앗는 현실의 어려움에 대한 이야기를 많이 한다. 어느 순간 일반인뿐만 아니라 법조인들도 인공지능이 자신이 일하는 영역에 대해서 동경과 두려움을 동시에 갖고 바라본다. ‘인공지능’(Artificial Intelligence)은 우리에게 무엇일까? 우리는 이러한 인공지능과 인공지능에 바탕을 둔 로봇을 어떻게 받아들여야 할까? 그런데 이에 대한 출발점은 우리가 인공지능을 어떻게 바라보는지에 따라서, 인공지능과 인공지능 로봇에게 어떤 사회·경제·법의 지위를 줄 수 있는지에 대한 답이 달라진다. 이 글은 모두 다섯 개의 부분으로 이루어진다. II.에서 먼저 인공지능에 바탕을 둔 ‘지능형 인공지능 로봇’의 개념과 현황을 살핀다. III.에서 지능형 인공지능 로봇에 대한 법적 지위를 논하여, 긍정하는 입장과 부정하는 입장을 살펴본다. 그런데 이러한 논의가 지능형 인공지능의 기술 수준에 따라서 달라지는데, 현재의 기술 수준을 고려할 때 추상적인 담론으로 머물 가능성이 있다. 그런 측면에서 IV.에서 좀 더 현실적인 주제로, (1) 알고리즘, (2) 자율주행 자동차, (3) 킬러로봇을 살핀다. 그리고 사람과 지능형 인공지능 로봇 사이의 의사가 다른 경우에, 고려할 수 있는 문제로 (4) ‘의사의 불일치와 이해상반 문제’를 다룬다. V.에서는 지금까지 논의한 내용을 정리하고, 오늘의 시점에서 지능형 인공지능을 어떻게 바라보아야 하는지에 대한 방향성을 제시하고자 한다.

AI 로봇의 법적 지위에 대한 쟁점과 과제 - Bryson 등의 법인격 이론을 중심으로 -

김민배(Kim, Min-Bae) 한국토지공법학회 2019 土地公法硏究 Vol.87 No.-

AI 로봇에 법적 인격을 부여해야 하는가. 그것을 지적인 인공물로 간주해야 할 것인가. 인공지능(Artificial Intelligence)의 발전에 따라 지능화한 로봇에게 전자적 인간(electronic personhood) 혹은 전자적 인격(electronic personality)과 같은 새로운 개념의 법적 지위를 부여하는 것이 바람직한가 하는 것이 주요한 쟁점이다. 그동안 학자들은 로봇과 인공지능의 법적 지위를 논의했다. 그런데 EU의회의 2017년 제안서가 다시 이 문제를 현안으로 등장시켰다. EU 의회의 유럽위원회(European Commission)는 장기적으로 자율형 첨단 로봇이 발생시킬 수 있는 손해에 대해 책임지는 전자적 인간과 같은 특정한 지위를 확립해야 하며, AI 로봇이 자율적으로 의사결정을 내리거나 제 3 자와 독립적으로 상호 작용을 하는 경우 전자적 인격을 적용할 수 있도록 검토를 촉구한바 있다. 그러나 EU 의회의 제안은 많은 비난과 반대를 촉발시켰다. 2018년 4월 유럽 연합 14개국의 인공지능 및 로봇 전문가, 변호사, 기업가들 156명은 5월 초 유럽 위원회에 공개서한을 보내고 로봇에 법적 지위를 부여하려는 움직임에 반대를 하였다. 이 공개서한에서 자율적이고, 예측 불가능하며, 자기 학습을 하는 로봇에 대해 전자적 인격이라는 법적 지위를 부여하는 것은 문제가 있다고 했다. 그들은 기술적 관점, 규범적 및 법적 그리고 윤리적 관점 모두에서 폐기되어야한다고 주장하였다. 하지만 EU위원회는 한걸음 더 나아가 2019년 6월 26일 인공지능의 윤리 체크리스트를 발표하였다. 인공지능에 대하여 유럽위원회는 ‘High-Level Expert Group of Artificial Intelligence’의 정책 권고안을 토대로 신뢰할 수 있는 인공지능에 대한 윤리 지침을 준비하고 있다는 점을 공표하였다. 현재 전자적 인간과 전자적 인격의 도입을 주장하는 측에서는 지능형 인공물들(artefacts)에게도 유사한 법적 지위를 부여하려는 의도를 지니고 있다. 그러나 전자적 인간 혹은 전자적 법인격이라는 개념을 언제 도입할 것인가, 어떤 법적 지위를 부여할 것인가 등에 대해서는 계속하여 논의가 필요하다. AI와 로봇을 법적 인격의 범주로 검토하는 것은 기술의 변화가 가져올 미래를 대비하는 시도임에 틀림없기 때문이다. 하지만 말하기는 쉽고, 실천하기는 어려운 분야임에 틀림없다. 본 논문에서는 지능형 인공물 가운데 AI와 로봇이 법적 인격을 갖는 주체가 될 수 있는가를 검토하고자 한다. 특히 본 논문에서는 로봇의 법적 지위 부여에 긍정적인 입장을 취하는 Bryson 등의 논리를 검토한다. 여기에서는 주로 Bryson 등의 논거의 타당성과 한계 그리고 보완해야 할 점을 검토하고자 한다. 이를 통해 로봇에 대해 전자적 인간 내지 전자적 인격을 부여해야 하는가. 그것이 가능하다면 그 이유는 무엇이고, 그 시점은 언제인가등을 검토하고자 한다. Should AI robots be given legal personality? Should we consider it as an intelligent artifact? There is controversy over such issues. In other words, it is desirable to give the intelligent robot the legal status of new concepts such as electronic personhood and electronic personality according to the development of artificial intelligence. That is the point of contention. Scholars have increasingly discussed the legal status(es) of robots and artificial intelligence systems over the past three decades; however, the 2017 resolution of the EU parliament on the ‘electronic personhood’ of AI robots has reignited and even made current debate ideological. The European Commission has to establish certain statuses, such as electronic human beings, that are responsible for the damages that autonomous advanced robots can generate in the long term, and that AI robots make autonomous decisions, And encouraged them to apply electronic personality when they interacted independently. However, the proposal from the EU Parliament has triggered many criticisms and objections. In April 2018, 156 people, including artificial intelligence and robots experts, lawyers and entrepreneurs from 14 European countries, sent an open letter to the European Commission in early May and opposed the move to give the robot a legal status. In this open letter, it has been pointed out that giving a legal status of electronic character to autonomous, unpredictable and self-learning robots is problematic. They argued that they should be discarded in both technical, normative, legal and ethical perspectives. However, the EU Commission went further and published the Ethics Checklist for Artificial Intelligence on June 26, 2019. The European Commission on Artificial Intelligence has announced that it is preparing ethical guidelines for reliable artificial intelligence based on the policy recommendations of the High-Level Expert Group of Artificial Intelligence . However, the terms electronic human and electronic personality have the intention of giving a similar legal status to intelligent artefacts that humans already enjoy. However, a comprehensive discussion of the legal status of robots at different levels and the question of when the legal concept of electronic humanity will be introduced is needed. Examining AI and robots in the category of legal personality is surely an attempt to prepare for the future of technology change. But speaking is easy and difficult to do. In this paper, I’d like to consider whether AI and robot among the intelligent artifacts can be the subjects with legal personality. In particular, this paper examines the logic of Bryson, who takes a positive stance on the legal status of robots. In this paper, I’d like to examine the validity and limitations of Bryson s arguments and the points to be supplemented. Do we have to give electronic or human personality to robots? If so, what is the key argument? When is it time to give legal personality? I want to focus on this in my paper.