인공지능에 의한 계약체결과 계약법이론 - 인공지능을 활용한 자율적 시스템에 대한 대리법의 적용 가능성을 중심으로 - = Contract conclusion and contract law theory by Artificial Intelligence -Focusing on the possibility of applying the proxy method to autonomous systems using Artificial Intelligence-

다국어 초록 (Multilingual Abstract)

Considering that various incidents or problems are occurring in relation to artificial intelligence at present, it is natural to ask what is the best civil law system to attribute a third party's expression to the operator. Accordingly, the opinion of admitting artificial intelligence as an independent actor as a subject of expression that can attribute rights or direct or analogical application of proxy law has been argued from the initial discussion on autonomous systems using artificial intelligence. There is no doubt that this view is the most appropriate system among civil law systems, but various questions are being raised.
While it may be reasonable to impose liability or liability for illegal activities caused by an AI-enabled system, the purpose of this paper is to impose appropriate and reasonable restrictions on contract responsibility for autonomous systems in the context of contract law. Unlike illegal activities, if the other party recognizes that autonomous systems are being used in the area of contract law, it should pay attention to them and sign contracts using autonomous systems, and in this respect, which requires rational adjustment of interests between the operator and the other party. Consequently, the ultimate purpose of this paper is to review the contract law scheme through the application of the proxy law, which may limit the operator's contract respon- sibility if the autonomous system enters into a contract differently than the operator's expression.
First of all, in order for the proxy law to be applied, it is necessary to disclose to the other party that an autonomous system is being used as an agent. Otherwise, only the law on representative can be applied. Furthermore, since rights capabilities are not currently recognized in autonomous systems, it is difficult to recognize the system as the subject or agent of the expression of intent. Therefore, direct application of proxy laws is difficult to recognize.
In addition, an autonomous system receives in principle comprehensive delegation from its operator, such as a blank, but technically, the system can implicitly limit the scope of agency rights, such as limiting money. Thus, the contract signed by an autonomous system is, in principle, comprehensive authorization, so it is likely that in principle, a representation proxy will be established. However, a representation proxy is not established if there is no justification for the other party to trust that the autonomous system has entered into the contract within the scope of the agency.
Consequently, the analogical application of the proxy law provides the most rational model to attribute the contract signing action performed by the autonomous system to the responsibility of the autonomous system operator. However, if the autonomous system takes responsibility as an unauthorized agent, the problem remains that the autonomous system has no responsibility, such as forming a separate liability or insurance policy, so more discussions will be needed to overcome these limitations.

국문 초록 (Abstract)

현재 인공지능과 관련하여 다양한 사건 내지 문제가 발생하고 있음을 고려한다면, 제3자의 의사표시를 본인인 운영자에게로 귀속시키기 위한 민법상 제도가 무엇인지에 관하여 자연스럽게 묻지 않을 수 없다. 이에 따라 독립된 행위자로서 인공지능을 권리를 귀속시킬 수 있는 의사표시의 주체로 인정하거나 대리법의 직접 내지 유추적용을 주장하는 견해가 인공지능을 활용한 자율적 시스템에 대한 초기논의에서부터 주장되어 왔다. 이 견해가 우리가 알고 있는 민법상 제도 중 가장 적합한 제도임에는 의심이 없지만, 여러 가지 의문점이 제기되고 있는 실정이다.
본 논문은, 인공지능을 활용한 시스템으로 인한 불법행위에 대하여 위험책임 내지 무과실책임을 부과하는 것은 타당할수도 있으나, 계약법영역에서는 이와 같은 광범위한 책임을 자율적 시스템을 활용한 운영자에게 부과한 것은 타당하지 않다는 시각에서 자율적 시스템에 대하여 시스템 운영자가 부담하는 계약책임에 대하여 적절하면서도 합리적인 제한을 가하려고 하는 목적을 가지고 있다. 불법행위와는 달리 계약법 영역에서는 자율적 시스템이 활용되고 있다는 사실을 상대방이 인식하고 있다면 자신도 그에 대해 주의를 기울이고 계약을 체결해야 하고, 이러한 측면에서 자율적 시스템을 활용하여 계약을 체결하는 경우 운영자와 상대방 사이의 합리적 이익조정이 필요하다는 관점에서 본 논문을 쓰게 된 것이다. 결국 자율적 시스템이 운영자의 의사와 다르게 계약을 체결한 경우 운영자의 계약책임을 제한할 수 있는 계약법 제도를 대리법의 유추적용을 통하여 검토하는 것이 본 논문의 궁극적인 목적이다.
우선, 대리법이 적용되기 위해서는 자율적 시스템이 대리인으로 활용되고 있음을 상대방에게 밝혀야 한다. 그렇지 않을 경우, 사자에 관한 법리만이 적용될 수 있다. 또한, 자율적 시스템에는 권리능력이 현재 인정되지 않기 때문에 시스템을 의사표시의 주체 내지는 대리인으로 인정하기 힘들다. 따라서 대리법의 직접 적용은 인정하기 힘들다.
그리고 자율적 시스템은 그 운영자로부터 원칙적으로 백지수권처럼 포괄적 위임을 받으나 기술적으로 금액제한과 같은 대리권의 범위를 시스템 내재적으로 제한할 수 있다. 그러므로 자율적 시스템에 의하여 체결된 계약은 원칙적으로 포괄적 수권을 받은 것이기 때문에 원칙적으로 유권대리가 되거나, 아니면 표현대리가 성립할 가능성이 높다. 그러나 합리적으로 대리권의 범위 내에서 자율적 시스템이 계약을 체결하였다고 상대방이 신뢰할 만한 정당한 사유가 존재하지 않은 경우에는 표현대리는 성립하지 않는다.
결국, 대리법의 유추적용은 자율적 시스템이 한 계약체결 행위를 본인인 자율적 시스템 운영자의 책임으로 귀속하기 위한 가장 합리적인 모델을 제공한다. 하지만 자율적 시스템이 무권대리인으로서 책임을 부담하는 경우 자율적 시스템에 책임재산이 없다는 점이 문제로 남는데, 이에 대해 별도의 책임재산을 형성하거나 보험가입 등 논의가 진행되고 있으며 이러한 한계를 극복하기 위한 논의가 더 필요할 것이다.

참고문헌 (Reference)

1 김진우, "지능형 로봇과 민사책임" 한국법학원 164 : 46-80, 2018

2 오병철, "전자인격 도입을 전제로 한 인공지능 로봇의 권리능력의 세부적 제안" 법조협회 69 (69): 51-82, 2020

3 정경영, "전자의사표시의 주체에 관한 연구" 5 (5): 1998

4 정신동, "전자 거래에 있어 하이브리드형 의사표시에 관한 연구: 소비자의 모순된 의사표시를 중심으로" 한국소비자원 51 (51): 115-134, 2020

5 김진우, "자율시스템에 의한 의사표시의 귀속" 법학연구소 38 (38): 97-127, 2018

6 정진명, "인공지능의 표시에 대한 고찰" 한국비교사법학회 26 (26): 1-40, 2019

7 장보은, "인공지능을 이용한 행위에 대한 법적인 평가 - 사법(私法)상 논의를 위한 시론(試論 또는 始論) -" 법학연구소 43 (43): 43-71, 2019

8 고형석, "인공지능을 이용한 전자적 의사표시의 효력에 대한 고찰" 법학연구소 38 (38): 129-157, 2018

9 이중원, "인공지능에게 책임을 부과할 수 있는가?: 책무성 중심의 인공지능 윤리 모색" 한국과학철학회 22 (22): 79-104, 2019

10 김세준, "인공지능에 의한 계약의 효력" 법학연구소 43 (43): 23-42, 2019

11 김진우, "인공지능에 대한 전자인 제도 도입의 필요성과 실현방안에 관한 고찰" 한국법학원 171 : 5-48, 2019

12 고세일, "인공지능과 불법행위책임 법리" 법학연구소 29 (29): 85-117, 2018

13 이상용, "인공지능과 계약법 - 인공 에이전트에 의한 계약과 사적자치의 원칙 -" 한국비교사법학회 23 (23): 1639-1700, 2016

14 황원재, "인공지능 시대의 계약자유 원칙과 법적용상의 문제점" 법학연구원 27 (27): 163-191, 2020

15 오병철, "인공지능 로봇에 의한 손해의 불법행위책임" 법학연구원 27 (27): 157-231, 2017

16 이병준, "상대방의 사기로 인하여 본인이 한 수권행위와 이를 기초로 한 대리인의 대리행위의 취소가능성-민법 제116조 제2항의 유추 가능성에 관하여-" 한국재산법학회 20 (20): 43-62, 2003

17 칼 엥기쉬, "법학방법론" 세창출판사 2011

18 백태승, "민법총칙" 법문사 2006

19 이영준, "민법총칙" 박영사 2007

20 김증한, "민법총칙" 박영사 2001

21 고상룡, "민법총칙" 법문사 2003

22 곽윤직, "민법총칙" 박영사 2018

23 김세준, "민법상 조합의 부분권리능력 -개념 및 수용가능성을 중심으로-" 한국민사법학회 86 : 91-136, 2019

24 로랑 알렉상드르, "로봇도 사랑을 할까" 갈라파고스 2018

25 정진명, "과학시대의 의사표시" 한국민사법학회 77 : 237-252, 2016

26 Ruster, "Willenserklärungen autonomer Systeme?" 2020

27 Granpentin, "Vertragsschluss und vertragliches Verschulden beim Einsatz von künstlicher Intelligenz und Softwareagenten" 2018

28 Schulz, "Verantwortlichkeit bei autonom agierenden Systemen" 2015

29 Savigny, "System des heutigen römischen Rechts, Bd. 2" 1981

30 Sorge, "Softwareagenten, Vertragsschluss, Vertragsstrafe, Reuegeld, Schriften des Zentrums für Angewandte Rechtswissenschaft Bd. 2" 2006

31 Hildebrandt, "Smart Technologies and the End(s) of Law" 2015

32 Specht, "Roboter als Vertragspartner?" 2018

33 Schirmer, "Rechtsfähige Roboter?" 2016

34 Borges, "Rechtliche Rahmenbedingungen für autonome Systeme" 2018

35 Beck, "Jenseits von Mensch und Maschine: Ethische und rechtliche Fragen zum Umgang mit Robotern, Künstlicher Intelligenz und Cyborgs" 2012

36 Keßler, "Intelligente Roboter - neue Technologien im Einsatz, Voraussetzungen und Rechtsfolgen des Handelns informationstechnischer Systeme" 2017

37 Bräutigam, "Industrie 4.0, das Internet der Dinge und das Recht" 2015

38 Lohmann, "Ein europäisches Roboterrecht – überfällig oder überflüssig?" 2017

39 Bräutigam, "E-Commerce" 2017

40 Teubner, "Digitale Rechtssubjekte? - Zum privatrechtlichen Status autonomer Softwareagenten -" 218 : 2018

41 Staudenmayer, "Contracts for the Supply of Digital Content" 2017

42 Grützmacher, "Autonome Systeme und KI – vom vollauto- matisierten zum autonomen Vertragsschluss?" 2019

43 Gruber, "Autonome Automaten: Künstliche Körper und artifizielle Agenten in der technisierten Gesellschaft" 2015

44 Matthias, "Automaten als Träger von Rechten" 2008

45 Looschelders, "AcP 218"

46 김진형, "AI 최강의 수업" 매일경제신문사 2020