다자간매매체결회사 시스템의 매매체결 실패에 대한 민사법적 고찰 = Civil Law Considerations on Failed Stock Transactions of Alternative Trading System(ATS)

국문 초록 (Abstract)

본 논문은 다자간매매체결회사의 시스템에 장애가 발생하여 매매체결이 실패하는 경우 발생 가능한 민사법적 쟁점이 무엇일까 하는 의문에서 시작했다. 특히 2025년 3월 국내에 최초로 출범한 다자간매매체결회사인 ‘넥스트레이드’는 기존의 예상을 뛰어넘어 성공적으로 안착하였으며, 거래량 제한이 논란이 될 정도로 투자자의 거래 수요 또한 급증하였기에 시스템 운영과 관련된 관심도 함께 높아졌다.
그간의 연구는 대부분 다자간매매체결회사 도입을 위한 제도 정비 또는 도입에 따른 제도 정비 및 개선 방안에 초점을 두고 있었다. 그러나, 다자간매매체결회사를 도입하여 실질적으로 운영하는 경우 그에 대한 규제와 관련된 연구는 미흡한 실정이었다. 특히, 다자간매매체결회사가 거래량 제한량을 초과할 정도로 활성화되어 금융당국이 이에 대한 비조치의견을 발표할 정도로 제도가 안착된 이후의 시점에서 그 규제에 관한 연구를 진행한 점은 본 연구가 선행 연구와 차별성을 가지는 점이다.
이에 본 연구자는 다자간매매체결회사의 시스템 장애로 인해 주식 매매체결 실패 시 발생 가능한 민사법적 쟁점에 대해 상세히 살펴보면서도, 그 사전 대응으로서 다자간매매체결회사에 대한 규제에 대해 함께 연구하고자 했다. 위와 같이 다자간매매체결회사에 대한 금융규제법에 따른 규제체계를 연구하는 것은 사후적으로 발생 가능한 법적 문제를 검토하는 데에만 국한하지 않고, 다자간매매체결회사의 시스템 장애 발생 자체를 사전적으로 예방할 수 있다는 측면에서 상당한 의미가 있다. 나아가, 이러한 연구는 투자자 보호와 자본시장의 경쟁력 제고라는 측면에서도 검토할 의의가 있다고 할 수 있다.
연구의 구성에 따른 요지를 간략히 보면 다음과 같다.
우선, 다자간매매체결회사에 대하여 알아보았다. 국내에 다자간매매체결회사가 도입된 배경과 현황을 조사하고, 2025년 3월 이후부터 출범한 당시 유일의 다자간매매체결회사인 ‘넥스트레이드’ 도입에 따른 주식의 유통시장에서의 변화사항도 함께 확인해 보았다. 그리고, 주요국의 다자간매매체결회사의 도입 현황에 대해서도 조사하였다.
두 번째로는, 대체거래소 또는 거래소 시스템 장애로 인 매매체결 실패에 따른 과거의 사건들에 대하여 사건 경과, 원인 및 피해 현황 등을 상세히 알아보았다.
세 번째로는, 다자간매매체결회사의 시스템 장애에 따른 매매체결 실패 시 도출되는 민사법적 쟁점에 대해 계약법상 당사자별 책임 외에도 도산법상 고려사항, 중재･조정절차, 국제재판관할 등에 대해서도 살펴보았다.
끝으로 금융규제법에서 정하고 있는 다자간매매체결회사에 대한 규제의 문제점을 검토하고, 개선방안을 제시하였다.
최근 몇 년간, 국내 투자자의 해외 자본시장에 대한 투자가 크게 활성화되고 있듯이 언젠가는 해외 투자자의 우리 자본시장에 대한 투자도 더 증가할 것으로 생각한다. 이에 본 논문이 국내 자본시장을 선진화하고, 우리 자본시장에 투자하는 투자자를 보호하는 데 미력(微力)하게나마 도움이 될 수 있기를 희망한다.

다국어 초록 (Multilingual Abstract)

This study explores the civil law issues that could arise if the Alternative Trading System’s operations fail, resulting in failed trades. In particular, “Nextrade,” Korea’s first ATS, launched in March 2025, has exceeded initial expectations, with investor demand surging and debates emerging over trading volume limits and system operations.

Most previous research has focused on institutional preparations for ATS introduction or subsequent improvements, while studies on regulations during actual ATS operation remain limited. This study distinguishes itself by examining regulatory issues after the system became fully established, notably when trading activity exceeded volume limits, prompting financial authorities to issue a No-Action Letter.

Accordingly, this study examines in detail the potential civil law issues that may arise when stock trades fail to settle due to ATS system failures, while also analyzing the regulatory framework of ATS as a preventive measure. Investigating ATS regulations under the Financial Regulation Act is significant not only for reviewing potential legal issues retrospectively but also for identifying ways to proactively prevent system failures. Furthermore, this research contributes to understanding investor protection and enhancing the competitiveness of the capital market.

The main points of the research structure are as follows:

First, the study examined the ATS itself. This included investigating the background and current status of ATS introduction in Korea, as well as analyzing changes in the secondary stock market following the launch of Nextrade, the only ATS at the time, which commenced operations in March 2025. In addition, the adoption of ATS in major countries was reviewed.

Second, I examined past cases of failed trade executions caused by failures in Alternative Trading Systems or exchange platforms, analyzing the sequence of events, underlying causes, and extent of the resulting damage.

Third, regarding civil law issues arising from failed trades due to ATS system failures, the study analyzed the liability of relevant parties, considerations under bankruptcy law, arbitration and mediation procedures, and questions of international jurisdiction.

Finally, the regulatory framework governing ATS under the Financial Regulation Act was reviewed, and improvement measures were proposed.

In recent years, Korean investors’ participation in overseas capital markets has grown significantly, and investment by foreign investors in the Korean market is expected to increase further in the future. This study aims, however modestly, to contribute to the advancement of the Korean capital market and the protection of its investors.

목차 (Table of Contents)

• 제1장 서론 1
• 제1절 연구의 배경 1
• 제2절 연구의 목적 7
• 제3절 연구의 구성 및 방법 8
• 제2장 다자간매매체결회사 11
• 제1절 도입 배경 및 현황 11
• 1. 도입 배경 11
• 2. 도입 현황 14
• 제2절 도입에 따른 변화사항 16
• 1. 거래시간 16
• 2. 호가유형 17
• 가. 개요 17
• 나. 신규 도입유형 18
• 3. 최선집행의무의 활성화 21
• 가. 개요 21
• 나. 최선집행의무의 주요내용 22
• 4. 관리 및 감독 27
• 5. 한국거래소의 지위 28
• 제3절 각국의 도입 현황 28
• 1. 미국 28
• 가. 연혁 28
• 나. 정의 및 분류 36
• 다. 현황 42
• 2. EU 43
• 가. 연혁 43
• 나. 정의 및 분류 45
• 다. 현황 49
• 3. 호주 50
• 가. 연혁 50
• 나. 현황 50
• 4. 일본 51
• 가. 연혁 51
• 나. 현황 52
• 제3장 시스템 장애로 인한 매매체결 실패 사례 53
• 제1절 미국 블루오션 사건 53
• 1. 사건 배경 53
• 가. 미국 주식거래 시장 현황 53
• 나. 미국 주식 주간거래시장 운영 방식 54
• 다. 국내 금융투자업자의 미국 주간거래 제공 현황 54
• 2. 사건 경과 및 원인 55
• 가. 사건 경과 55
• 나. 사건 원인 57
• 3. 국내 투자자의 피해 현황 58
• 가. 매매거래 취소로 인한 손해 58
• 나. 미국 주식시장 접근 편의성 감소 59
• 4. 사건 이후 동향 59
• 가. 국내 동향 59
• 나. 미국 동향 61
• 다. 블루오션의 입장 및 업무 변경사항 63
• 제2절 한국거래소 시스템 중단 사례 64
• 1. 2025년 3월 시스템 중단 사건 64
• 가. 사건 개요 64
• 나. 사건 원인 64
• 다. 투자자의 피해 현황 65
• 라. 사건 이후 동향 67
• 2. 2013년 9월 매매체결 지연 사건 68
• 가. 사건 개요 68
• 나. 사건 원인 68
• 다. 투자자의 피해 현황 69
• 라. 사건 이후 동향 69
• 제3절 각국 증권거래소 시스템 중단 사례 69
• 1. 일본 도쿄증권거래소 시스템 중단 사건 69
• 가. 2020년 시스템 중단 사건 69
• 나. 2012년 시스템 중단 사건 71
• 2. 미국 뉴욕증권거래소 시스템 중단 사건 72
• 3. 영국 런던증권거래소 시스템 중단 사건 73
• 제4장 시스템 장애에 따른 매매체결 실패 73
• 제1절 민사법상 쟁점 73
• 1. 서설 73
• 2. 다자간매매체결회사의 책임 74
• 가. 개요 74
• 나. 금융투자업자에 대한 계약상 채무불이행책임 75
• 다. 동시이행의 항변권 83
• 라. 금융투자업자에 대한 불법행위책임 84
• 마. 투자자에 대한 불법행위책임 91
• 바. 코스콤에 대한 불법행위책임 95
• 3. 금융투자업자(투자매매업자·투자중개업자)의 책임 95
• 가. 개요 95
• 나. 계약상 채무불이행책임 97
• 다. 동시이행의 항변권 102
• 라. 투자자에 대한 불법행위책임 102
• 4. 코스콤(Koscom)의 책임 105
• 가. 개요 105
• 나. 계약상 채무불이행책임 107
• 다. 투자자에 대한 불법행위책임 107
• 5. 채무자 회생 및 파산에 관한 법률상 고려사항 108
• 6. 재판 및 중재·조정절차 110
• 가. 법원의 재판 110
• 나. 중재·조정절차 110
• 7. 투자자가 외국인인 경우 113
• 가. 개요 113
• 나. 국제재판관할 114
• 다. 외국법원의 판결 116
• 8. 소결 118
• 제2절 다자간매매체결회사에 대한 규제 123
• 1. 서설 123
• 2. 문제점 124
• 가. 법적 성격 124
• 나. 청산·시장감시 및 감리 등 125
• 다. 적용배제규정 및 준용규정 127
• 라. 거래량 제한규정 127
• 마. 진입규제 131
• 3. 개선방안 132
• 가. 법적 성격 132
• 나. 청산·시장감시 및 감리 등 134
• 다. 적용배제규정 및 준용규정 135
• 라. 거래량 제한규정 135
• 마. 진입규제 136
• 4. 소결 137
• 제5장 결론 138
• 참고문헌 144
• Abstract 161