생성형 AI 시대 금융소비자 보호에 관한 법적 규제 연구 : 알고리즘 차별 규제를 중심으로 = (A) Study on Legal Regulation for Financial Consumer Protection in the Era of Generative AI -Focused on Regulation against Algorithmic Discrimination-

국문 초록 (Abstract)

생성형 AI 시대 금융소비자 보호에 관한 법적 규제 연구 –알고리즘 차별 규제를 중심으로 - 정다워 법학과 금융법 전공 선문대학교 일반대학원 금융 분야에서 생성형 AI가 활용되기 시작하면서, 금융기관은 방대한 데이터를 빠르게 분석하여 신용평가나 맞춤형 상품 제안 등에 적용하고 있 다. 이러한 변화는 금융기관의 의사결정 과정에 효율화를 가져올 수 있지 만, 학습데이터에 편향이 포함되어 있다면 그 영향이 금융소비자의 거래조 건에까지 확산될 수 있다는 우려도 함께 제기된다. 본 연구는 이러한 문제의식 아래, 생성형 AI 기반 금융거래에서 발생할 수 있는 알고리즘 차별과 관련하여 금융소비자 보호 관점에서의 법리와 개 선 방향을 검토하였다. 알고리즘 차별 문제를 예방하기 위해서는 우선 차별금지 사유를 어떻게 정의하고 어떤 범위에서 적용할지를 명확히 할 필요가 있다. 아울러 여러 관련 법제가 중첩되는 영역이므로 규제 기준 사이의 정합성 역시 중요한 과제로 보인다. 생성형 AI를 금융에 적용하는 과정에서는 다양한 형태의 데이터가 활용 되기 때문에 개인정보보호 법익과의 충돌 가능성이 있기 때문에, 기술의 활 용 범위를 넓히는 것과 정보주체의 권리를 보장하는 것 사이의 균형을 세 심하게 고려해야 한다. 특히 자동화된 의사결정이 확대되는 상황에서는 정 보주체가 결정 과정과 결과에 대해 충분히 설명을 요구할 수 있어야 하며, 영향평가 등을 통해 편향 가능성을 사전에 확인할 수 있는 장치도 마련될 필요가 있다. 또한 정보주체가 데이터 활용에 동의하지 않거나 자동화 의사 결정 적용을 거부하는 경우, 그러한 선택이 불이익으로 이어지지 않도록 보 호할 필요가 있다. 이를 위해서는 거부권 행사 시에도 적용할 수 있는 대안 적 평가방식이 함께 준비되어야 한다. 알고리즘 기반 금융거래에 있어 본 연구에서 제시한 금융조건 비교 제 시 방식은 알고리즘 기반 자동화 의사결정을 통해 산출된 거래조건과 전통 적 방식으로 산정된 거래조건을 병행하여 제시함으로써 금융소비자가 알고 리즘적 차별 여부를 간접적으로 판단하는데 도움이 될 수 있다. 금융소비자 의 설명을 요구할 권리와 설명가능한 AI의 활용은 알고리즘 활용에 있어 규범적 견제 장치로 작동하여, 알고리즘의 공정성과 투명성을 제고하고 차 별적 편향을 풀어나가는데 기여할 수 있다. 알고리즘 의사결정 과정에서 발생하는 차별적 결과는 그 복잡성과 불투 명성으로 인해 개인의 권리구제를 통한 해결에는 구조적인 한계가 존재하 는 점을 감안하여 금융위원회가 단순히 사후적 분쟁조정자를 넘어 시장의 구조적 차별 요인을 제거하는 적극적 규제자로서 기능할 수 있도록 금융소 비자보호법 제49조의 해석론적 확대를 제안하였다. 알고리즘 감사는 AI 시스템의 편향성에 대해 개별 이용자가 인지하는 것이 현실적으로 어렵고 사용자의 차별 의도를 입증하는 것 또한 어렵다는 점에서 실효적인 수단으로 기능한다. 디지털금융 확산으로 표준화된 계약 방식과 알고리즘 기반 거래가 증가 하면서 동일한 원인으로 인한 집단적 소비자 피해 발생 가능성이 높아질 수 있음을 감안하여 재판외 분쟁해결제도인 분쟁조정제도의 실효성 제고와 함께 영국의 금융옴부즈만 제도를 참고하여 편면적 구속력을 부여하는 방 안을 제안하였다. AI의 사용으로 인해 발생한 피해에 대한 대응방안으로 현재의 개별법 중심 접근에서 벗어나 금융소비자 보호에 보다 효과적인 피 해구제 법제를 정비할 필요가 있으며 AI에 대한 특례의 범위를 정하는 것 이 필요함을 제안하였다. 본 연구에서 제안한 알고리즘 차별 규제 방안들은 금융·비금융 데이터의 편향 요인을 바로 잡고, 금융소비자가 적합한 금융서 비스에 접근할 수 있도록 기여한다는 점에서 지속가능한 금융포용 정책의 실현에 도움이 될 것으로 기대된다. 주제어 : 생성형 AI , 금융소비자 보호, 알고리즘 차별, 인공지능기본법, 자동화된 의사결정

목차 (Table of Contents)

• 제1장 서론 1
• 1. 연구의 배경 1
• 2. 연구의 목적 2
• 3. 연구의 구성 2
• 제2장 금융에서의 생성형 AI 활용 및 정책 현황 4
• 1. 생성형 AI의 개념 4
• 2. 금융에서의 생성형 AI 활용 현황 10
• 가. 주요 적용 영역 10
• 1) 대출 심사 및 신용평가 11
• 2) 리스크관리 및 부도 예측 12
• 3) 고객확인절차 및 사기 탐지 13
• 4) 고객 서비스 혁신 14
• 5) 차세대 기술 : 에이전틱 AI 14
• 나. 해외에서의 활용 현황 16
• 1) 싱가포르 개발은행의 Digibank 17
• 2) OCBC Bank 18
• 3) Bank of America 18
• 4) Cross River Bank 19
• 5) 홍콩 상하이은행 20
• 6) Ellie Mae Inc. 21
• 7) 해빗팩토리 21
• 다. 국내에서의 활용 현황 22
• 1) 우리은행 22
• 2) 하나은행 23
• 3) 기업은행 24
• 4) 검토 25
• 3. 생성형 AI 관련 정책 현황 27
• 가. AI 기본법의 제정 27
• 나. 정부의 AI 금융 활성화 정책 33
• 4. 소결 37
• 제3장 금융거래에서의 알고리즘 차별과 관련한 문제 39
• 1. 금융거래에서의 알고리즘 편향 39
• 가. 알고리즘 편향 39
• 1) 개념 39
• 2) 알고리즘 편향과 금융거래에서의 차별 40
• (1) 금융거래에서의 차별 40
• (2) 금융거래에서의 알고리즘 편향의 위험성 43
• 3) 알고리즘 편향과 신용도에 따른 차별 44
• 4) 알고리즘 편향과 경쟁제한 46
• 나. 알고리즘 차별 사례 47
• 1) 제1유형 : 신한은행 사례 47
• 2) 제2유형 : 애플카드 사례 49
• 3) 제3유형 : 네이버 사례 51
• 2. 알고리즘 편향에 대한 규제 필요성 52
• 가. 개요 52
• 나. 알고리즘 편향이 유발하는 문제 54
• 1) 사회적 불평등의 심화 54
• 2) 편향적 의사결정 55
• 3) 결과책임의 모호성 58
• 다. 알고리즘 편향성 검증의 구조적 한계 59
• 1) 편향성 판단의 주관성과 복잡성 59
• 2) AI 환경에서 차별 관련 규제의 구조적 한계 60
• 라. 거래 단계별 알고리즘 규제의 필요성 62
• 3. 금융 분야 차별금지 규제의 현황과 문제점 64
• 가. 규제 체계 간 불일치 64
• 나. 금융소비자보호법상 차별 개념의 모호성 66
• 다. 영향평가 제도의 한계 68
• 1) 영향평가의 개념과 유형 68
• 2) 실효성 확보 수단의 미비 69
• 4. 데이터 활용의 문제점 73
• 가. 정보 주체의 권리 73
• 나. 개인정보보호 원칙과의 충돌 74
• 다. 금융 분야에서의 특수 문제 80
• 1) 프로파일링에 대한 입법적 공백 80
• 2) 비금융데이터 활용의 문제 80
• 라. 안전성 규제의 문제 81
• 5. 설명을 요구할 권리의 문제점 83
• 가. 알고리즘의 불투명성 83
• 나. 자동화 평가에 대한 설명요구권 86
• 1) 설명요구권 관련 규제 현황 86
• 2) 적용범위의 불명확성 87
• 다. 설명가능한 AI 88
• 1) 설명가능한 AI의 필요성 88
• 2) 금융에서의 적용 현황 88
• 3) 설명가능한 AI의 한계 89
• 6. 불법행위 책임의 문제점 91
• 가. 전통적 불법행위 책임의 한계 91
• 나. 제조물책임의 대안적 접근 92
• 다. 금융소비자 입증책임의 문제 96
• 7. 소결 96
• 제4장 주요국의 알고리즘 차별 규제 현황 98
• 1. 미국 98
• 가. 규제 개관 98
• 1) 국가 AI 계획법 99
• 2) 트럼프 행정부의 AI 관련 행정명령 100
• 3) 미국 AI 행동계획 101
• 4) 연방 기관의 AI 사용 및 조달에 관한 정책 102
• 나. 알고리즘 차별규제의 제도적 기반 마련 103
• 1) 2019년 알고리즘 책임 법안 103
• 2) 2022년 알고리즘 책임 법안 104
• 다. 금융소비자보호 법리의 확장 적용 107
• 1) 재무부 107
• 2) 소비자금융보호국 109
• 3) 주별 규제 현황 112
• (1) 캘리포니아 112
• (2) 콜로라도 113
• (3) 뉴욕 114
• 2. EU 116
• 가. 규제 개관 116
• 나. 차별금지 원칙의 법제화 117
• 다. 법제 간 연계를 통한 금융소비자 보호 123
• 1) 금융 AI 활용에의 EU AI 법 적용 123
• (1) 기존 금융 규제와 AI 법의 조화 123
• (2) 디지털운영회복력법 126
• (3) 금융데이터 접근 규정안 126
• 2) EU AI 책임 지침안 128
• 3) EU 제조물 책임지침 131
• 3. 일본 132
• 가. 규제 개관 132
• 나. AI 촉진법상 규제 134
• 다. 혁신과 규제의 균형 136
• 4. 영국 139
• 가. 규제 개관 139
• 나. 원칙 기반 방식의 차별 규제 139
• 1) AI 백서 139
• 2) 공공부문 영향평가 141
• 3) 유연하면서도 예측가능한 규제 환경 조성 141
• 다. 금융소비자 보호 기준의 강화 143
• 1) 소비자보호원칙 도입 143
• 2) 알고리즘 검증 및 모니터링 의무 145
• 5. 캐나다 146
• 가. 규제 개관 146
• 나. 연방 차원의 법제 정비 추진 147
• 다. 알고리즘 영향평가를 통한 차별 규제 150
• 1) 자동화된 의사결정에 관한 지침 150
• 2) 한계 151
• 라. 권고 기반의 책임 있는 AI 활용 체계 구축 152
• 1) 금융 AI 활용을 위한 EDGE 원칙 152
• 2) 금융기관의 AI 위험관리 가이드라인 154
• 6. 소결 155
• 제5장 알고리즘 차별 규제 개선 방안 159
• 1. 금융포용 159
• 2. 사전적 금융소비자 보호 개선 방안 160
• 가. 차별금지 기준 정비 160
• 1) 법제 간 차별금지 기준 정비 160
• 2) 차별금지 적용 범위의 확대 161
• 나. 규제 간 상호작용을 위한 보충규범의 마련 162
• 다. 정보 주체로서의 금융소비자 보호 164
• 1) 정보 주체의 실질적 권리 보장 164
• 2) 데이터 편향 식별을 통한 공정성 확보 168
• 3) 안전성 확보 의무 적용 범위의 확대 173
• 4) 금융안전성 확보를 위한 전담기관 신설 173
• 라. 영향평가 제도의 실효성 강화 177
• 1) 주요국의 영향평가 제도에 대한 검토 177
• 2) 자율 평가와 독립 검증 체계 구축 178
• 3. 알고리즘 기반 거래 관련 개선 방안 181
• 가. 금융소비자 선택권의 실질적 보장 181
• 1) 금융 조건 비교 제시 의무 181
• 2) 자동화 결정 재검토 요구권 부여 183
• 나. 설명을 요구할 권리 184
• 1) 설명의 내용 및 범위 구체화 184
• 2) 설명가능한 AI를 통한 기술적 보완 190
• (1) 편향성 검증 도구로서의 XAI 190
• (2) 평가 기준 수립과 지속적 개선 체계 191
• 다. 인간에 의한 감독 의무화 192
• 라. 규제 당국의 최종 조정자로서의 역할 확대 193
• 4. 사후적 금융소비자 보호 개선 방안 195
• 가. 현행법상 한계 195
• 나. 알고리즘 감사의 의무화 196
• 1) 개념 196
• 2) 알고리즘 감사의 종류 198
• 3) 알고리즘 감사의 구체적 내용 200
• 다. 피해 구제의 실질적 보장 202
• 1) 금융소비자 보호 수단의 강화 202
• 2) 입증책임의 전환 204
• 3) 분쟁조정 제도의 활용 206
• 4) 사후 책임에 대한 특례 규정 마련 207
• 라. 금융포용과의 연계 209
• 1) 서설 209
• 2) 알고리즘 차별 규제를 통한 금융포용 기반 마련 210
• 3) 제도 기반 마련을 위한 데이터 다양성 확보 211
• 4) 샌드박스를 활용한 맞춤형 금융포용 정책 구현 213
• 5. 소결 214
• 제6장 결론 215
• 참고문헌 220
• Abstract 238