생성형 AI의 프롬프트 기반에 있어 개인정보 생애주기 및 개인정보 처리에 관한 법적 쟁점 연구 = A STUDY ON Legal Issues in the Personal Information Lifecycle Based on Generative AI Prompts

국문 초록 (Abstract)

인류는 세기（Century）를 거듭하며 진화해왔고 동시에, 발달된 인간의 두뇌를 모방하고자 오늘날 인공지능（AI, Artificial Intelligence）이 탄생하였다. 인공지능 기술은 그 출현의 목적과 방향이 때로는 사람마다, 상황마다, 환경마다 다를 수 있으나 해와 날을 반복하며 발전해 왔고 현재도 진행 중이다. 인공지능 기술의 발전 속도만큼 인공지능에 대한 인류의 의존성은 깊은 상관관계（Correlation）를 가지며, 인간 스스로가 고유하게 보유했던 통제 능력과 판단 감각의 상실까지 일반화될 수 있는 상황이다.

이렇듯 인공지능 기술은 단순히 인간의 사고와 판단을 모방하는 것에서 더 나아가 학습, 연구, 업무, 상거래 등 다방면에서 실제 활용되고 있다. 기존 개인정보 보호체계이자 반복, 순환되었던 개인정보 수집·이용, 저장, 제공, 파기라는 일련의 생애주기（LifeCycle）는 수집, 학습, 추론, 생성이라는 비선형적인 사이클로 변화되고 있기도 하다.

본 연구에서는 대중들이 가장 많이 접하고 사용하는 생성형 AI와 관련하여, 프롬프트에 입력되는 질의（Query）와 정보를 기초로, 기존 개인정보 생애주기 관점에서의 법적 쟁점을 분석하였다. 또한, 기존 개인정보 법제 체계에서의 한계를 확인하여 생성형 AI 활용에 대한 새로운 법제 체계 또한 제안하고자 한다.

이를 위해, 국내외 개인정보 보호법（GDPR 둥 포함）과 생성형 AI 관련 최신 가이드라인을 비교 분석하는 문헌 연구를 수행하였다. 프롬프트 입 력 단계에서의 ‘명시적 동의’ 문제, 생성 단계에서의 ‘개인정보 추론 및 재식별’ 위험, 그리고 파기 단계에서의 ‘잊힐 권리’ 실행 가능성 등 생애주기 단계별 법적 쟁점을 심층적으로 고찰하였다.

결론적으로, 생성형 AI 프롬프트에 있어 개인정보 생애주기 관점에서는 현재 법적 체계에서 개인정보보호법 제15조 제1항 6호와 제3항을 수집·이용에 대한 근거로, 이후 제17조 제1항 2호와 제4항을 근거로 제공하며, 제21조 제1항에 따라 파기가 적절히 수행될 수 있도록 각각의 한계들을 인지하고 개선할 필요가 있음을 확인하였다.

이러한 논의를 기초로, 본 연구는 생성형 AI 프롬프팅 전반의 특수성을 반영하여 기존 개인정보 법제 체계의 생애주기를 AI 환경에 특화된 모델로의 전환을 제언한다. 특히, 생성형 AI 환경에서의 개인정보 생애주기를 중점적으로 법적·정책적 개선을 제언한다.

본 연구는 급변하는 AI 기술 환경에서 정보주체의 권리를 실질적으로 보장하고, 기업의 법적 불확실성을 해소하기 위한 기초 자료로 활용될 수 있을 것으로 기대된다.

다국어 초록 (Multilingual Abstract)

As humanity evolves, Artificial Intelligence （AI） has emerged to mimic the complex functions of the human brain. While AI's objectives vary across contexts, its rapid development has fostered a deep correlation with human dependency, potentially leading to the erosion of innate human control and judgment. Today, generative AI transcends mere imitation, integrating into learning, research, commerce, and professional labor. This shift has transformed the traditional, linear personal information lifecycle （collection, use, storage, provision, and destruction） into a non-linear cycle characterized by learning, inference, generation, and storage.
This study analyzes legal issues concerning generative AI prompting based on user queries and information. By conducting a literature review of domestic and international privacy laws—including the GDPR—and the latest AI guidelines, this research examines stage-specific legal challenges: explicit consent during input, inference and re-identification risks during generation, and the feasibility of the ＂right to be forgotten＂ during deletion.

The findings reveal several critical limitations:
- Ambiguity in consent mechanisms during data collection via prompts.
- Uncertainty in implementing security measures during data retention.
- Potential legal disputes regarding the unauthorized provision of personal data during re-learning processes.
- Technical and legal difficulties in the complete erasure of personal information internalized within AI models.
- Blurred accountability between ＂data controllers＂ and ＂processors＂ within the multi-layered structure of generative AI.

Based on these findings, this study proposes establishing new legal standards tailored to the generative AI environment. Key recommendations include the concretization of Privacy by Design （PbD） principles and the development of legal frameworks for the pseudonymization of prompt data. This research serves as a foundational resource for protecting data subjects' rights and reducing legal uncertainty for corporations in a rapidly changing technological landscape.

목차 (Table of Contents)

• 제1장 서 론 1
• 제1절 연구의 목적 1
• 제2절 연구의 범위 및 방법 4
• I. 연구의 범위 4
• II. 연구의 방법 4
• 1. 문헌 연구 및 법제 분석 5
• 2. 기술-법학 융합 분석 5
• 3. 규범적 대안 제시 5
• 제2장 생성형 AI와 개인정보 생애주기 및 개인정보 처리 7
• 제1절 생성형 AI의 개요 7
• I. 인공지능과 생성형 AI의 개념 7
• II. 생성형 AI의 메커니즘과 프롬프트의 역할 8
• 제2절 프롬프트 기반 개인정보 생애주기 및 개인정보 처리 13
• I. 개인정보의 개념 및 처리, 종류 13
• 1. 개인정보의 개념 및 처리 13
• 2. 명시적 개인정보 및 암시적 개인정보 14
• 3. 고유식별정보 및 민감정보와 가명정보 16
• 4. 개인정보에 대한 적극적 권리와 소극적 권리 19
• II. 프롬프트 기반 개인정보 생애주기와 개인정보 처리의 특성 20
• 1. 개인정보 생애주기의 개념 20
• 2. 프롬프트 기반 개인정보 생애주기 22
• III. 프롬프트 기반 개인정보의 수집이용과 제공 25
• IV. 프롬프트 기반 공개된 정보 처리 30
• 제3장 프롬프트 기반 개인정보 생애주기별 법적제도적 쟁점 33
• 제1절 프롬프트 입력 및 개인정보 수집이용 단계의 쟁점 33
• 제2절 학습 및 고도화 단계에서의 한계와 쟁점 37
• 제3절 출력 및 제공 단계에서의 쟁점 39
• 제4절 파기 및 사후 관리 단계에서의 쟁점 43
• 제5절 생성형 AI 프롬프트 개인정보 생애주기 관련 제도적 한계 45
• 제4장 국내외 생성형 AI 관련 개인정보 규제 현황 및 비교 분석 49
• 제1절 한국: 개인정보 보호법 및 인공지능 기본법 49
• 제2절 EU: AI Act 및 GDPR의 프롬프트 데이터 규제 53
• 제3절 미국: FTC 소비자 보호 가이드라인 및 프라이버시법 56
• 제5장 프롬프트 기반 개인정보 생애주기별 법적제도적 개선 방안 58
• 제1절 프롬프트 입력 및 개인정보 수집이용 단계의 개선 방안 58
• 제2절 학습 및 고도화 단계에서의 개선 방안 62
• 제3절 출력 및 제공 단계에서의 개선 방안 64
• 제4절 파기 및 사후 관리 단계에서의 개선 방안 67
• 제5절 개인정보 보호 제도에 대한 개선 방안 68
• 제6장 결론 73
• 참 고 문 헌 74
• ABSTRACT 79