온라인 플랫폼의 추천 알고리즘에 대한 청소년의 알 권리 = The Right of Adolescents to Know About Recommendation Algorithms on Online Platforms

국문 초록 (Abstract)

최근 SNS를 포함한 온라인 플랫폼에서 딥페이크 기술을 이용하여 제작한 성적 합성 영상물 등이 유통되면서 심각한 사회문제로 대두되고 있다. 특히, 청소년들의 교우, 교사, 가족 등의 사진을 음란 영상물 등에 합성하여 시청 및 유포하면서 다양한 우려를 낳는다. 한편, 온라인 플랫폼의 추천 알고리즘을 통하여 선정적이거나 자극적인 콘텐츠들이 플랫폼 이용자들에게 제공되기도 하는데, 이러한 유해 콘텐츠가 온라인에서 홍수처럼 퍼지면서 자라나는 10대 청소년의 건강과 안전에 중대한 영향을 미치고 있다.
무엇보다도, 청소년 시기는 다양한 정보와 경험을 통해 가치관과 사고가 형성되는 시기로서, 장기간 유해 매체 등에 노출될 경우 그에 따른 부정적 영향이 상당하다. 무엇보다도 청소년은 기본권의 주체로서 미래 사회를 견인할 사회 구성원으로 존중받아야 하는 동시에, 이들의 건강한 성장과 발달을 위해서 국가와 사회의 특별한 보호가 필요하다.
온라인 플랫폼이 청소년에 미치는 유해한 영향은 우리나라뿐만 아니라 국제사회가 함께 고민하는 과제이다. 주요 국가들은 온라인 플랫폼의 콘텐츠 추천 기능이 청소년의 정신건강에 미치는 해로운 영향에 주목하면서, 다양한 정책적 대응방안을 마련하고 있다. 대표적으로 미국 상원 의회는 2024년 초 청문회를 통하여 메타(Meta) 및 틱톡(Tiktok) 등 온라인 플랫폼의 추천 알고리즘이 청소년에 미치는 영향 등에 관한 문제점을 조사하였으며, 이를 토대로 ｢아동 온라인 안전및프라이버시법(Kids Online Safety and Privacy Act: KOSPA)｣ 제정을 추진하였다.
온라인 플랫폼의 추천 알고리즘 활용에 따른 정신 건강에 대한 위해는 청소년에 대한 중대한 기본권 침해 사안이라는 점을 고려하여 접근할 필요가 있으며, 추천 알고리즘의 문제에 대한 규범적 대응이 강조되는 시점이다. 특히, 관할 당국은 플랫폼을 통한 불법 및 유해 콘텐츠 확산 이후에 청소년 유해매체물로 지정하는 사후 규제에서 벗어나, 온라인을 통해 제공되는 콘텐츠가 청소년의 잠재의식에 미치는 영향 및 정신건강 등에 심각한 해악을 야기할 수 있는 위험성 등을 고려할 필요가 있다. 또한, 그러한 콘텐츠가 청소년들에게 유통되기 전에 당국이 선제적으로 대응할 수 있는 사전 규제방안을 도입할 필요가 있다.
이 글에서는 그와 같은 문제의식을 토대로 하여, 지능정보사회에서 인공지능에 기반한 온라인 플랫폼의 추천 알고리즘이 청소년에 미치는 부정적 영향에 관한 외국의 주요 사례를 중심으로 문제점을 진단한다(Ⅱ장). 또한, 플랫폼의 편향된 정보전달 및 자동적 판단으로부터 청소년의 기본권을 보호하기 위한 수단으로서, 온라인 플랫폼의 추천 알고리즘에 대한 ‘알 권리’의 의미를 새롭게 재조명하고, 청소년의 안전한 플랫폼 이용을 위한 알고리즘 설명요구권 보장 등 도입의 필요성을 살펴본다(Ⅲ장). 마지막으로, 온라인 플랫폼을 규율하는 현행법의 한계 및 외국의 법제(Ⅳ장)를 바탕으로 SNS 시대의 청소년 보호를 위한 구체적인 개선방안을 모색하고자 한다(Ⅴ장).

다국어 초록 (Multilingual Abstract)

Serious social issues have arisen as sexually explicit deepfake videos created with AI technology are widely distributed on online platforms including social media. This is particularly troubling, considering deepfake technology has been used to combine photos of adolescents’ fellow students, teachers, or family members with pornographic content, creating chaos in society as these videos are viewed and distributed.
Additionally, online platforms’ recommendation algorithms frequently provide users with suggestive and vicious content. Such harmful and illegal content has increasingly reached adolescent users with little or no legal restriction, causing a profound impact on the safety and well-being of young people as they are flooded with such media.
Adolescence is a critical period for forming values, developing reasoning skills, and undergoing physical development. Prolonged exposure to harmful environments can have serious negative effects. Adolescents are an essential human resource for the development of any nation, and special protection is warranted from both the state and society to support their healthy growth.
The harm online platforms can have on adolescents is a pressing issue across borders. It is widely acknowledged as a serious problem not only in Korea but also internationally. Globally, there is an increasing focus on the negative mental health effects of content recommendation functions provided by online platforms on adolescents, and various policies are being developed to address this issue. Notably, the U.S. Senate held hearings in early 2024 to investigate the impact of harmful content distributed on platforms such as Meta and TikTok. The U.S. Senate has passed the Kids Online Safety and Privacy Act (KOSPA).
Recognizing that the mental health risks associated with recommendation algorithms constitute a serious infringement on adolescents’ basic rights is crucial. Specific regulatory responses are urgently needed. Rather than relying solely on traditional regulatory approaches where authorities designate certain media as harmful to youth following their distribution, it is essential to take proactive measures so that authorities can respond before such harmful content circulates. Such actions are clearly warranted, considering how such content can harm young people's subconscious and mental health.
In consideration of these issues, this article examines the negative impacts of AI-supported recommendation algorithms on adolescents by analyzing key case studies from outside Korea (Part II). It also explores the emerging concept of adolescents' “right to know” about the recommendation algorithms used by online platforms as a means to protect adolescents’ fundamental rights, examining the necessity of the right to ensure algorithm transparency as they engage with platform-based information (Part III). Finally, based on limitations in the current self-regulation framework for platform operators and foreign legislative examples (Part IV), this article seeks to propose specific improvements to protect adolescents in the era of social media (Part V).

참고문헌 (Reference)

1 전학선, "헌법개정을 통한 기본권 보장 강화" 한국법제연구원 (61) : 2021

2 김효연, "학교영역에서 아동·청소년의 정치적 참여와 시민교육" 단국대학교 법학연구소 40 (40): 2016

3 김일환, "지식정보사회에 대비한 헌법개정의 필요성과 방향에 관한 서설적 고찰" 세계헌법학회 15 (15): 2009

4 권은정, "지능형 미디어 영역의 알 권리에 관한 공법적 고찰 -알고리즘 기반 추천 시스템에 대한 이용자 권익 보장의 관점에서-" 한양대학교 법학연구소 38 (38): 2021

5 윤수정, "인공지능사회에서의 기본권" 한국공법학회 49 (49): 2020

6 김광수, "인공지능법 입문" 내를건너서숲으로 2021

7 손현주, "인공지능 거버넌스와 민주주의의 미래" 동양사회사상학회 22 (22): 2019

8 윤금낭, "온라인상 불법유해정보 유통방지 체계 개선에 관한 연구" 방송통신위원회 2023

9 김현귀, "액세스권의 기본권적 의의" 한국언론법학회 12 (12): 2013

10 백수원, "알고리즘의 발달에 따른 Access권 및 알권리의 역할에 관한 試論的 고찰" 미국헌법학회 32 (32): 2021

11 문의빈, "알고리즘 기반 추천과 플랫폼의 기본권 제한에 관한 비교법적 연구" 29 (29): 2023

12 이상학, "알 권리로서 정보자유의 쟁점" 인하대학교 법학연구소 17 (17): 2014

13 조너선 하이트(Jonathan Haidt), "불안세대" 웅진 지식하우스 2024

14 이부하, "디지털 시대 정보중개자에 대한 법적 규제 –알고리즘에 대한 법적 규제를 중심으로-" 서울대학교 공익산업법센터 17 (17): 2024

15 김일우, "고위험 인공지능시스템의 차별에 관한 연구" 서강대학교 법학연구소 13 (13): 2024

16 김일우, "고위험 인공지능시스템의 기본권 침해에 관한 헌법적 연구" 서강대학교 2023

17 정순원, "靑少年 保護의 目的과 憲法的 根據" 한국공법학회 35 (35): 2007

18 권은정, "‘지능형 미디어’ 이용자의 알 권리 보장을 위하여" 언론중재위원회 (겨울) : 2022

19 Pew Research Center, "Teens, Social Media and Technology 2022"

20 Brian A. Primack, "Social Media Use and Perceived Social Isolation Among Young Adults in the U.S"

21 Newport Institute, "Loneliness and Depression in Young Adults"

22 과학기술정보통신부, "23년 부가통신사업 실태조사 경과 및 결과"

23 교육부, "2025년부터 수학·영어·정보교과에 AI디지털교과서 도입"

24 과학기술정보통신부, "2023 스마트폰 과의존 실태조사" 2023