지능정보사회에서 사회보장 영역의 정보화와 기본권 보호 – 네덜란드 SyRI 판결에 대한 분석과 평가 – = Informatization of the Social Security Area and Fundamental Rights in the Intelligent Information Society — Analysis of the Dutch ‘SyRI’ Judgment —

국문 초록 (Abstract)

사회보장 영역에도 지능정보기술을 활용한 부정 방지 및 퇴치, 사각지대 해소 등을 추구하면서 이른바 ‘디지털 복지국가(Digital Welfare States)’로의 전환이 가속화하고 있다. 그러나 이는 개인정보, 사생활 보호의 문제 및 감시사회 도래의 우려를 증대시키고, 편향성과 편견에 따른 차별을 고착화할 수 있다. 새로운 기술을 활용한 혁신과 기본권 보호 사이의 균형이 중요한 과제로 제기되는 것이다. 본 논문은 이러한 문제와 관련한 네덜란드 헤이그 지방법원의 SyRI 판결을 분석하여 지능정보사회에서 사회보장 영역의 정보화가 기본권 보장에 미치는 영향 및 이에 대한 규범적 대응의 방향과 관련한 함의를 고찰한다.
SyRI는 네덜란드 정부가 사회보장 및 소득기반 제도, 세금 및 사회보장, 노동법 영역에서 발생하는 부정을 방지 및 퇴치하기 위해 사용하는 법적 도구이다. 여러 기관의 데이터를 연결하고 분석하여 위험 보고서를 생성함으로써 특정한 자연인이나 법인이 법을 위반할 가능성이 있어 조사할 필요가 있다고 알려주는 기능을 한다. 그러나 이러한 SyRI의 근거 규정이 유럽인권협약 제8조 제2항이 규정한 사생활 존중권 제한의 요건을 충족하는지가 문제되었고, 헤이그 지방법원은 SyRI 규정이 유럽인권협약에 위반된다고 판결하였다. SyRI 규정은 처리할 수 있는 데이터의 유형이나 양이 매우 다양하고 방대하여 사생활 존중권을 중대하게 제약하면서도 그에 상응하는 안전장치를 충분히 제공하지 않는다고 보았다. 위험 지표 및 위험 모델과 그 타당성을 뒷받침하는 객관적 기준 부족, 위험 지표 및 위험 모델, 데이터 처리 등에 관한 투명성 부족, 데이터 처리의 필요성과 비례성 등에 대한 객관적인 판단 절차 부족, 개인정보영향평가의 생략 등이 판단의 주요 이유였다.
SyRI 판결은 사회보장행정의 편의성, 효율성에만 무게를 두고 추진해 온 복지의 디지털화에 대해 위험성을 경고했다는 점에서 디지털 복지국가를 추구하는 여러 국가에 중요한 의미가 있다. 정당한 목적을 위하여 지능정보기술을 활용하고자 하는 경우라도 이는 다양한 위험과 부작용을 초래할 수 있는 만큼 충분한 사회적 논의와 합의를 거쳐 법적인 근거를 정립하고, 이에 터 잡아 시스템을 구축해야 한다. 또한 효율성과 행정편의에 집착하기보다는 사회보장 영역의 부정과 사각지대 문제를 해결하기 위한 근본적인 대책을 먼저 고민하고, 이를 위한 기술활용 방안에 집중해야 한다. 아울러 관련 규범에 활용되는 위험 모델, 알고리즘 등과 관련한 투명성 강화, 당사자에 대한 정보제공, 데이터 처리 필요성 및 그 절차의 적정성에 대한 객관적인 평가 절차, 개인정보영향평가 등을 수용해야 한다. 이를 통해 인간의 자율성, 개인정보자기결정권 및 사생활의 비밀과 자유, 평등과 같은 헌법적 가치의 훼손을 방지하고, 기본권 제한을 최소화할 수 있을 것이다.

다국어 초록 (Multilingual Abstract)

In the field of social security, the transition to the ‘Digital Welfare States’ is accelerating as we detect fraud, and discover welfare blind spots using intelligent information technology. However, this can increase concerns about privacy protection and the advent of a surveillance society, and fixation of prejudice. The balance between innovation using new technologies and protection of fundamental rights is raised as an important task. In relation to these issues, this paper analyzes the Hague District Court’s case on the System Risk Indication (SyRI) to examine the impact of informatization in the social security area on the guarantee of basic rights and the implications to South Korea related to the direction of normative response to it.
SyRI is a legal instrument used by the Dutch government to detect various forms of fraud, including social benefits, allowances, and taxes fraud. The court has ruled that the legislation regulating the use of SyRI does not comply with Article 8 of the European Convention on Human Rights (ECHR), which protects the right to respect for private and family life, home and correspondence. The court has decided that the legislation does not strike a fair balance, as required under the ECHR, which would warrant a sufficiently justified violation of private life. In that respect, the application of SyRI is insufficiently transparent and verifiable.
The SyRI case has an important meaning for many countries pursuing a digital welfare state in that it warned of such dangers regarding the digitalization of welfare, which has been promoted with only the convenience and efficiency of social security administration. Even if it is need to use intelligent information technology for a legitimate purpose, it can cause various risks and side effects, so we must first establish a legal basis through sufficient social discussion and agreement. In addition, rather than obsessing over efficiency and administrative convenience, it is necessary to think about fundamental measures to solve the problems of fraud and blind spots in the social security field, and focus on using technology for this purpose. Also, the legislation should accommodate enhanced transparency regarding risk models and algorithms, provision of information to the data subjects, objective evaluation procedures for the need for data processing and the adequacy of the process, and data protection impact assessment. Through this, it will be possible to prevent damage to constitutional values such as human autonomy, the right to self-determination of personal information, the privacy or the right to respect for private life, and equality, and to minimize restrictions on fundamental rights.

참고문헌 (Reference)

1 김배원, "지능정보사회와 헌법 - 인공지능(AI)의 발전과 헌법적 접근 -" 한국비교공법학회 21 (21): 67-108, 2020

2 김일환, "지능정보사회에서 헌법의 역할과 기능" 법학연구원 32 (32): 37-92, 2020

3 오정하 ; 김일환, "지능정보사회에서 알고리즘의 법･규제의 방향" 법과정책연구원 27 (27): 109-141, 2021

4 윤수정, "인공지능사회에서의 기본권" 한국공법학회 49 (49): 169-206, 2020

5 김중권, "인공지능(지능형) 시스템의 도입을 위한 법적 규율의 문제" 한국비교공법학회 22 (22): 263-292, 2021

6 양종모, "인공지능 알고리즘의 편향성, 불투명성이 법적 의사결정에 미치는 영향 및 규율 방안" 법조협회 66 (66): 60-105, 2017

7 한은희, "아동보호분야의 위험예측모형 활용 현황 및 시사점" 한국사회보장정보원 2020

8 김규리, "스탠포드 ｢AI 인덱스 2021｣을 통해 본 AI 지표 조사의 변화 방향" 한국지능정보사회진흥원 (11) : 2021

9 김수영, "사회복지정보화의 윤리적 쟁점 - 사회보장정보시스템을 통한 데이터감시를 중심으로 -" 한국사회복지학회 68 (68): 193-224, 2016

10 홍석한, "사회보장 영역에서 인공지능 활용에 대한 헌법적 고찰" 법학연구원 (80) : 37-68, 2023

11 이형석 ; 전정환, "빅데이터를 기반으로 한 인공지능 예측력의 헌법적 쟁점에 관한 연구" 법학연구원 28 (28): 33-61, 2021

12 양종모, "법 분야 위험의 예측을 위한 인공지능 알고리즘과 관련된 법적 쟁점" IT와 법연구소 (22) : 371-412, 2021

13 홍석한, "민주주의에 대한 인공지능의 위험과 규범적 대응 방안" 한국헌법학회 28 (28): 127-159, 2022

14 Adamantia Rachovitsa, "The Human Rights Implications of the Use of AI in the Digital Welfare State: Lessons Learned from the Dutch SyRI Case, Human Rights Law Review Vol.22"

15 Daniel Zhang, "The AI Index 2021Annual Report, AI Index Steering Committee" Human-Centered AI Institute, Stanford University 2021

16 Naomi Appelman, "Risk Profiling and Fundamental Rights: The Case of SyRI in the Netherlands" 12 (12): 269-, 2021

17 Anne Meuwese, "Regulating Algorithmic Decision-making One Case at the Time: a Note on the Dutch ‘SyRI’ Judgment" 1 (1): 2020

18 Sonja Bekker, "Netherlands Yearbook of International Law" Springer 2021

19 Media Center, "Landmark ruling by Dutch court stops government attempts to spy on the poor – UN expert" United Nations

20 Council of Europe: European Court of Human Rights, "Guide on Article 8 of the European Convention -Right to respect for private and family life, home and correspondence"

21 Marvin van Bekkum, "Digital welfare fraud detection and the Dutch SyRI judgment" 23 (23): 2021

22 Philip Alston, "Brief by the UN Special Rapporteur on extreme poverty and human rights as Amicus Curiae in the case of NJCM c.s/De Staat der Nederlanden (SyRI)before the District Court of The Hague(Case number:C/09/550982/HA ZA 18/388)"

23 Fabio Chiusi, "Automating Society Report 2020" AlgorithmWatch

24 김문조, "AI 시대의 디지털 격차" 지역사회학회 21 (21): 59-88, 2020

25 United Nations, "A/74/493: Digital welfare states and human rights -Report of the Special Rapporteur on extreme poverty and human rights" 2019

26 Alexandra Chouldechova, "A case study of algorithm-assisted decision making in child maltreatment hotline screening decisions, Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81"

27 김상용, "4차 산업혁명 기술에 의한 스마트 복지사회 구현" K교육연구학회 6 (6): 1-19, 2021