AI 시민성 교육에 대한 시론 = A Study on the Artificial Intelligence Citizenship Education

국문 초록 (Abstract)

현재 세계적으로 제시되고 있는 인공지능을 위한 윤리 가이드라인의 내용을 살펴보면 AI 시대에 살아갈 시민에게 요청하고 있는 역량을 추출해 볼 수 있다. 대체로 3가지 능력이 기본적으로 강조되고 있으며, 이러한 역량을 중심으로 AI 시민성 교육의 내용 체계를 구성해 볼 수 있다. 우선, AI 시스템하에서 인간의 존엄성과 자율성이 존중될 수 있도록 시스템과 운용을 관리할 수 있는 능력을 요청한다. 둘째, AI 시스템이 인간에게 미칠 수 있는 해악을 예방하고 사후에는 그러한 AI 시스템의 개발, 제작, 관리, 사용에 대한 책임을 묻고 실현하기 위해 AI 시스템의 투명성 내지 설명가능성을 사회가 제도적으로 보장할 수 있는 절차와 기준을 정립할 수 있는 능력이 필요하다. 끝으로, 최근에 제기되는 빅데이터의 편향성과 이로 인한 편견의 문제를 의식하고 여기서 생길 수 있는 불평등의 문제를 해결할 수 있는 공정성의 능력을 강조해야 한다.
최근까지 인공지능에 대한 윤리인증에서 중요한 기준으로 제시되고 있는 것을 살펴보면, 책임성(Responsibility/Accountability), 투명성(Transparency), 최소편향성(Minimum Algorithmic Bias) 이 있지만, 이외에도 제어 가능성(Controllability), 안전성(Safety), 보안성(Security), 인권존중(Respect for Human Right), 공동선(Common Good)을 들 -수 있다. 이러한 내용이 AI 시민성의 중요한 내용으로 부가되어야 한다. 현재 이러한 내용이 유럽의 신뢰 가능한 AI, 중국의 책임 있는 AI 뿐만 아니라 투명성과 더불어 논의되는 설명 가능한 AI 등에서도 강조되고 있으므로, 이러한 요소들로 인해 파생될 수 있는 권리와 책임이 AI 시민성 교육에 포함되어야 한다.

다국어 초록 (Multilingual Abstract)

AI citizenship education, unlike digital citizenship education, requires three competencies. First, the ability to manage systems and operations so that human dignity and autonomy are respected under AI systems is emphasized in future societies. Second, in order to prevent the harm that AI systems can cause to humans in advance, and afterwards to hold and realize the responsibility for the development, production, management, and use of such AI systems, the ability to establish appropriate procedures and standards to systematically guarantee the transparency or explainability of AI systems is needed. Finally, the emphasis is on the ability of fairness to address the problems of bias and the inequality that can arise from the recent bias of big data.
Factors that have been suggested as important criteria in ethics certification for AI until recently are Responsibility / Accoutability, Transparency and Minimum Algorithmic Bias. In addition, controllability, safety, security, respect for human rights, and common good are emphasized in the ethical guidelines. This should be added as an important part of AI citizenship. As these issues are now emphasized in Europe's reliable AI, China's responsible AI as well as in explainable AI, the rights and responsibilities that can be derived from these factors should be included in AI citizenship education.

참고문헌 (Reference)

1 정진규, "홈헬스케어 AI Robot의 윤리인증의 필요성과 그 준거에 대한 연구" 한국윤리학회 1 (1): 147-168, 2019

2 "http://chinainnovationfunding.eu/dt_testimonials/state-councils-plan-for-the-development-of-new-generation-artificial-intelligence"

3 "http://chinainnovationfunding.eu/dt_testimonials/publication-of-the-new-generation-ai-governance-principles-developing-responsible-ai/"

4 Tschoepe, N, "Exploring the Uncanny Valley Effect in Social Robotics" HRI 2017

5 High Level Expert Group on Artificial Intelligence, "Ethics Guidelines for Trustworthy AI" 2019

6 변순용, "AI로봇의 도덕성 유형에 근거한 윤리인증 프로그램(ECP) 연구" 한국윤리학회 1 (1): 73-90, 2019