인공지능과 실존적 위험 ―비판적 검토― = Artificial Intelligence and Existential Risk – A Critical Examination –

국문 초록 (Abstract)

본 논문은 초지능의 등장 가능성이 제기하는 ‘실존적 위험’과 관련된 최근 논의를 비판적으로 검토한 후, 인공지능의 개발 과정에서 보다 관심을 기울여야 할 부분은 ‘실존적 위험’보다는 ‘실천적 위험’임을 논증한다. 이때 ‘실천적 위험’이란 현재 개발되어 사용되고 있거나 가까운 미래에 등장할 인공지능이 실제로 일으키거나 일으킬 가능성이 높은 현실적 위험을 의미한다. ‘실천적 위험’의 사례는 인공지능이 다양한 방식으로 사회적 편견이나 차별이 재생산되거나 확장되는 데 기여하는 것 등이다. 중요한 점은 이 ‘실천적 위험’은 초지능의 등장 이전에도 충분히 큰 실천적 파급효과를 갖기에 이에 대한 우리의 대응은 (인공지능 개발속도가 지수 함수적인지와 무관하게) 지금 당장 시작되어야 한다는 사실이다. 필자는 이 대응이 인공지능 개발 과정에서 불평등의 해소, 정의로움 등 기존 사회적 가치의 존중과 인간적 가치에 대한 포용적 재정의의 노력의 두 방향으로 진행되어야 한다고 주장한다.

다국어 초록 (Multilingual Abstract)

This paper examines the ‘existential risk’ related to the possible emergence of superintelligent artificial intelligence (AI) and argues that we should pay more attention to the ‘practical risks’ related to current or near-future AI rather than the ‘existential risk’ of future AI. The practical risks of AI are those already realized or highly probable in the near future, which include the risk of AI strengthening the pre-existing social biases and discrimination through non-statistically skewed training data or statistically representative training data of historically accumulated biases. I emphasize the need for an immediate response to these risks whether the controversial exponential growth of AI development is realistic or not. The study concludes that we should formulate our response in consideration of the respect of human values and the inclusive redefinition of them.

참고문헌 (Reference)

1 이상욱, "인공지능의 한계와 일반화된 지능의 가능성: 포스트 휴머니즘적 맥락" 한국과학철학회 12 (12): 49-69, 2009

2 이중원, "인공지능의 존재론" 한울 2018

3 이상욱, "인공지능의 존재론" 한울 2018

4 이상욱, "인공지능의 도덕적 행위자로서의 가능성: 쉬운 문제와 어려운 문제" 철학연구회 (125) : 259-279, 2019

5 오요한, "인공지능 알고리즘은 사람을 차별하는가?" 한국과학기술학회 18 (18): 153-215, 2018

6 이상욱, "감정과 의식: 신경과학과 인공지능 시대의 문학" 한국언어문화학회 (65) : 5-28, 2018

7 Shanahan, M., "The Technological Singularity" The MIT Press 2015

8 Damasio, A., "The Strange Order of Things: Life, Feeling, and the Making of Cultures" Vintage Books 2019

9 Kurzweil, R., "The Singularity is Near: When Humans Transcend Biology" Penguin books 2006

10 Floridi, L., "The Fourth Revolution: How the Infosphere is Reshaping Human Reality" Oxford University Press 2016

11 Roberts, A., "Tamed: Ten Species that Changed Our World" Cornerstone 2018

12 Bostrom, N., "Superintelligence: Paths, Dangers, Strategies" Oxford University Press 2016

13 Ford, M., "Rise of the Robots: Technology and the Threat of a Jobless Future" Basic Books 2016

14 Pinker, S., "Possible Minds: 25 Wyas of Looking at AI" Penguin Press 2019

15 Brockman, J., "Possible Minds: 25 Wyas of Looking at AI" Penguin Press 2019

16 Tegmark, M., "Possible Minds: 25 Wyas of Looking at AI" Penguin Press 2019

17 Tallinn, J., "Possible Minds: 25 Wyas of Looking at AI" Penguin Press 2019

18 Brynjolfsson, E., "Machine, Platform, Crowd: Harnessing Our Digital Future" W.W. Norton 2018

19 Tegmark, M., "Life 3.0: Being Human in the Age of Artificial Intelligence" Penguin Books 2016

20 Dennett, D., "Kinds of Minds: Toward an Understanding of Consciousnes" Basic Books 1997

21 Credo P. C., "Invisible Women: Exposing Data Bias in a World Designed For Men" Chatto & Windus 2019

22 Kaplan, J., "Humans Need Not Apply" Yale University Press 2016

23 Bowler, P. J., "Evolution: The History of an Idea" University of California Press 2003

24 Pinker, S., "Enlightenment Now: The Case for Reason, Science, Humanism, and Progress" Penguin Books 2019

25 Drexler, E., "Engines of Creation: The Coming Era of Nanotechnology" Doubleday 1986

26 Dehaene, S., "Consciousness and the Brain: Deciphering How the Brain Codes Our Thoughts" Penguin Books 2014

27 Kaplan, J., "Artificial Intelligence: What Everyone Needs to Know" Oxford University Press 2016

28 Norvig, P., "Artificial Intelligence: A Modern Approach" Pearson Education 2016

29 Hume, D., "A Treatise on Human Nature" Oxford University Press 1978