딥페이크의 이미지 조작: 심층적 자동화에 따른 사실의 위기와 푼크툼의 생성 = Deepfake Image Manipulation: Crisis of Factuality and Creation of Punctum by Deep Automation

국문 초록 (Abstract)

딥페이크(Deepfake) 기술에 대한 우려가 커지고 있다. 딥페이크는 기계학습을 통해 원본 이미지나 동영상 위에 다른 이미지를 중첩함으로써 조작된 영상을 만들어내는 기술이다. 회화, 아날로그 사진, 디지털 이미지와 영상에 이르기까지 이미지를조작하는 기술은 과거에도 있었지만, 딥페이크는 조작 기법과 도구, 수행자 등의 측면에서 독특한 속성을 가진다. 특히 이미지 조작의 진정한 가내화를 야기한다는 점에서 과거의 조작 기술들과 근본적인 차이를 보인다. 이 글은 이를 ‘심층적 자동화’ 의 논리로 개념화하여 설명하고, 딥페이크의 문화적 의미를 ‘정체성의 도용과 사실의 위기’, ‘관계성에 기반을 둔 푼크툼의 생성’이라는 두 차원으로 제시하였다. 여기에 더해 알고리즘 기반의 이미지 조작 기술이 더 발전할 경우 야기되는 문제점을간략히 살피고 이에 대응할 수 있는 방안을 검토하였다. 이를 통해 일상 생활에 급격히 진입하고 있는 새로운 기술에 대한 이해를 높이고 사회적 관심을 환기하는 데 기여하고자 하였다.

다국어 초록 (Multilingual Abstract)

Concerns about ‘Deepfake’ tachnology are growing. Deepfake is a technique that creates manipulated images by superimposing images onto original images or videos using a machine learning algorithm. In contrast with the previous techniques that have manipulated paintings, analog photos, digital images, and videos, Deepfake has its own characteristics in terms of its tools, operation principle, and operators. The fundamental difference is that Deepfake truly ‘domesticates’ image manipulation works.
Conceptualizing the process as ‘deep automation’, this paper interprets cultural meanings of the logic in two dimensions: ‘crisis of factuality’ and ‘creation of punctum’. In addition, this paper tries to anticipate the possible problems caused by the development of algorithm-based image manipulation techniques to examine countermeasures. In this way, we intend to contribute to the understanding of new technologies that are rapidly penetrating every area of everyday life.

참고문헌 (Reference)

1 김성섭, "한류스타의 광고모델 속성이 기업이미지, 신뢰, 그리고 고객 충성도에 미치는 영향 분석을 통한 한류스타마케팅 필요성에 관한 연구 - Lotte Hotel & Resort를 찾는 일본인 관광객 중심으로" 한국호텔외식관광경영학회 18 (18): 217-243, 2009

2 Ades, D., "포토몽타주" 시공사 2003

3 이병관, "유명인 모델의 공신력 척도는 얼마나 신뢰할 수 있는가? 신뢰도 일반화 메타 분석의 적용" 한국광고홍보학회 20 (20): 35-77, 2018

4 Langford, M. J., "암실테크닉" 학문사 2002

5 Foster, H., "시각과 시각성" 경성대학교 출판부 2004

6 Manovich, L., "소프트웨어가 명령한다" 커뮤니케이션북스 2014

7 Gombrich, E. H., "서양미술사" 예경 1997

8 Kesting, M., "사진의 독재" 눈빛 1991

9 송근섭, "모델-제품범주 일치여부와 광고출연 유형에 따른 광고효과: 스포츠스타 모델을 활용한 광고를 중심으로" 사회과학연구원 20 (20): 81-117, 2013

10 Robins, K., "디지털 시대의 사진 이미지" 시각과 언어 49-76, 2000

11 이정교, "뉴스 앵커의 카리스마가 수용자의 뉴스 신뢰도, 뉴스 시청의도, 프로그램 충성도에 미치는 영향 : 앵커의 동일시와 공신력을 중심으로" 한국방송학회 26 (26): 173-214, 2012

12 오세욱, "기계와 인간은 커뮤니케이션할 수 있는가?: 기계학습을 통해 본 쟁점과 대안" 한국정보사회학회 18 (18): 63-96, 2017

13 유제호, "「적벽가」의 핍진성에 대한 비판적 연구(1) -핍진성 결여 양상 분석-" 판소리학회 (28) : 289-326, 2009

14 Morley, D., "What’s ‘home’ got to do with it?" 6 (6): 435-458, 2003

15 Manovich, L., "The language of new media" The MIT Press 2001

16 Mnookin, J. L., "The image of truth: Photographic evidence and the power of analogy" 10 : 1-74, 1998

17 Williams, R., "Television: Technology and cultural form" Routledge 2003

18 김현주, "TV뉴스 앵커의 준사회적 상호작용과 전문성 비교분석" 44 (44): 468-488, 1999

19 최일구, "TV뉴스 앵커의 신뢰도 요인에 관한 연구" 26-31, 2014

20 민병현, "TV 시사다큐멘터리 영상구성방식과 사실성 구현에 관한 연구 : KBS, MBC, SBS를 중심으로" 한국언론학회 53 (53): 268-296, 2009

21 Latour, B., "Reassembling the social: An introduction to Actor-Network-Theory" Oxford University Press 2005

22 Giralt, G. F., "Realism and realistic representation in the digital age" 62 (62): 3-16, 2010

23 Knight, W., "Never mind killer robots—here are six real AI dangers to watch out for in 2019"

24 Cauduro, A., "Live Deep Fakes — you can now change your face to someone else’s in real time video applications"

25 Crigler, A. N., "Interpreting visual versus audio messages in television news" 44 (44): 132-149, 1994

26 Li, Y., "In ictu oculi: Exposing ai generated fake face videos by detecting eye blinking"

27 Bucholtz, M., "Identity and interaction: a sociocultural linguistic approach" 7 (7): 585-614, 2005

28 Wilken, R., "From stabilitas loci to mobilitas loci: Networked mobility and the transformation of place" (6) : 2005

29 Jones. G. M., "Fake: Anthropological keywords" Hau Books 15-30, 2018

30 Floridi, L., "Digital’s cleaving power and its consequences" 30 (30): 123-129, 2017

31 Fletcher, J., "Deepfakes, Artificial Intelligence, and Some Kind of Dystopia: The New Faces of Online Post-Fact Performance" 70 (70): 455-471, 2018

32 Chesney, R., "Deep Fakes: a looming challenge for privacy, democracy, and national security" 107 : 2018

33 Barthes, R., "Camera Lucida: Reflections on photography" Hill and Wang 1981

34 Floridi, L., "Artificial Intelligence, Deepfakes and a future of ectypes" 31 (31): 317-321, 2018

35 Goodfellow, I., "Artificial Intelligence and International Security"

36 Ganti, A., "AI on AI Action: Gyfcat Uses AI to Fight Deepfakes’ Morphed Celebrity Porn Videos"

37 Karras, T., "A style-based generator architecture for generative adversarial networks"