트레버 페글렌의 머신 비전(Machine Visions) 작업 연구 : 비가시성의 비판적 가시화 = A Study of Trevor Paglen’s Machine Visions Works : Critical Visualization of the Invisible

다국어 초록 (Multilingual Abstract)

This study examines the Machine Visions works of visual artist Trevor Paglen (1974-), who is based in the United States and Germany. Since the beginning of his artistic practice in 2006, Paglen has focused on the invisibility of regimes of secrecy and surveillance, as well as of the contemporary technologies that reinforce these systems. Developed since 2016, the Machine Vision works consist of photographs, videos, and installations that dissect the invisible systems of computer vision—the visual field of artificial intelligence—and critically visualize the images produced by these systems. This study critically analyzes the relationship between computer vision and images, and investigates how Paglen visualizes this relationship through his Machine Visions works.
Prior to analyzing Machine Visions works, this study examines Paglen's early and mid-career works that visualize the physical and technological objects that constitute regimes of secrecy and surveillance. Particular attention is paid to the technological critiques that emerge in these works. First, through an analysis of his landscape photography series, the paper examines the complex characteristics of the camera, which appears as a subject while simultaneously visualizing the invisibility of secrecy and surveillance systems. Next, the study examines the undersea cable series, focusing on how these works reveal the illusion that network technologies are immaterial. Finally, the study analyzes the Impossible Objects series, focusing on the possibility of alternative technologies distinct from those developed for state and corporate secrecy and surveillance systems. Through these analyses, the study demonstrates that Paglen's critical perspective on contemporary technology, articulated in relation to social, political, and historical contexts, was established from his early practice. In addition, invisibility is identified as a key concept that cuts across both his early works and the Machine Visions works, manifesting not only in regimes of secrecy and surveillance but also in the technologies that constitute their core.
The study then examines the mechanisms of computer vision and the resulting changes in the characteristics of images from three perspectives. First, drawing on the concept of the operational image articulated by filmmaker Harun Farocki (1944–2014), it analyzes the characteristics of images produced by automated machines and considers how Paglen reinterprets operational images through computer vision. This analysis reveals that as computer vision operates in an invisible domain, images themselves also become invisible. Second, the study analyzes the problems of image datasets used to train computer vision systems, focusing on the relationship between platform capitalism, a digital platform-centered economic system, and ImageNet, an early large-scale image database for datasets. It further examines the research and projects that Paglen conducted in collaboration with AI researcher Kate Crawford (1974-) to critique ImageNet. Third, this study examines the image generation models of generative AI, which have developed in earnest around 2014, and the problems with the images they generate. Specifically, the study examines the mechanisms of generative AI, which differ from those of previous technological media, and critically analyzes the characteristics of images transformed by these processes.
On the basis of this theoretical framework, the study examines how Paglen visualizes the invisible mechanisms of computer vision and the problems with images transformed by these processes in his Machine Visions works. The study closely analyzes the Machine Visions works by dividing them into three categories: works that visualize the mechanisms of facial recognition technologies; works that dissect the system of datasets and the images that constitute their components; and works that critically visualize the mechanisms and images of generative AI. In conclusion, the study demonstrates that the Machine Visions works critically visualize not only the invisible mechanisms of computer vision, but also the social and political contexts embedded in the images that the system learns from and generates.
This study’s primary contribution lies in providing a comprehensive analysis of Paglen’s Machine Visions works, which have gained attention amid the growing discourse on artificial intelligence but have so far been addressed only fragmentarily. In addition, the study makes a secondary contribution by offering a timely discussion of computer vision as an emerging technological medium and the changing characteristics of images it produces.

국문 초록 (Abstract)

이 논문은 미국과 독일을 기반으로 활동하는 시각 예술가 트레버 페글렌(Trevor Paglen, 1974-)의 머신 비전(Machine Visions) 작업을 분석한다. 2006년부터 시각 예술 작업을 발표하기 시작한 페글렌은 기밀과 감시 체제와 그 체제를 강화하는 동시대 기술의 비가시성에 천착해 왔다. 2016년부터 발표된 머신 비전 작업은, 인공지능(Artificial Intelligence)의 시각 분야인 컴퓨터 비전(Computer Vision)의 비가시적인 시스템을 해부하고 그 이미지를 비판적으로 가시화하는 사진과 영상, 설치 작업들로 구성된다. 이 논문은 컴퓨터 비전과 이미지의 관계를 비판적으로 분석하고, 페글렌이 이를 머신 비전 작업에서 가시화하는 양상을 고찰한다.
머신 비전 작업을 분석하기에 앞서, 기밀과 감시 체제를 구성하는 물리적·기술적 대상을 가시화하는 초·중기 작업을 분석한다. 특히 초·중기 작업에서 나타나는 기술 비판의 측면에 주목한다. 먼저 풍경 사진 연작에서, 기밀과 감시 체제의 비가시성을 시각화하는 동시에 피사체로 등장하는 카메라의 복합적 특성을 분석한다. 이어서 해저 케이블 연작에서는 비물질적이라고 여겨지는 네트워크 기술의 환상이 드러나는 방식을 살펴본다. 마지막으로는 국가와 기업의 기밀과 감시 체제를 위한 기술과는 다른 대안적 기술의 가능성을 모색하는 '불가능한 오브제(impossible obejcts)' 연작을 분석한다. 이를 통해 페글렌이 동시대 기술을 사회와 정치, 역사와 연관해 비판적으로 보는 관점이 초기부터 형성되었다는 점을 파악한다. 또한, 비가시성을 초·중기 작업과 머신 비전 작업을 관통하는 개념으로 보고, 비가시성이 기밀과 감시 체제뿐만 아니라 그 체제의 핵심 요소인 기술에도 나타난다고 본다.
다음으로, 컴퓨터 비전의 작동 방식과 그로 인해 변화하는 이미지의 특성을 세 가지로 나누어 살펴본다. 첫째, 영화감독 하룬 파로키(Harun Farocki, 1944-2014)가 명명한 개념인 가동적 이미지(operational image)를 중심으로 자동화된 기계가 만들어내는 이미지의 특성을 분석하고, 가동적 이미지를 페글렌이 컴퓨터 비전을 기반으로 어떻게 재해석하는지를 살펴본다. 이를 통해 컴퓨터 비전이 비가시적인 영역에서 작동하면서 이미지 또한 비가시화된다는 점을 밝힌다. 둘째, 컴퓨터 비전이 학습하는 이미지인 데이터 세트(data set)의 문제점을 디지털 플랫폼 중심의 경제 체제인 플랫폼 자본주의(Platform Capitalism)와 데이터 세트의 초기 대규모 데이터베이스(database)인 이미지넷(ImageNet)의 관계를 중심으로 분석한다. 그리고 이미지넷을 비판하기 위해 페글렌이 인공지능 연구자 케이트 크로퍼드(Kate Crawford, 1974-)와 함께 진행한 연구와 프로젝트를 살펴본다. 셋째, 2014년부터 본격적으로 발전하기 시작한 생성형 인공지능(Generative AI)의 이미지 생성 모델과 그것이 생성하는 이미지의 문제점을 파악한다. 구체적으로, 기존의 기술 매체와는 다른 생성형 인공지능의 작동 방식을 살펴보고, 그로 인해 변화하는 이미지의 특성을 비판적으로 분석한다.
이러한 이론적 틀을 토대로, 페글렌이 머신 비전 작업에서 컴퓨터 비전의 비가시적인 작동 방식과 그로 인해 변화하는 이미지의 문제를 어떻게 가시화하는지를 분석한다. 머신 비전 작업들을, 얼굴 인식 기술의 작동 방식을 시각화하는 작업과 데이터 세트의 체계와 구성 요소인 이미지를 해부하는 작업, 생성형 인공지능의 작동 방식과 이미지를 비판적으로 가시화하는 작업이라는 세 가지 유형으로 나누어 면밀하게 분석한다. 결론적으로 머신 비전 작업이 컴퓨터 비전의 비가시적인 시스템뿐만 아니라, 그것이 학습하고 생성하는 이미지에 내재한 사회적·정치적 맥락을 비판적으로 가시화한다는 점을 밝힌다.
이 논문은 인공지능에 관한 논의가 활성화되면서 주목받고 있으나 파편적으로 다루어져 온 페글렌의 머신 비전 작업을 종합적으로 분석하는 데 일차적 의의를 둔다. 더불어, 새로운 기술 매체로 대두하고 있는 컴퓨터 비전과 그로 인해 변화하는 이미지의 특성을 시의적으로 논하는 데 이차적 의의를 둔다.

목차 (Table of Contents)

• Ⅰ. 서론 1
• 1. 연구 배경과 목적 1
• 2. 선행 연구 5
• 3. 논문의 구성 10
• Ⅱ. 트레버 페글렌의 초·중기 작업 분석 12
• 1. 기밀과 감시의 비가시성을 매개하는 카메라 16
• 2. 네트워크 기술의 물질성 가시화 25
• 3. 대안적 기술의 가능성을 모색하는 '불가능한 오브제' 31
• Ⅲ. 컴퓨터 비전의 비가시적 작동 방식과 이미지의 특성 38
• 1. 시각의 자동화와 가동적 이미지 40
• 2. 플랫폼 자본주의와 데이터 세트 46
• 3. 생성형 인공지능의 이미지 생성 문제 55
• Ⅳ. 트레버 페글렌의 머신 비전 작업 분석 62
• 1. 얼굴 인식 기술의 작동 방식 시각화 62
• 2. 데이터 세트의 이미지 해부 69
• 3. 환각적 이미지 생성 74
• Ⅴ. 결론 84
• 도판 87
• 참고문헌 117
• Abstract 130