인공지능 거버넌스에 대한 새로운 도전: 자율주행자동차와 알고리즘 거버넌스

국문 초록 (Abstract)

자율주행자동차 연구는 자동차 안전에 대한 세 가지 측면에 주목한다. 첫째 자율주행자동차에 의해 교통사고와 운전의 물질적 문화가 어떻게 변화되는 지 분석한다. 재래식 차량과 자율주행자동차는 차와 차간의 상호작용, 운전수와 차와의 상호작용, 차와 행인간의 상호작용이 달라진다. 이 연구는 재래식 자동차와 다른 자율주행자동차의 물질문화에 의해 교통사고의 위험이 어떻게 다르게 구성되는지 분석한다. 특히 이 연구는 자율 운전의 물질문화 형성에 있어 센서, 인공 지능 알고리즘, 자동차 경적과 같은 인공물의 역할을 분석한다. 나아가 이러한 물질문화의 변화가 교통사고의 배상책임제도에 어떤 영향을 주는지를 분석할 것이다.
둘째, 교통사고와 사이버 테러 간의 위험-위험 교환현상을 연구한다. 자율주행자동차는 교통사고 발생률을 크게 감소시키는 반면, 사이버 테러 및 개인 정보 침해에 보다 더 노출될 가능성이 높다. 이 연구는 자율주행차 전문가와 정책 전문가들이 사이버 테러와 교통사고 중 어디에 더 비중을 두고 있는 지 고찰한다. 그리고 그들이 교통사고와 사이버 테러를 해석하고 구성하는 데 있어 개념화하는 방식을 살펴본다. 마지막으로, 자율주행자동차에서 일어날 수 있는 사이버 테러의 위험을 차단하기 위한 법 및 제도를 분석한다.
셋째, 복잡한 기술시스템으로서 자율주행자동차가 안전관리에 미치는 영향과 이에 따른 문제점을 분석한다. 인공지능을 장착한 자율주행자동차는 많은 부품과 인공물들이 서로 상호 연계된 복잡한 기술시스템이며, 자동차 내외부의 복잡한 네트워크를 작동한다. 특히 자율주행자동차의 시스템적 복잡성은 인공지능이 가진 자율성과의 중첩적 작용을 통하여 보다 증가될 수 있다. 이러한 복잡시스템에서는 소위 시스템 사고 또는 “정상사고”가 발생할 수 있다. 이 연구는 자율주행자동차관련 시스템 사고의 가능성을 분석하고, 이러한 사고에 따른 자동차의 사전승인제도의 한계점을 분석한다.
알고리즘 거버넌스 연구는 항공사, 보험, 여행사 영업활동 그리고 정부 및 공공기관의 행정에 활용되는 알고리즘 거버넌스를 분석한다. 알고리즘 거버넌스에서 인간과 인공지능이 어떻게 상호작용하면서 네트워크를 구성하는 지를 분석하면서 인공지능의 행위력을 분석한다. 나아가 행위자연결망이론의 존재론적 정치 개념을 활용하여 알고리즘 거버넌스를 정책학적 관점에서 이중적인 주인-대리인관계로 분석한다. 여기서 1차적 주인-대리인관계는 관료주의체제처럼 관료인 주인과 대리인인 전문가간의 관계라면, 2차적 주인-대리인관계는 1차 대리인인 전문가와 2차 대리인인 인공지능간의 관계를 의미한다. 인공지능의 자율성이 증가하면 2차적 주인-대리인관계가 알고리즘 거버넌스에서 중요한 역할을 하게 되는 데, 이때 나타나는 새로운 사물의 정치를 분석할 것이다.
이 연구는 인터뷰, 참여관찰, 내용분석과 같은 질적연구방법을 통하여 수행할 것이다. 자율주행자동차 연구에서는 미국과 한국의 대학 및 기업에 종사하는 연구자와 정책전문가에 대한 인터뷰를 수행할 것이다. 특히 미국사례의 경우 네바다주와 캘리포니아 지역에서 최소 6개월 동안의 현장연구를 수행할 것이다. 둘째, 알고리즘 거버넌스 연구는 항공사, 보험사 등 기업의 영업활동 그리고 정부 및 공공기관 행정에 알고리즘을 활용하는 사례를 선정하여 업무를 담당하는 정책 책임자, 알고리즘 전문가, 정책대상자를 인터뷰할 예정이다.