인공지능 산업발전을 위한 규제혁신방안 연구

국문 초록 (Abstract)

1. 연구 배경 및 목적 □(연구의 배경) AI 시장의 급속한 성장과 AI기술이 국가 안보와 기술 패권의 핵심 기술로 등장하면서 역기능에 대한 우려도 증가하고 있음 ○제조, 금융, 보건의료, 교육, 교통, 정부 행정 등 광범위한 분야에서 인공지능 기술을 기반으로 한 제품과 서비스가 적용되면서 AI시장의 규모는 급속하게 성장중 ○AI 기술의 산업 전반의 영향력이 확대되고, 국가 안보와 기술 패권의 핵심 기술로 간주되면서, 우리나라를 비롯한 주요국은 정부 차원의 AI 산업 정책을 강화하고 있음 ○AI 기술의 영향력이 확대될수록 긍정적 효과뿐만 아니라 다양한 역기능에 대한 우려도 제기되고 있으며, AI 위험에 대응하기 위한 규제에 대한 논의가 주요 이슈로 등장 ○2024년 EU의 인공지능법(AI Act) 도입에 이어 우리나라도 2025년 1월 인공지능기본법 제정 □(연구의 필요성) 인공지능 기술?산업혁신을 통한 ‘AI 3대 강국’이라는 목표를 달성하기 위해서는 인공지능 분야 산업정책과 조화를 이룰 수 있는 규제합리화 방안에 대한 종합적인 연구 필요 □(연구의 목적) 인공지능 혁신을 저해하지 않으면서 동시에 AI 안전?신뢰성을 확보할 수 있는 인공지능 규제합리화 방안을 제안하는 것을 목적으로 함 ○첫 번째 목적은 AI 산업활성화를 지원할 수 있도록 기업활동단계별 규제혁신 및 제도개선이 필요한 내용을 진단하고, 개선방안을 제안하는 것 ○두 번째 목적은 신뢰할 수 있는 AI환경 조성을 위해 위험분석에 기반한 합리적 규제혁신방안을 제안하는 것임 □(연구의 방법) 연구목적의 달성을 위해 문헌연구와 기업 설문조사, 기업 델파이조사 등 실증적 연구 방법을 동시에 활용 ○문헌 연구 -인공지능의 개념, 특징, 핵심기술 및 산업의 영향에 대한 분석 -국내외 인공지능 시장?정책?입법 동향과 규제쟁점 분석 ○실증 연구 -설문조사: 인공지능 기업을 대상으로 인프라?데이터?인력?연구개발?투자?국내시장?수출 등 7개 밸류체인별 애로사항 및 규제?제도 개선방안에 대한 설문조사 -인공지능 위험유형별 위험분석: 고영향인공지능 분야에 속하는 14개 인공지능시스템에 대한 위험유형별 위험수준 평가 -전문가 및 이해관계자 심층인터뷰 : 기업 설문조사 및 위험분석 결과를 보완할 수 있도록 AI 밸류체인별 애로사항, 인공지능 위험수준에 영향을 미치는 요인 등에 대한 추가 조사 2. 주요 연구 결과 □(실태분석 결과) ○인공지능 입법동향 -미국은 연방법, 행정명령, 기관 가이드라인, 주법 등 분산적 규제 구조를 지니며, 국가 AI 이니셔티브법(2020), AI 리더십 행정명령 등 운영 -중국은 데이터?알고리즘 보안법과 AI 특화 규제의 중앙집중형 모델을 갖추고 있으며 3대 기본법(데이터보안법, 개인정보보호법, 사이버보안법) 및 CAC(중국인터넷정보판공실) 주도 AI 특화 규제 구조 -유럽연합은 세계 최초의 포괄적 AI법을 도입하고, 위험수준에 따라 차등적 규제 원칙 제시 -우리나라는 EU에 이어 세계에서 두 번째로 인공지능기본법 제정, 위험분석에 기반한 차등적 규제원칙 제시 ○인공지능 규제쟁점 -인공지능 혁신을 위해서는 기존의 규제체계가 아닌 새로운 규제틀이 필요하며 산업을 위축시키지 않는 규제체계에 대한 논의 다수, 산업발전을 위해 규제가 불필요함에 대한 논의는 거의 없음 -인공지능 위험예방?방지를 위한 규제의 필요성은 인정되나, 법과 제도로만 인공지능 역기능 문제를 해결하는 것은 쉽지 않으며, 자율규제 도입에 대한 논의가 다수 이루어짐 -인공지능 위험?부작용의 유형과 사례에 대한 연구를 통해 적절한 규제방안의 필요성을 강조하는 논의도 다수 -인공지능 규제의 필요성에는 대부분 공감하고 있으며, 규제의 방식은 자율규제 또는 유연한 규제체계에 대한 논의가 다수를 차지함 □(설문조사 결과) 인공지능 산업 전반의 애로사항과 7개의 기업활동단계별 구체적인 애로사항을 조사하고, 기업규모?성장단계?사업분야에 따른 핵심적인 규제문제 도출 ○전국 인공지능 기업체 401개를 대상으로 우리나라 인공지능 산업 전반에 대한 문제점과 기업활동의 7개 주요 영역(인프라, 데이터, 인력, 연구개발, 투자 유치, 국내시장, 수출)별 애로사항을 조사 ○인공지능 산업 전반의 애로사항 -인공지능 산업 전반에 종사하는 기업들은 인력, 연구개발 및 투자 유치의 어려움이 가장 크다고 응답하였으며, 그 외 4개 영역(인프라, 데이터, 국내시장 및 수출)도 마찬가지로 다소 어려움이 있는 것으로 확인 -중견기업 및 대기업들은 데이터, 인력 및 연구개발 관련 애로사항이 그 외 영역들에 비해 상대적으로 더 많은 반면, 스타트업 및 중소기업들은 7개 영역마다 애로사항 수준이 비슷하게 높은 것으로 인식 ○주요 영역별 애로사항 -인프라: 높은 데이터센터 관리?임대 비용(4.39점), GPU 등 확보의 어려움(4.37점), 그리고 높은 전력 비용(3.86점) 순으로 어려움 체감 -데이터: 활용 가능한 고품질 데이터 확보의 어려움(4.64점), 데이터 규제의 중복성?복잡성(4.41점) 등 데이터 영역의 모든 세부 항목과 관련된 어려움이 있는 편 -인력: 인공지능 전문인력 부족(4.77점)과 정부의 인력지원 부족(4.26점)이 이 가장 큰 어려움으로 지목 -연구개발: AI 인프라 부족(4.63점)과 각종 정부 지원 부족(4.65점)으로 인한 어려움이 가장 크다고 인식 -투자: 단기성과를 중시하는 투자환경(4.67점), 벤처캐피탈/엔젤투자 부족(4.37점), 은행 등 일반 금융 서비스 부족(4.37점) 및 정부?공공부문의 기업투자 제한(4.26점) 순으로 어려움이 있는 것으로 확인 -국내시장: 정부의 구매지원 부족(4.42점), 인공지능 기술?제품?서비스의 수요처 부족(4.41점), 인공지능 산업에 대한 정부의 이해부족(4.40점) 및 인공지능 기술?제품?서비스의 수요처 과잉 기대(4.36점) 순으로 애로사항이 많음 -수출: 해외 시장에 대한 정보?네트워크 부족(4.44점)과 국제기준과 국내규제 간 불일치(4.19점)로 인한 어려움이 가장 크다고 생각 ○기업 특성별 애로사항 -주요 사업 분야별: AI 적용 제조업 및 서비스업 기업들은 7개 영역에 걸쳐서 상대적으로 많은 어려움을 토로하고, AI 구축?관리 및 관련 서비스 기업들은 데이터센터 등 건설 및 전력 관련 어려움을 경험하고, S/W 개발 및 공급 관련 기업들을 연구개발 및 시장 출시에 관한 애로사항이 많이 확인되는 등 사업 분야별 어려움의 차이 존재 -매출 규모별: 대기업과 중견기업은 상대적으로 데이터 및 인력 관련 어려움이 많은 반면, 중소기업이나 스타트업은 거의 모든 영역에 대하여 상대적으로 많은 어려움을 경험하는 등 기업 규모(매출 규모)에 따른 차이 확인 ○정부 지원 제도 평가 -모든 유형의 정부 지원에 대한 필요성 인식: 기업은 정부의 자금지원, 금용지원 및 세제 지원 등 경제적 지원에 대한 필요성이 가장 높지만, 그 외 정부 지원 유형에 대해서도 필요성이 높게 나타나는 등 모든 유형의 정부 지원에 대한 기업의 수요와 기대가 높은 편 -양질의 경제적 지원 강화 필요: 정부 지원에 대한 개선 방안 중에서는 지원금의 적정화와 지원 유형 및 내용 다양화가 가장 필요한 것으로 나타남 -민간이 주도하고 정부가 지원하는 관계 지향: 제도 개선방안 중 인공지능 기업에 대한 지원 확대 및 기업주도 인공지능산업 활성화 추진 방안에 가장 많이 동의(AI 산업 컨트롤타워로서 AI를 전담하는 중앙부처 설립, AI기본법의 적용 유예, 그리고 인공지능 규제샌드박스 도입에 대해서는 약간 동의) □(위험평가 결과) 인공지능기본법에서 제시하는 고영향인공지능분야에서 개발중이거나 사용중인 인공지능시스템 14개를 선택하여, 인공지능전문가(33인)와 규제전문가(12인)에 의해 위험수준에 대한 평가 실시 ○인공지능 활용사례별 위험수준 -에너지 공급설비와 먹는물 생산공정 관련 5개 활용 사례에서 유사한 분포?패턴이 확인되었는데, 위험 발생 가능성은 대체로 3점 이하로 낮게 나타났으며 영향도는 크게 높거나 낮은 유형이 없이 대체로 약간 높거나 낮은 수준에 골고루 분포함 -보건의료 분야의 4개 활용 사례의 경우 밀집해서 분포되어 있는 편이며 기능 오작동 및 오류 발생 위험(유형1), 학습데이터 편향과 차별 위험(유형3), 학습데이터 추적성 부족에 따른 위험(유형4), 불투명한 AI로 인한 발생 위험(유형5)의 가능성 및 영향도가 비슷하게 높게 나타난 반면 AI에 대한 통제력 상실 위험(유형6)은 가능성과 영향도 모두 가장 낮은 것으로 나타남 -교통체계 분야의 사례들은 위험의 영향도가 가장 높은 것으로 나타남 -채용 대출심사와 초중등교육 학생평가 사례들은 위험 발생 가능성이 골고루 분포되어 있는 것으로 나타남 ○인공지능 위험유형별 위험수준 -위험분석결과 위험유형별 위험수준이 유사하게 높게 나타나는 인공지능 시스템과 위험수준이 비교적 낮게 나타나는 시스템으로 분류되었음 -첫째, 기능 오작동 및 오류 발생 위험(유형1), 적대적 공격 위험(유형2), 및 AI에 대한 통제력 상실 위험(유형6) 등 3개 위험유형의 위험수준이 높게 나타나는 시스템으로는 인공지능을 접목한 지능형 교통체계(사례10), 인공지능 기술을 활용한 에너지 생산설비 전 공정(사례2), 인공지능 기술을 활용한 먹는물 생산공정 운영(사례5), 인공지능 기술을 접목한 항만물류 제공 서비스(사례11), 인공지능 기반 항공기 검사시스템(사례12) 등으로 주로 생산공정 운영 및 교통체계 분야의 사례들에 대해 위험 발생 가능성 및 영향도가 큰 것으로 평가 -반면, 보건의료(사례6, 7, 9), 채용?대출심사(사례13), 초중등교육 학생평가(사례14) 등과 같은 사례의 경우 기능 오작동 및 오류 발생 위험(유형1), 적대적 공격 위험(유형2), 및 AI에 대한 통제력 상실 위험(유형6)의 가능성 및 영향도가 가장 낮은 것으로 나타남 -둘째, 학습데이터 편향과 차별 위험(유형3), 학습데이터 추적성 부족에 따른 위험(유형4) 및 불투명한 AI로 인한 발생 위험(유형5) 등 3개 위험유형에 대하여 위험수준이 높은 것으로 나타난 시스템은 보건의료(사례6, 8, 9), 채용?대출심사(사례13), 초중등교육 학생평가(사례14) 등에서 발생가능성 및 영향도가 가장 높은 것으로 나타났음 -반면에 에너지공급설비(사례1, 3), 먹는물의 생산공정(사례4, 5) 및 교통체계(사례11) 분야의 사례들은 학습데이터 편향과 차별 위험(유형3), 학습데이터 추적성 부족에 따른 위험(유형4) 및 불투명한 AI로 인한 발생 위험(유형5)의 가능성 및 영향도가 가장 낮은 것으로 나타남 3. 정책제언 및 법령 개정사항 □(인공지능 규제혁신방안) 인공지능 산업활성화를 촉진하기 위해서는 인공지능 기업의 활동영역단계별로 직면하고 있는 애로사항을 검토하고, 이러한 애로사항을 기업규모?주력사업분야별로 구분하여 맞춤형 규제혁신전략 제안 ○규제애로사항 설문조사에서 영역별 개별 항목 총 35개를 선정하여 조사하였는데, 이중에서 애로사항이 제일 많은 항목(4.5점 이상)은 5개, 애로사항이 있는 항목(4~4.5점 미만)은 20개, 그리고 애로사항이 약간 있는 항목(3.5~4점 미만)은 7개로 확인 ○애로사항이 없는 항목(3.5점 미만)도 3개 확인되었으나 인공지능 산업 내 특정 사업 분야 기업들의 애로사항이 큰 것으로 나타나 이에 대한 정책적 대응 또한 필요하다는 점을 확인 ○인프라 규제개선방안 -국내 인공지능 산업의 기업들은 높은 데이터센터 관리?임대 비용, GPU 확보 어려움, 높은 전력 비용 등 다층적 인프라 장벽에 직면하고 있음 -이러한 어려움 해소를 위해서는 다소 장기적 전략이 필요하며, 전력 공급망 확보를 위한 투자와 제도개선, 데이터센터 확대방안 및 수도권 외 분산전략 마련 필요 ○데이터 규제개선방안 -국내 인공지능 산업의 기업들은 활용 가능한 고품질 데이터 확보의 어려움, 데이터 규제의 중복성?복잡성, 데이터 거래 미활성화, 데이터 수집?관리?활용을 제한하는 규제 등 각종 데이터 관련 어려움을 경험 -인공지능 기업들은 매출 규모와 무관하게 고품질 데이터 확보의 어려움과 데이터 규제의 중복성?복잡성으로 인한 어려움 경험 -AI 학습에 사용할 수 있는 고품질 데이터 확보, 데이터규제 관련 관련법령의 통일성 확보, 데이터 거래 인프라 확립, 데이터 수집?관리?활용에 대한 개인정보규제 완화 필요 ○인력분야 규제개선방안 -국내 인공지능 산업의 기업들은 인공지능 전문인력 부족, 정부의 인력지원 부족, 해외 인력 유치 어려움, 획일적인 인사관리 규제 등 각종 인력 관련 어려움 경험 -특히 AI 적용 제조업 및 서비스업 기업들이 전문인력 부족에 대한 애로사항 수준이 높게 나타남 -현장 수요에 기반한 인력양성체계 마련, 중소기업의 해외 인재 채용 및 정부 지원 개선, 획일적인 인사규제도 개선 ○연구개발 규제개선방안 -각종 정부 지원 부족, AI 인프라 부족, 국내 산학연 협력 및 기술이전?상용화 부족, 연구개발?상용화를 제한하는 규제 문제, 지식재산권 보호 미흡 등 각종 연구개발 관련 어려움 경험 -AI 연산?처리 부품/장치 제조를 제외한 나머지 4개 사업 분야에서는 공통적으로 연구개발 관련 각종 정부 지원 및 AI 인프라 부족 지적 -승자독식 게임인 AI 반도체 분야를 고려하여 대표 기업 육성을 위한 집중 지원 방안 마련, 국내 산학연 협력 및 기술이전?상용화 촉진방안, 지식재산권 보호 방안 등 개선 필요 ○투자 규제개선방안 -국내 인공지능 산업의 기업들은 단기성과를 중시하는 투자환경, 벤처캐피탈/엔젤투자 부족, 은행 등 일반 금융 서비스 부족, 정부?공공부문의 기업투자 제한, 자유로운 투자를 제한하는 금융규제 등을 어려움으로 지적함 -특히 매출 규모가 10억 미만인 스타트업과 중소기업은 투자 유치에 많은 어려움 호소함 -단기 성과 중심의 투자환경을 개선하여 장기적?안정적 투자환경 조성, 금산분리 원칙?벤처캐피털의 상장사 투자 제한 등 제도개선을 통해 인공지능 스타트업의 성장을 위한 안정적 투자환경 조성 필요 ○국내시장 관련 규제개선방안 -국내시장 관련 가장 큰 애로사항은 AI 산업에 대한 정부의 이해부족을 지적하였고, 매출 규모가 1억 미만인 기업의 경우 다른 기업들에 비해 AI 산업에 대한 정부의 이해부족과 AI 제품?서비스 출시를 제한하는 규제로 인한 애로사항 지적 -정부의 공공조달을 통한 AI 기업 지원 활성화 필요 ○수출 관련 규제개선방안 -해외 시장에 대한 정보?네트워크 부족으로 인한 애로사항을 가장 큰 어려움으로 지적 -AI 구축?관리 및 관련 서비스 기업들과 AI 적용 제조업 및 서비스업 기업들은 국제기준과 국내규제 불일치 및 복잡하고 어려운 수출 절차로 인한 어려움이 크다고 응답한 반면, AI 연산?처리 부품/장치 제조 기업들은 제품?서비스를 내수용으로 계획?개발하였기에 해외 시장에 맞지 않고 수출이 어렵다는 점을 지적 -정부차원의 해외 시장에 대한 정보?네트워크 제공 확대, 국제기준과 국내규제의 일관성?통일성 확보, 복잡하고 어려운 수출 절차 간소화 필요 □(위험기반 규제혁신방안) 인공지능기본법에서 제시하는 위험수준에 따른 차등적 규제를 통해 산업활성화와 AI 안전을 동시에 확보할 수 있도록 위험기반 규제원칙 확립, 인공지능 위험수준 평가기준 마련 , 위험기반 규제설계의 절차와 방법을 제안함 ○위험수준에 따른 차등규제의 원칙 확립 -인공지능기본법은 고영향 인공지능을 대상으로 사업자의 책무 등 규제를 제시하고 있으나, 고위험 인공지능과 저위험 인공지능에 대한 규제전략을 명확하게 제시하지 못함. -‘최소한의 규제’라는 점을 강조하지만, ‘최소한의 규제’가 ‘합리적 규제’를 의미하는 것은 아니며, 인공지능과 같이 위험요인이 높은 기술은 위험분석에 기반한 ‘합리적 규제’의 원칙이 필요 -특히 인공지능 기술이 발전할수록 예기치 못한 부작용이 확산되고 있어, 자칫 AI산업 활성화의 걸림돌이 될 수 있으므로, 안전한 AI 환경조성을 위한 위험기반 규제원칙을 확립할 필요가 있음 -이에 위험분석을 통해 ‘고위험’ 인공지능에 대해서는 위험을 예방할 수 있는 합리적 수준의 규제방안 마련하고, ‘저위험’ 인공지능에 대해서는 정부에 의한 관리?감독을 전제하는 규제보다는 ‘시장 모니터링’에 기반한 위험관리체계 구축 등 인공지능 규제의 원칙 확립 ○인공지능 위험수준 평가를 위한 기준 마련 -(개별화된 인공지능 위험평가 설계) 제5장 인공지능 위험분석 결과, 동일한 분야에서도 인공지능시스템의 유형에 따라 위험수준이 차등적으로 평가되었고, 동일한 인공지능시스템일지라도 위험유형에 따라서도 위험수준이 차등적으로 평가되었음 ?전문가 심층인터뷰 결과 에너지, 보건의료, 교통분야 등 적용분야별로 주요 위험유형이 다르게 나타났으나, 실제로 인공지능시스템의 특성에 따라 위험유형은 달라질 수 있음 -이에 따라 적용분야별 위험분석이 아닌, 개별 시스템의 특성?유형?사용환경 등을 고려하여 유사성을 기준으로 위험분석을 위한 시스템의 그룹핑을 통해 위험분석대상을 분류하는 기준 마련 필요 -(위험유형별 위험평가 및 대안 마련) ‘위험’기반 규제를 설계하기 위해서는 ‘위험’의 개념과 유형을 명확히 하는 것이 필요하며, 위험유형별로 해당 위험을 낮추기 위한 규제대안을 마련할 필요가 있음 ?위험분석결과에 따르면 동일한 시스템에 대한 평가에서도 위험유형별로 위험수준은 다르게 평가되었음 ?인공지능 위험수준은 위험유형에 따라 달라질 수 있으며, 위험수준을 낮추기 위한 전략도 위험유형에 맞추어 달라져야 함 ?데이터 편향위험을 낮추기 위한 규제전략과 기능오작동 위험을 낮추기 위한 규제전략이 동일할 수는 없기 때문임 ○인공지능 위험기반 규제의 절차와 내용 -(위험평가 대상 그룹핑) 안전한 AI를 위한 규제대상으로서 인공지능시스템은 너무 광범위하기 때문에 모든 인공지능시스템에 공통적으로 적용가능한 위험평가는 현실적으로 불가능함. -동일한 인공지능 모델을 중심으로 인공지능 시스템의 적용 분야, 사용환경, 기타 위험수준에 영향을 미치는 요인 등을 고려하여 인공지능 시스템을 유사성을 기준으로 그룹핑 할 수 있는 기준 마련 필요 -(위험유형 확인?분석) 각 시스템의 위험유형을 분석?확인하는 단계 ?인공지능시스템의 특징별로 위험유형?위험수준이 차등적이므로, 1단계 위험평가대상 그룹핑에 따라 위험 유사성을 지닌 인공지능시스템별로 위험유형 확인?분류, 위험평가를 위한 사전분석 -(유형별 위험평가 수행) 개별 인공지능시스템에 대한 위험평가 수행 -(위험유형별 가이드라인 작성 및 위험관리체계 구축) 위험유형별로 위험수준을 낮추기 위한 규제전략과 관련한 가이드라인을 작성 ?데이터 편향성을 줄이기 위한 가이드라인, 적대적 공격을 줄이기 위한 가이드라인, 데이터 불투명성 위험을 줄이기 위한 가이드라인 등 위험유형별 가이드라인을 작성?배포함으로써 기업의 불확실성 해소 필요 ?위험평가결과 고위험인공지능에 대한 규제전략, 저위험인공지능에 대해서는 모니터링을 통해 위험수준 관리전략 □(인공지능 규제거버넌스 개선방안) 인공지능 규제거버넌스 개선을 위하여 인공지능 규제합리화 총괄기능 강화, 규제샌드박스내에 AI 특화 트랙 마련, 인공지능 위험기반 규제를 위한 자율규제 시범적용 등을 제안하고자 함 ○인공지능 규제합리화 총괄기능 강화 - 우리나라의 규제혁신 추진체계는 각 중앙행정기관이 소관하는 규제에 대한 1차적인 책임체계, 2차 총괄 조정역할은 국무조정실 규제조정실?규제개혁위원회 수행 - (국무조정실의 권한 확대?강화) 인공지능의 활용이 전 산업분야로 빠르게 확장 될 것을 고려한다면, 보건의료, 신약, 환경, 건설, 해양수산, 교통분야등 각 분야에서 개발?활용되는 인공지능 대하여 인공지능기본법 만으로 관리하기 역부족 ?각 분야에서 인공지능 관련 규제법령이 증가할 것으로 예상. 규제정책의 총괄조정역할을 수행하는 국무조정실의 권한을 확대하고 인력?조직의 확대를 통해 인공지능 규제총괄의 실효성 확보 필요 - (국가인공지능전략위원회를 통한 인공지능 규제혁신 점검) 국가인공지능전략위원회에 ‘규제합리화(가칭)’ 분과를 신설하고, 해당 분과에서 인공지능 규제개혁 전반에 대한 내용을 주기적으로 점검 ?국가인공지능전략위원회의 ‘규제합리화(가칭)’ 분과의 설치는 특정분야에 대한 규제혁신체계가 아닌 가외성 원칙의 관점에서 접근하는 것이 효과적 - 국무조정실?규제개혁위원회를 중심으로 기존 규제 혁신체계는 유지하되, 인공지능 관련 주요 규제혁신과제에 대하여 국가인공지능전략위원회에서 검토하는 기능을 추가할 필요 ?인공지능 계획을 총괄하는 국가인공지능전략위원회에서 인공지능 규제합리화를 점검하는 경우 국가 전체적인 관점에서 인공지능 산업정책과 규제정책간의 연계를 꾀할 수 있다는 장점 ○규제샌드박스내에 AI특화 트랙 마련 - 인공지능 규제의 신속?유연한 개선을 위해 규제샌드박스 적극 활용 필요 - 규제샌드박스의 제도적 한계로 심의?승인 지연 등을 최소화하기 위해 AI 특화 트랙 신설하여, AI 관련 과제를 묶어 심사?전담 ?AI관련 과제에 대한 심사시에는 AI 관련 전문가의 참여를 통해 실증과정에서의 위험검증방법, 안전성 확보방법, 위험의 확대를 방지할 수 있는 실증특례의 범위와 적용방안 등을 검토함으로써, 전문성에 근거한 인공지능 시범사업 보장 필요 ○인공지능 위험기반 규제를 위한 자율규제 시범적용 - 규제샌드박스 및 인공지능 규제합리화의 주요 내용은 대부분 ‘무엇’을 개선할 것인가에 집중 - 이제는 규제합리화 과정에서 ‘무엇’을 개선할 것인가 보다 ‘어떻게’개선할 것인가에 집중할 필요가 있음 ?그동안의 규제혁신과정에서는 개선의 대상만을 집중적으로 찾았을뿐 ‘어떻게’ 개선할 것인가에 대한 논의가 매우 부족했음 - 고영향인공지능에 대한 차등적 규제를 위해서는 개별 인공지능시스템에 대한 위험평가가 필요하며, 전 산업분야에서 활용되는 광범위한 규모의 인공지능 시스템에 대하여 정부가 위험분석을 실시하고, 고영향 인공지능을 구분하여 제시하는 방식으로는 대응하기 어려움 - 정부는 고영향인공지능 규제방향을 설정하고, 위험분석을 위한 일반적인 절차와 평가방법 등에 대한 가이드라인을 제시하는 역할을 수행, 실제 위험평가에 기반한 각각의 인공지능시스템의 위험관리 체계는 자율규제기구를 통해 운영하는 ‘협력적 자율규제’ 필요 ?기업중심의 자율규제기구에서 만드는 규제방안이 문제를 초래하는 경우, 규제방안을 신속하게 개선 가능 ?자율규제기구를 통한 규제를 준수하지 않는 기업에 대해서는 시장내부에서 자율적 제재 마련 ?자율적 제재만으로 해결하기 어려운 경우 최종적으로는 정부규제를 통해 처벌이 가능하도록 구성

목차 (Table of Contents)

• 제1장 서론 제1절 연구의 배경과 목적 1. 연구의 배경 2. 연구의 목적 제2절 연구의 범위와 방법 1. 연구의 범위 2. 연구의 방법 제2장 인공지능과 규제 제1절 인공지능 개념과 특징 1. 주요 인공지능 개념의 정의 및 특성 2. 경제 패러다임의 발전: 인터넷에서 인공지능까지 3. 인공지능 기반 경제의 근본적 차이 및 특징 제2절 인공지능 기술 및 산업의 영향 1. 인공지능 기술이 경제, 사회, 정치, 거버넌스 체계에 미치는 영향 2. 인공지능 기술이 과학, 기업활동 및 산업 발전에 미치는 영향 제3절 인공지능과 규제혁신 1. 인공지능 규제혁신의 개념과 범위 2. 인공지능특성을 고려한 유연한 규제혁신방안 제4절 연구의 분석틀 제3장 인공지능 시장 및 정책동향 제1절 인공지능 시장동향 1. 개요 2. 미국의 인공지능 시장동향 3. 중국의 인공지능 시장동향 4. 유럽연합의 인공지능 시장동향 5. 대한민국의 인공지능 시장동향 제2절 인공지능 정책 및 입법 동향 1. 개요 2. 미국의 인공지능 정책 및 입법 동향 3. 중국의 인공지능 정책 및 입법 동향 4. 유럽연합의 인공지능 정책 및 입법 동향 5. 대한민국의 인공지능 정책 및 입법 동향 제3절 인공지능 규제쟁점 1. 인공지능 기사 분석 2. 인공지능 선행연구 검토 3. 인공지능 규제쟁점 제4장 인공지능 규제애로사항 설문조사 제1절 설문조사 개요 1. 조사 목적 및 대상 2. 설문조사의 주요 내용 제2절 설문조사 결과 1. 조사기업 일반현황 2. 인공지능 산업 및 개별 기업의 애로사항 3. 영역별 애로사항 4. 인공지능산업 활성화를 위한 제도 개선방안 제3절 소결 1. 종합적인 인공지능 산업 애로사항 평가 2. 주요 영역별 애로사항 평가 3. 정부 지원 제도 평가 제5장 인공지능 위험분석 제1절 인공지능 안전 및 위험 1. 인공지능 위험 개요 2. 인공지능 위험 유형 3. ‘고영향 인공지능’의 개념과 범위 제2절 AI위험 분석 개요 1. 위험분석을 위한 전문가 설문조사 개요 2. 위험분석 대상의 선정 3. AI 위험유형 4. 위험분석 방법 제3절 AI위험 분석 결과 1. 인공지능 활용 사례별 위험 수준 2. 인공지능 위험 유형별 위험수준 분석 제4절 인공지능 위험수준 영향요인 1. 위험수준에 영향을 미치는 요인 2. 고위험 및 저위험 인공지능시스템 사례분석 제5절 소결 제6장 정책적 시사점 제1절 인공지능 규제혁신방안 1. 기업규모?사업분야별 맞춤형 규제혁신전략 2. 기업활동단계별 애로사항 및 개선방안 3. 인공지능 산업 활성화를 위한 제도 개선방안 제2절 위험기반 규제혁신방안 1. 위험수준에 따른 차등규제 원칙 확립 2. 인공지능 위험수준 평가를 위한 기준 마련 3. 인공지능 위험기반 규제의 절차와 내용 제3절 인공지능 규제거버넌스 개선방안 1. 인공지능 규제혁신 총괄기능 강화 2. 규제샌드박스내에 AI 특화 트랙 마련 3. 인공지능 위험기반 규제를 위한 자율규제 시범적용 제7장 결론 참고문헌 국내문헌 국외문헌 언론보도자료 정부보도자료 부록 부록 1. 인공지능산업 규제애로사항 설문조사 부록 2. 위험분석 전문가 조사