인공지능책임법안

제안이유

인공지능은 오늘날 교통, 의료, 서비스 등 다양한 분야에 활용되면서 우리의 일상을 광범위하게 바꾸고 있으며 국가생존을 위한 최상위 정책과제로 부상하고 있음. EU, 미국, 중국 등 주요국에서는 인공지능을 통한 국가경쟁력 유지와 인공지능 산업의 주도권을 확보하기 위하여 과감한 투자와 법률적 기반 구축 등을 경쟁적으로 추진하고 있음.

인공지능 기술은 예상보다 짧은 시간에 거의 모든 산업에 적용되어 부가가치를 창출하고 있으며 세계인의 일상 깊숙이 침투하여 디지털 대전환의 시대를 이끌어 나가고 있음. 특히 2022년·12월 미국의 인공지능연구소에서 개발한 ‘챗GPT(Generative Pre-trained Transformer)’는 사용자가 대화창에 질문을 채팅하듯 텍스트로 입력하면 그에 맞춰 곧바로 답을 제공해주는 인공지능 서비스로, 공개된 지 5일 만에 이용자 100만명 돌파 기록을 세웠으며, 난이도 높은 학술논문, 에세이, 시, 보고서 등을 단숨에 써내고, 소프트웨어 프로그램 코딩까지 수행해내고 있음.

그러나 인공지능의 본질은 결정과 행위를 사전에 설계한 알고리즘에 따라 자동화하는 기술이므로 필연적으로 그 결정과 수행 과정에서 인간의 개입을 배제하게 됨. 이로 인해 인공지능의 편리함과 기술적 수준의 경이로움 너머로 개인정보의 침해, 알고리즘 왜곡으로 인한 차별 논란 등 이용자 피해 발생, 보안 문제 증대, 시스템 신뢰도 저하, 인공지능 윤리 문제 등 인공지능의 역기능적 측면에 대한 사회적 우려도 높아지고 있음. 기술은 궁극적으로 인류를 위한 것이어야 한다는 점에서 인공지능의 양면성에 대해 충분한 사회적 논의가 필요한 시점이며 데이터의 사용과 알고리즘 설계에 있어 선제적 윤리 대응이 필수적인 상황임.

이에 제정안은 인공지능 관련 법적ㆍ윤리적ㆍ제도적 관점에서의 사회적 논의를 포괄적으로 수렴하여 인공지능의 개발 및 이용에 관한 기본원칙을 정하고, 국가, 사업자의 책무와 이용자의 권리를 규정하며, 고위험인공지능으로부터 이용자를 보호하기 위한 시책과 분쟁 발생 시 조정절차 등을 규정함으로써 안전하고 신뢰할 수 있는 인공지능 기술·정책의 제도적 기반을 조성하려는 것임.

주요내용

가. 이 법은 안전하고 신뢰할 수 있는 인공지능 기술의 개발 및 이용, 관련 산업의 육성을 위한 사회적 기반을 마련하는데 필요한 사항을 정함으로써 경제 발전과 국민의 삶의 질 향상에 이바지함을 목적으로 함(안 제1조).

나. “인공지능”, “고위험인공지능”, “인공지능사업자” 등에 대하여 정의함(안 제2조).

다. 인공지능의 개발 및 이용의 기본원칙이 인류의 발전과 편의 도모를 위함임을 명시하고, 인공지능사업자로 하여금 사업자책임위원회를 운영하도록 함(안 제3조 및 제5조).

라. 인공지능 기술의 개발, 기술기준의 마련, 표준화 및 실용화ㆍ사업화 등 인공지능 산업의 진흥을 위한 정부의 역할을 규정하고, 인공지능에 대한 규제 원칙을 정함(안 제7조부터 제17조까지).

마. 고위험인공지능으로부터 이용자 보호를 위한 정부의 역할, 사업자 책무 그리고 이용자의 설명요구권, 이의제기권 및 책임의 일반원칙 등을 규정함(안 제18조부터 제22조까지).

바. 인공지능에 관한 분쟁 조정을 위하여 인공지능분쟁조정위원회를 설치하고 관련 절차를 마련함(안 제23조부터 제32조까지).