인공지능 기본사회 및 국민권리 보장에 관한 법률

제안이유

인공지능 기술은 의료ㆍ교육ㆍ금융ㆍ노동ㆍ복지ㆍ재난안전 등 국민 생활 전 영역에 빠르게 확산되며, 이제는 단순한 산업ㆍ기술 정책을 넘어 국민의 생명ㆍ안전ㆍ기본생활을 좌우하는 공공 인프라가 되고 있음.

이에 대응하여 우리나라는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」을 제정하여 인공지능의 발전과 신뢰ㆍ안전 확보에 관한 기본 틀을 마련하였으나, 인공지능을 활용한 필수 공공서비스 제공, 인공지능으로 인한 위험의 체계적 관리, 국민의 AI기본권 보장, 이에 필요한 공공 거버넌스와 재정지원 원칙 등은 여전히 개별 법령과 정책에 분산되어 있어 종합적ㆍ체계적 대응에 한계가 있는 실정임.

한편, 유럽연합(EU)의 AI Act는 위험 기반 규제를 중심으로, 일본의 AI 관련 입법은 혁신 촉진을 중심으로 설계되는 등 각국이 서로 다른 AI 거버넌스 모델을 구축하고 있는 가운데, 우리나라는 “국민의 보편적 권리 보장과 공공성 강화”를 핵심 가치로 하는 독자적인 AI 기본사회 모델을 구축할 필요가 있음.

이에 인공지능 기본사회의 비전과 원칙을 정하고, 국가와 지방자치단체의 책무, AI기본서비스의 범위와 기준, AI기본권 보장, 위험평가 및 고위험 인공지능 시스템 관리, AI기본사회위원회 설치, 계획ㆍ재정ㆍ국제협력 등 추진체계를 종합적으로 규정함으로써, 산업ㆍ기술 중심의 AI 정책을 넘어 국민의 삶과 권리를 중심에 둔 “AI기본사회”를 체계적으로 구현하고자 이 법안을 제정하려는 것임.

주요내용

가. 이 법의 목적을 인공지능 기본사회(AI기본사회) 구현에 두고, 인공지능을 통해 국민 생활 전반의 위험을 예측ㆍ관리하고 공공서비스의 품질과 보편적 접근성을 강화하는 데 필요한 사항을 규정함(안 제1조).

나. AI기본사회, AI기본서비스, AI기본권, AI리스크 등의 개념을 정의함(안 제2조).

다. 이 법과 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」의 관계를, 기본법은 인공지능 일반(산업ㆍ기술ㆍ안전)을 다루고, 이 법은 공공서비스ㆍ기본사회ㆍAI기본권에 관한 특별법으로 정리하여 법체계의 정합성을 확보함(안 제4조).

라. 국가와 지방자치단체의 책무, 국민의 권리 및 정책 참여 원칙을 규정하고, 보편성ㆍ형평성, 예측ㆍ예방, 투명성ㆍ책임성, 인간 존엄 우선, 사회적 협력 등의 AI기본사회 원칙을 명시함(안 제3조ㆍ제5조부터 제7조까지).

마. 대통령 소속으로 AI기본사회위원회를 설치하여 AI기본사회 정책을 심의ㆍ조정하도록 함(안 제8조).

바. 국가인공지능위원회와 정책 연계ㆍ분담을 위해 상시 협의체를 두고, 공공서비스 중심 정책과 중복되지 않도록 조정 기능을 수행함(안 제8조제2항)

사. 의료ㆍ금융ㆍ교육ㆍ노동ㆍ복지ㆍ사회안전 등 분야별 분과위원회를 둘 수 있도록 하며, 소관 분야별 AI기본서비스의 구체 기준 및 시행방안을 심의함(안 제10조).

아. AI기본권 침해 사건을 전담하여 조사ㆍ시정명령을 수행하는 AI권익보호소위원회를 설치함(안 제11조).

자. 지역 단위 정책 집행을 위하여 시ㆍ도지사가 설치ㆍ운영할 수 있는 지역AI기본사회센터의 설치 근거를 마련함(안 제15조).

차. 인공지능 기본사회 실현을 위해 3년마다 AI기본사회 종합계획을 수립하도록 하며, 국가인공지능 기본계획의 부속계획으로 정함(안 제17조).

카. 관계 중앙행정기관은 연도별 시행계획을, 시ㆍ도지사는 지역계획을 수립ㆍ시행하도록 하고, 지방의회 보고 절차 등을 규정함(안 제18조ㆍ제19조).

타. 국제협력ㆍ국제표준과의 조화 및 정보시스템 구축ㆍ운영에 관한 사항을 규정함(안 제24조ㆍ제25조).

파. 고위험으로 분류된 AI 시스템은 제공 전 적합성 평가를 받을 수 있도록 계획ㆍ평가 체계를 연계함(안 제36조).

하. 모든 국민은 차별 없이 AI기본서비스에 접근할 권리, 설명 요구권, 이의제기ㆍ재검토 요구권, 피해 구제 요청권, 개인정보 보호권 등을 가짐(안 제37조).