정보통신망 이용촉진 및 정보보호 등에 관한 법률

현행법은 정보통신서비스 제공자가 만 14세 미만의 아동에게 문자·음성을 이용하여 사람과 대화하는 방식으로 정보를 처리하는 시스템을 기반으로 하는 정보통신서비스를 제공하는 경우에는 그 아동에게 부적절한 내용의 정보가 제공되지 아니하도록 노력할 것을 규정할 뿐 대화형정보통신서비스에 대한 그 밖의 사안에 대하여는 규정하고 있지 않음.

그러나 소위 거짓 영상 또는 거짓 음성을 사용하여 이용자를 속이는 딥페이크(Deepfake) 기술, 재력이나 외모 등을 내세워서 친교관계를 형성한 후 금전을 요구하는 로맨스피싱(Romance phishing) 등 신종 사기 수법들이 등장하고 있는 바, 이에 대한 대비책이 필요해 보임.

이에 정보통신서비스 제공자가 2명 이상의 이용자가 실시간으로 대화할 수 있도록 하는 정보통신서비스 등을 제공하는 경우에 인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등의 정보,「전기통신금융사기 피해 방지 및 피해금 환급에 관한 특별법」 제2조제2호에 따른 전기통신금융사기에 해당하는 정보 등으로 인하여 이용자에게 피해가 발생하지 아니하도록 노력할 것을 의무화하려는 것임(제44조의8제2항 신설 등).