국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당·울산북구)은 인공지능(AI) 기술을 활용해 제작된 콘텐츠라는 것을 표시하도록 하는 '콘텐츠산업법 진흥법 일부 개정법률안'을 대표 발의했다. 사진은 이 의원이 지난해 5월20일 서울 여의도 국회에서 열린 문화체육관광위원회 전체회의에서 추경안 및 기금운용계획변경안에 대한 소위원회 심사 결과를 보고하고 있는 모습. /사진=공동취재사진

인공지능(AI)이 만든 콘텐츠의 진위여부에 대한 논란이 이어지는 가운데 AI를 활용한 콘텐츠임을 필수로 명시해야 하는 법안이 발의됐다.

23일 업계에 따르면 국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당·울산북구)은 지난 22일 인공지능을 이용해 제작된 콘텐츠라는 사실을 의무 표기하도록 하는 '콘텐츠산업 진흥법 일부 개정법률안'을 대표 발의했다.


최근 각종 사회관계망서비스(SNS)상에선 AI가 만든 허위 이미지가 퍼지면서 논란을 일으킨 바 있다. 프란치스코 교황이 명품 패딩을 입은 사진이 대표적이다. 트럼프 전 미국 대통령이 자신의 SNS에 올린 CNN 앵커가 조 바이든 미국 대통령을 비난하는 영상도 가짜 영상인 것으로 나타났다.

미국 오픈 AI의 챗GPT 등 생성형AI가 이미지·영상·음성 등을 정교하게 만들어내며 허위 콘텐츠로 인한 혼란이 이어지자 제도적 개선에 대한 필요성이 제기돼왔다.

이상헌 의원이 발의한 개정안은 텍스트·이미지·음악 등 콘텐츠가 AI 기술을 이용해 만들어졌을 경우 '해당 콘텐츠는 AI로 제작된 콘텐츠'라는 사실을 의무로 표시해야 한다는 내용을 담았다. 개정안이 통과되면 허위 콘텐츠로 인한 사회적 혼란이 방지될 것으로 기대된다.


현재 유럽연합(EU)에서도 AI가 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있다. 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안을 발의됐다.

이 의원은 "AI 기술 발전 속도가 지나치게 빨라지면서 기술 오·남용으로 인한 부작용이 우려된다"면서 "국내서도 규범적 틀을 확립해야 한다"고 밝혔다.