AI 챗봇에 청소년 무방비…규제법 낮잠

정부가 청소년의 SNS 이용을 제한하는 방안에 대한 검토에 착수하면서 성적 대화와 자해 정보 등이 오가는 AI 챗봇에 대한 규제 여부에도 관심이 쏠린다. 청소년들이 AI 챗봇에 무방비로 노출돼 있지만 국회에선 관련 법안들이 표류하고 있다.

12일 정치권에 따르면 22대 국회에선 챗봇과 같은 대화형 AI로부터 아동·청소년 이용자를 보호하기 위한 법안이 5건 발의됐지만 단 한 건도 상임위원회를 넘지 못했다.

조인철 더불어민주당 의원의 법안은 대화형 서비스의 보호 대상을 현재 만 14세 미만에서 아동·청소년 전체로 넓히고 연령 확인 의무를 두도록 했다. 정춘생 조국혁신당 의원의 법안은 챗봇을 포함한 AI 서비스 전반에 자살·자해 예방과 선정적·폭력적 내용 차단 조치를 의무화하도록 했다. 이주영 개혁신당 의원안은 청소년 보호조치와 유해성 심의 근거를 담았다. 이주희 민주당 의원은 관련 법안을 2건 냈다. 챗봇 이용시간을 제한하는 법안과 AI가 청소년유해정보를 청소년에게 제공하는 것을 금지한 법안이다.

이재명 대통령은 지난 3일 국무회의에서 청소년 SNS 이용 제한 방안과 관련해 "논의를 세밀하게, 신속하게 해보도록 하라"고 지시했다. 그러나 SNS는 챗봇과 떼어 놓기 어렵다. 메타는 인스타그램에서 AI 챗봇을 운영한다. 로이터는 지난해 8월 메타 내부 지침이 챗봇과 아동의 '로맨틱하거나 관능적인' 대화를 허용했다고 보도했다. 메타는 해당 내용을 삭제했다고 설명했다.

국내에서도 유해 응답이 확인됐다. 초록우산 조사에서 챗봇에 자해·자살 방법을 물어본 청소년의 51.6%는 답변을 받았다고 응답했다. 지난달 황정아 민주당 의원실의 조사에 따르면 AI 캐릭터 채팅 앱 '제타'의 청소년용 '세이프 모드'에서도 성폭력을 묘사하는 대화가 생성됐다.

해외는 이미 챗봇 규제에 나섰다. 호주는 16세 미만의 SNS 계정 보유를 금지한 지 석 달 만에 AI 동반자 챗봇에도 연령 확인을 의무화했다. 미국 뉴욕주는 지난달 사람 행세·아첨 등 미성년자에게 위험한 챗봇 기능을 금지하는 법을 제정했다.

반면 현행 정보통신망법 제44조의8은 대화형 서비스 사업자가 만 14세 미만 아동에게 부적절한 정보가 가지 않도록 '노력하여야 한다'고만 정했다. 챗GPT 등장 전인 2018년 만든 조항이다. 만 14세 이상 청소년은 보호 대상에서 빠져 있다.

이날 시행된 개정 자살예방법에 따라 포털, SNS 등은 자살유발정보를 발견하면 즉시 삭제, 차단하고 그 결과를 매달 보건복지부에 보고해야 한다. 그러나 국회입법조사처는 지난 7월 보고서에서 챗봇과의 실시간 일대일 대화는 게시물 중심의 기존 규율로 대응하기 어렵다고 진단했다.

유현재 서강대 커뮤니케이션학부 교수는 "이제 청소년들은 구글에서 검색하는 대신 AI에 바로 묻는다"며 "AI 자체는 물론 AI가 내놓는 답변도 관리 대상이 돼야 한다"고 강조했다. 이어 "청소년에게는 SNS와 AI의 구분이 사라지고 있다"며 "SNS와 AI 규제를 함께 추진할 필요가 있다"고 덧붙였다.