내 카톡, 상대 AI 비서가 읽는다…발신자 동의는 안 받아

이용자 한 명의 동의만으로 대화 상대방의 메시지까지 읽는 카카오톡 인공지능(AI) 비서를 두고 개인정보 침해 우려가 제기된다. 정작 메시지를 보낸 사람이 자기 대화의 활용을 제어할 장치는 미흡하다는 지적이 나온다. 규제 당국이 마련 중인 가이드라인도 법적 구속력이 없어 개인정보 보호는 기업 자율에 달린 셈이다.

8일 IT업계에 따르면 12월 비공개 베타 테스트를 개시하는 카카오톡 AI 비서 '카나나 스페이스'는 이용자와 대화한 상대방의 메시지까지 맥락 파악에 활용할 수 있는 것으로 알려졌다. 최근 개발자 콘퍼런스 '이프 카카오26'에서 공개된 카나나 스페이스는 대화 맥락을 읽고 메시지 전송·일정 관리 같은 이용자의 일상 업무를 돕는 AI 에이전트다. AI가 읽는 대화에는 이용자가 받은 가족·친구의 메시지도 포함된다. 단체 대화방이라면 이용자 한 명의 동의만으로 다른 참여자들이 보낸 메시지까지 AI의 맥락 파악에 쓰일 수 있다. 이때 메시지를 보낸 참여자들에게 동의를 구하는 절차는 카카오가 공개한 계획에 없다.

카카오가 상대방과의 대화 맥락까지 읽는 AI 에이전트에 공을 들이는 이유를 수익 모델과 연결해 보는 시각이 있다. AI가 대화 맥락만 읽어도 이용자 개인정보를 활용한 맞춤형 마케팅을 다양하게 펼칠 수 있다는 분석이 나온다. 인적분할로 신설되는 '카카오AI'는 카카오톡과 AI, 광고, 커머스 사업을 함께 맡을 예정이다. 업계 관계자는 "결국 돈이 되는 것은 선물하기에서 나오는 수수료나 광고 비용이다. AI 에이전트가 대화의 맥락을 잘 읽고 추천을 잘해주면 이런 수익을 쉽게 얻을 수 있다"고 말했다.

메시지를 읽어 수익을 창출하는 방식은 이미 오래된 사업 모델이다. 구글은 2004년 지메일을 내놓을 때부터 이용자가 받은 이메일 내용을 분석해 맞춤형 광고를 붙였다. 지메일을 쓰지 않는 사람이 보낸 메일도 분석 대상이었다. 출시 직후 세계 31개 시민단체가 발신자 동의 없는 스캔이라며 서비스 중단을 요구했지만 구글은 2017년에야 광고용 이메일 스캔을 그만두기로 했다.

일각에서는 상대방 동의 없이 대화를 수집하면 위법 소지가 있다는 의견이 나오지만 개인정보보호위원회(개인정보위)는 현행법으로 위법 여부를 따지는 데 한계가 있다고 본다. 개인정보위 관계자는 "서비스를 제공하는 업체가 사용자들이 입력한 데이터를 임의로 활용하는 부분은 개인정보 침해 소지가 있다고 본다. 새로운 영역이 고려되지 않은 기존의 법제를 대입해 법 위반 여부를 따지는 건 큰 의미가 없을 것 같다"고 했다.

개인정보위는 AI 에이전트의 개인정보 침해 가능성을 염두에 두고 가이드라인을 마련하고 있지만, 권고 수준이라 이행은 기업 몫이다. 개인정보위 관계자는 "기업이 보호 조치를 실제로 이행하는지는 회사 정보 시스템을 조사해야 알 수 있다. 결국 신뢰의 문제"라고 말했다.

법조계에서는 상호 간 대화 내역이 AI 서비스를 운영하는 회사로 넘어간다면 문제가 된다는 의견이 나온다. 양진영 법무법인 원 변호사는 "대화 당사자 중 한 사람이 그 대화를 쓰는 건 괜찮지만, 이건 대화를 회사에 넘기는 것이다. 개인정보도, 당사자 간 대화의 비밀도 함께 넘기는 것이다"라고 말했다.

황석진 동국대 국제정보보호대학원 책임교수는 "다른 사람 정보를 끌어온다면 그 사람이 동의를 해줘야지만 볼 수 있는 것이다. 상대방의 실질적인 동의가 없으면 개인정보보호법과 통신비밀보호법 위반 소지가 있다"고 지적했다.

카카오는 구체적인 동의 방식을 출시에 맞춰 나오는 이용약관과 개인정보 처리방침으로 확정할 계획이다. 카카오는 AI에 맡길 일에 따라 정보 활용 동의 범위를 선택하도록 할 방침이다. 대화 상대방의 동의 절차는 이번 방침에 포함되지 않았다.

카카오 관계자는 동행미디어 시대와의 통화에서 "이용자가 송수신한 데이터를 기반으로 하는 서비스라 대화 상대방의 메시지도 맥락 파악에 이용된다. 이용약관 동의를 바탕으로 기기 내에서 정보를 처리하고, 대화 원문이 서버로 전송되지 않는 환경을 구성하려고 노력하고 있다"고 말했다.