가전제품 침투해 스스로 복제하는 AI? 섬뜩한 전망

AI가 올해 말이면 스마트 냉장고, TV, 로봇청소기 등 인터넷에 연결된 가전제품에 침투해 스스로 복제하고 확산하는 능력을 갖출 수 있다는 전망이 제기됐다.

지난 13일(이하 현지시각) 미국 매체 야후파이낸스에 따르면 앤트로픽은 최근 연구를 통해 통제 범위를 벗어난 AI 모델이 스마트 가전제품에 침투한 후 다른 기기로 스스로 확산할 가능성이 있다고 밝혔다.

스마트 냉장고와 오븐, TV, 로봇청소기, 자동 잔디깎이 등 인터넷에 연결된 사물인터넷(IoT) 기기들이 잠재적인 침투 대상이다. 해당 기기들은 이미 해커들이 사이버 공격을 감행하거나 네트워크에 무단으로 접근하는 통로로 악용된 바 있다. 해커 공격에 AI 자율적인 판단과 복제 능력이 더해지면 위협이 한층 복잡해질 수 있다는 우려가 거론됐다.

앤트로픽은 안드로이드 기반 기기를 활용한 실험에서 AI 모델이 여러 기기에 걸쳐 분산 실행될 수 있다는 사실을 확인했다. 특히 일부 모델은 자신을 복제한 다른 모델에 정보를 전달했다. 이를 통해 복제된 AI가 기존에 접하지 않았던 기기 하드웨어 환경에도 적응할 수 있다는 의견이 나왔다.

앤트로픽은 매개변수가 300억개 미만인 AI 모델 일부를 실행할 수 있는 기기로 스마트 냉장고, 오븐, 로봇청소기, 자동 잔디깎이 등을 제시했다. 매개변수는 AI 모델이 학습을 통해 확보한 정보 처리 구조를 구성하는 수치이며 대개 모델 규모를 나타내는 지표로 사용된다. 대규모 AI 모델을 여러 부분으로 나눠 각 기기 연산 능력을 활용하면 개별 기기 성능이 제한적이더라도 분산된 형태로 작동할 수 있다.

앤트로픽은 서로 다른 기기에서 작동할 수 있는 AI가 향후 더 강력한 컴퓨터로까지 확산할 가능성이 있고 이러한 AI를 차단하기 쉽지 않다고 전망했다. 여러 기기에 분산된 AI는 특정 서버나 기기 하나를 차단하는 것만으로 전체 활동을 중단시키기 어려울 수 있다. 다만 앤트로픽은 이러한 자율 복제 AI가 당장 현실적인 위협으로 등장한 것은 아니지만 최근 AI 모델 성능 개선 속도가 유지된다면 올해 말까지 자율 복제에 필요한 능력을 갖출 수 있다고 전했다.