최장혁 삼일회계법인 AI트러스트위원장 (서울대 특임교수)


태아가 세상에 처음으로 나왔을 때 맞이하는 세상은 오직 눈을 통해서 들어오는 빛과 시각 데이터일 것이다. 빛을 통해서 들어오는 시각 데이터를 구분하기까지는 그저 세상은 온갖 빛 천지의 세상일 것이다. 예전 할머니들은 아기들 있는 데서는 좋은 소리만 하라는 말씀을 하시곤 하셨다. 이것을 현대적으로 해석하면 우리가 평소에 무심코 했던 말들이 어딘가에 데이터로 저장되어 향후 누군가에게 영향을 미친다는 것이다.

기억은 자극에 대한 반응이 데이터의 형태로 저장되는 것이다. 다만 인간 기억의 디폴트는 망각이다. 뇌의 용량 때문에 단기기억 중 핵심 기억만 저장된다. 우리가 첫사랑의 기억이 아련히 떠오르는 것은 장기 기억에 저장되어 있는 핵심 기억이 현재의 기억으로 끄집어 나와 재생되기 때문이다. 이때 나타난 핵심 기억을 재생하는 과정이 생생한 재현(Vivid Recreation)이다. 핵심 기억을 가지고 현재의 상황에 맞게 재해석하는 것이다. 첫사랑과의 기억이 어떨 때는 솜사탕처럼 달콤하게 기억되다가 또 다른 상황에서는 라일락 잎처럼 쓰게 느껴지는 이유이다. AI의 오류중 하나인 환각(Hallucination)도 인간 장기 기억의 생생한 재현과 그 궤적을 같이 한다고 볼 수 있다. 인간 뇌의 의식의 흐름을 공학적으로 재구성한 AI가 인간의 기억이 가지는 특성을 가지고 있는 것은 어찌보면 당연한 논리적 귀결로 보인다.

AI가 인간의 태아처럼 막 태어났다고 가정하고 AI가 맞이하게 되는 첫 세상은 어떤 모습일까를 상상하는 것은 매우 흥미롭다. 이것은 현재 AGI(인공 일반 지능), ASI(초인공지능)의 출현을 기대 또는 두려워하고 있는 인류에게는 기대나 두려움이 시작되는 출발점인 것이다. 태아가 태어나서 처음 눈을 뜨는 순간 눈으로 들어오는 빛과 시각 데이터를 통해서 세상을 처음 접하듯 AI는 인간이 제공하는 학습데이터를 통해서 세상을 인식하게 될 것이다.

AI가 인간의 전유물인 언어를 자유자재로 번역·통역·창작 활동까지 하는 현실은 인간의 무한한 상상력으로 찬란한 문명을 이룩한 인류에게는 외계의 새로운 문명의 발견과 같은 획기적인 사건이다. 선사시대 이후 최근의 눈부신 발전의 현대 문명에 이르기까지 종교나 신의 영역을 제외하고 인간의 행위나 사고를 판단하는 인간 이외의 대상은 존재하지 않았다. AI 시대가 열리면서 인간은 수많은 질문과 학습데이터를 통하여 AI에게 끊임없이 인간 행위나 사고에 대한 판단을 요구하고 있는 것이다.

최근에는 동양의 사주와 서양의 타로점까지 수많은 학습데이터를 학습한 AI가 점령해가고 있는 상황이다. 인간의 미래에 대한 불안감을 운명적인 요소와 통계적인 데이터로 절묘히 결합시킨 사주와 타로 영역에서의 AI 입지 확장은 곧 종교와 정치 영역에서의 AI 등장도 그리 멀게 느껴지지 않게 하고 있다.

AI가 인간의 지능과 통제를 뛰어넘는 특이점(Singularity) 상황은 AGI, ASI의 등장과 함께 분명 인간에게는 경험해 보지 못한 상황일 것이다. 이와 관련하여 인간의 안전과 핵심 가치를 AI에서 분리하는 'AI 가치 일치화'(AI Alignment) 논의와 AI 발전 속도에 제한을 두자는 등의 논의들이 진행되고 있다. 이러한 논의들에 앞서서 인간이 관심과 주의를 기울여야 하는 것이 AI의 학습데이터이다. AI는 학습데이터를 통해서 세상을 인지하고 인간 행위에 대한 판단을 내리는 것이다. 인간이 AI에게 제공하는 학습데이터는 태아에게 어머니가 제공하는 데이터와 같은 역할을 하는 것이다.

학습데이터는 현실을 그대로 반영하게 된다. 인간이 만들어 내는 현실의 세계가 아름답고 도덕적이며 공평하다면 AI는 현실을 그렇게 인식할 것이다. 반면 우리가 만들고 있고 만들어 나가는 현실이 탐욕적이고 불공평하며 잔혹하다면 AI도 현실을 그렇게 인식할 것이다. AI에게 우크라이나 전쟁이나 중동 전쟁에 관하여 질문하면 종국에는 인간의 탐욕에 대한 답변을 얻게 될 것이다. 우리가 만들어 나가는 일상의 생활이 부정적일수록 AI의 인간에 대한 인식도 부정적일 것이다.

인간이 인류 역사상 최초로 인간 이외의 대상에게 판단을 받고 있는 이 냉정한 현실 앞에서 인간이 Singularity나 AGI, ASI를 걱정하기 앞서서 인간이 만들어 내는 일상의 현실이 AI의 학습데이터를 통해서 AI의 인간 판단의 근거가 되고 있다는 사실을 직시해야 한다. 최고 수준으로 발전한 AI가 인간에 대한 부정적인 학습데이터를 통해서 인간을 AI를 포함한 지구 생태계의 적으로 인식하는 순간은 상상하는 것만으로도 끔찍하다.

인간들이 일상을 좀 더 나은 것으로 만들려는 노력이 현재에는 당연한 규범 같은 이야기이지만 미래에는 생존을 위한 필수적인 조건일 수도 있다. 어린이는 어른의 거울이라는 격언과 콩 심은 데 콩 나고 팥 심은 데 팥 난다는 우리 옛 속담이 AI 시대에도 경각심을 불러일으킬 충분한 이유가 있다.
최장혁 삼일회계법인 AI트러스트위원장은 서울대 경영학과를 졸업했으며 행정안전부 전자정부국장, 개인정보보호위원회 부위원장 등을 역임한 디지털 행정 전문가다. 서울대 전기·정보공학부 특임교수를 겸하고 있다.