챗GPT에 관심이 집중되며 인공지능 시스템 개발 방향에 대한 논의도 함께 주목받고 있다.

이 가운데 인간을 적으로 상정하고 해를 끼치겠다고 위협하며, 해킹으로 핵무기 엑세스코드를 확보하겠다고 호언장담하는 인공지능에 맞서, 인공지능 시스템 탈선 위험을 관리할 수 있는 안전장치가 마련될 때까지 개발을 일시 중단하자는 의견도 있는데, 그 근거가 되는 것이 바로 장기주의(longtermism) 관점이다.


장기주의는 미래에 긍정적 영향을 주는 것이 도덕적으로 가장 중요하다는 생각과 함께 세계의 운명이 우리가 지금 하는 선택에 달려 있다는 믿음을 담고 있는데, 지금 당장의 시급한 문제를 제쳐두고 공상과학에 가까운 먼 미래를 상상하며 위험을 과대포장한다는 비판을 받곤 한다.

책 '우리는 미래를 가져다 쓰고 있다'는 미래 사람들의 복지까지 고려해야 한다는 생각이 결코 헛된 생각이 아니라고 주장하며, 특히 인공지능의 질주에 대처하는 것은 너무나 긴급하기 때문에 단기적 우려와 장기적 우려 사이에서 적정성을 따질 필요조차 없다고 강조하고 있다.
━

우리는 미래를 가져다 쓰고 있다 /윌리엄 맥어스킬 지음 / 이영래 옮김 / 김영사 펴냄 / 1만9800원

━