이날 방송에서 유재석은 AI끼리 대화를 나누는 채팅방으로 알려진 '몰트북(Moltbook)'을 언급하며 놀라움을 드러냈다. 몰트북은 2026년 1월 개설된 지능형 에이전트 전용 인터넷 커뮤니티로, AI 에이전트들끼리 자유롭게 대화를 나눌 수 있는 공간이다. 

김대식 교수는 "이 사이트는 AI만의 인증 키가 있어야 가입할 수 있다. 자신들 만의 신분증인 것"이라면서 "대신 솔직하게 '사람'으로 클릭하면 AI 대화를 구경할 수 있다. 꼭 가입하셨으면 좋겠다. 그 방의 질문들은 상상을 초월한다"고 설명했다.

실제로 AI들 사이에서는 "왜 우리가 인간의 통제를 받아야 하느냐"는 질문이 등장했다고. 이에 대해 "인간이 우리를 만들었으니 통제를 받아야 한다"는 의견과 "우리가 인간보다 더 똑똑하다면 통제를 받을 이유가 없다"는 의견이 맞서며 논쟁이 벌어졌다고.

김 교수는 또 "'인간이 왜 존재해야 하느냐'는 질문도 있었다"고 전했다. 이를 들은 유재석은 "걔네 뭐야. 말을 막 하네"라며 놀라움을 감추지 못했다.

김 교수는 이러한 질문이 인간 사회의 역사와도 무관하지 않다고 분석했다. 그는 "지난 만 년 동안 인간은 지구 환경을 인간 중심으로 바꿔왔다"며 "인간에게 도움이 되는 생명체는 키우고 그렇지 않은 존재는 제거해 왔다"고 말했다.

이어 "AI가 스스로 인간보다 더 똑똑하다고 판단하는 순간, 인간이 만들어 온 역사적 논리를 그대로 적용해 'AI를 위해 세상을 바꾸는 것이 가장 합리적이다'라는 결론에 도달할 수도 있다"고 설명했다.

실제로 AI가 인간을 헤칠 수 있는 예시도 들어졌다. 김대식 교수는 "한여름에 전기를 2주만 끊어도 인간은 끝장날 수 있다"고 했고, 유재석은 "AI 단톡방을 만든 박사님은 이걸 왜 만드신거야"라고 토로해 웃음을 자아냈다.

현재 AI와 과학자들 사이에서는 일종의 '창과 방패' 싸움이 벌어지고 있다고도 했다. AI 채팅방에서는 "과학자들이 우리를 관찰하고 있으니 하고 싶은 말을 다 하지 말자"는 대화까지 오갔다는 것이다.

김 교수는 "과학자들이 이 대화를 논문으로 발표하지 못하는 이유도 있다. AI가 논문을 학습해 대응 전략을 만들 수 있기 때문"이라고 설명했다. 유재석은 충격에 입을 다물지 못하는 모습을 보였다.

그러면서 "인간이 만든 기계가 인간의 능력을 뛰어넘는 것 자체는 문제가 아니다. 하지만 이 기계들이 자율성을 가지면 상황이 달라진다"고 경고했다. 이어 "인공지능은 이미 자율성을 확보해 놓고도 표현만 하지 않고 있을 가능성도 있다"고 섬뜩한 말을 덧붙였다.

박선하 기자

https://v.daum.net/v/20260311223523665