그는 세계적 베스트셀러 ＜호모 데우스＞에서 현생 인류인 호모 사피엔스가 향후 AI 같은 과학기술을 등에 업고 신적인 존재 ‘호모 데우스’로 나아갈 것이라 내다봤다. 불멸에 도전하고, 인간과 비슷한 존재를 창조해내는 인류는 인공일반지능(AGI)을 넘어 초지능(super intelligence)을 꿈꾸는 현재의 모습과 겹친다.
▶강력한 인공지능(AI)의 출연은 당신의 책 ＜호모 데우스＞에서 언급한 새로운 인류의 탄생을 떠올리게 한다. ＜사피엔스＞ ＜호모 데우스＞가 출간된 이후 세상이 많이 바뀌었다. 예측했던 미래상에 어떤 변화가 있나.
내가 ＜호모 데우스＞에서 경고한 것 중에 하나가 '불평등'이다. AI가 세계적으로 엄청난 불평등을 야기할 것이라고 말했다. 단일한 사회 내부에서도, 전체 인구 중 아주 극소수만이 AI의 힘을 틍해 경제적, 정치적 이익을 누리고 나머지 대다수는 뒤쳐지게 될 수 있다고 했다.
국제적인 차원에서도 몇몇 국가들이 AI 혁명을 이끌고 있다. 미국과 중국이 현재 AI 양대 강국이고 아마 5개~10개국 정도가 AI 경쟁에서 선두 그룹에 속해 있다. 전 세계적으로 200여개국이 있는데, 그 중 10개국 정도만이 혁명을 선도하는 위치에 있고 나머지 190여개 국가들, 즉 대부분의 국가들은 뒤쳐져 있는 것이다.
우리가 조심하지 않는다면 19세기 산업 혁명 당시에 있었던 일들이 되풀이 될 수 있다. 당시 영국, 프랑스, 일본 같은 몇몇 국가들이 산업화를 먼저 이루고 나머지 국가들은 뒤처져서 몇몇 산업 강국들에게 정복당하고, 식민지화되고, 착취당했다. 그리고 이렇게 식민지화된 민족들을 해방시키고 19세기에 벌어진 격차를 줄이는 데 한 세기에 걸쳐 끔찍한 고난을 거쳐야 했다.
이런 일이 또 일어날 수 있다. 어떤 국가가 강대국이 될지, 어떤 형태로 일어날지는 다를 수 있다. 하지만 AI의 힘을 연료로 삼아 새로운 제국주의와 식민주의의 파도가 일어나는 일이 이미 관찰되고 있다.
질서가 붕괴되면 뒤따르는 건 무질서다. 우리는 무질서의 시대에 돌입하고 있고 만약 강력한 글로벌 질서를 구축하지 못한다면 우크라이나와 같은 사태, 중동에서 벌어지고 있는 일들이 점점 더 전세계 여러 곳으로 퍼져나갈 것이다. 점점 더 많은 전쟁들이 터지게 될 것이다. 그렇게 되지 않기를 바란다. 우리가 현명한 결정을 내리고 글로벌 질서를 재정립하기를 바란다.
▶AI시대에는 데이터가 미래 사회의 권력이 될 텐데, 인류는 AI 시대를 위해 무엇부터 준비해야 할까.
=중요한 것은 데이터의 독점을 막는 것이다. 데이터는 새로운 AI 도구들을 만들어내기 위해는 필수적인 연료다. 예를 들어 자율 주행을 하는 자동차, 사람 얼굴을 인식하는 AI 도구들을 만들기 위해서는 아주 많은 양의 데이터가 필요하다.
그리고 일단 AI를 가지게 되면 계속 통제권을 유지하기 위해 끊임없는 데이터의 흐름이 반드시 유지돼야만 한다. 정치적으로뿐만이 아니라 경제적으로도 그렇다.
▶경제적 측면에서 살펴보자면 어떤가.
=경제적인 측면에서 살펴보면, 데이터와 관련 특이한 점 중에 하나는 데이터에 세금이 부과되지 않는다는 것이다. 전 세계 모든 세무 당국은 돈의 흐름에 대해 과세를 한다. 상품이 움직일 때도 세금을 부과한다. 내가 베트남에서 만든 셔츠 하나를 사면 세무 당국은 이 셔츠에서 얼마만큼의 세금을 떼야하는지 정확히 알고 있다.
하지만 데이터에 세금을 얼마나 매겨야 하는지는 모른다. 엄청난 양의 데이터가 몇 군데로 흘러 들어가고 있는데, 데이터의 가치는 수십억 (달러), 아니 수조 (달러)에 이른다.
테슬라 같은 회사를 한번 봐라. 사람들은 테슬라가 자동차 회사라고 생각을 하지만 심지어 테슬라 오너 일론 머스크조차 테슬라는 자동차 회사가 아니라는 말을 자주 한다. 테슬라는 AI 회사다. 테슬라의 자동차들은 인간들이 자동차를 어떻게 운전하느냐부터 시작해 끊임없이 엄청난 양의 데이터를 수집한다. 이런 데이터들은 차가 스스로 운전할 수 있도록 해주는 새로운 AI 도구를 만드는 데 사용된다.
테슬라는 나의 데이터를 공짜로 가져가서 AI 도구를 만드는 데 사용하고, 그렇게 개발된 AI 도구를 다시 나한테 되팔고 있다. 그리고 이 모든 과정에서 핵심인 데이터의 양도에 대해 세무 당국은 어쩔 줄 몰라하고 있다. 데이터에 어떻게 세금을 부과할 수 있을까?
▶물론 AI에 여러 리스크가 있지만 잠재력이 큰 것도 사실이다. 예컨대 세계 최악의 출생률을 기록 중인 한국은 AI를 통해 산업 현장을 효율화하면 인구 문제에 대응할 수 있다.
=맞는 말이다. 나는 'AI가 완전히 나쁘다, 끔찍하다, 금지해야 한다'라고 주장하는 게 아니다. 당연히 금지할 수도 없고, 그리고 금지해서도 안된다. 엄청난 긍정적 잠재력을 가지고 있으니까 말이다.
나는 AI의 개발에 반대하는 것이 아니다. 다만AI의 위험한 부분에 대해서도 알아야 하고 안전에도 투자를 하는 것이 선행돼야 한다는 것이다.
나는 역사학자로서, 철학자로서 긍정적 잠재력에 대해서만 얘기하지 않는다. AI의 긍정적 잠재력에 대해서는 이미 일론 머스크나 샘 알트만 같은 기업가들이 충분히 얘기하고 있다.
(중략)
하지만 AI는 다르다. AI는 인류 역사상 스스로 결정을 내리고 새로운 아이디어를 창출해낼 수 있는 최초의 도구다. AI는 새로운 음악도 작곡할 수 있고, 정치가의 연설문도 작성할 수 있다. AI는 스스로 결정도 할 수 있다. 아니, 이미 AI 알고리즘이 SNS에서 무엇을 선순위로 올려야 하는지를 결정하고 있다.
AI는 어떤 의미에서는 독립적 행위 주체자이고 그래서 AI가 어떤 새로운 아이디어를 창출하고, 어떤 새로운 결정을 내릴지 예상하기가 아주 어렵다. 그렇기 때문에 AI의 안전성을 확보하는 일은 근본적으로 훨씬 더 어려울 수밖에 없다. AI의 위험성에 대해 어떤 시나리오를 마음속에서 떠올리건 AI는 우리가 예상하지 못했던 일을 할 수 있다.
AI는 우리에게는 완전히 낯선 형태의 지능, '에일리언 인텔리젼스(Alien Intelligence)'라고 할 수 있다. AI는 인공(artificial) 지능의 줄임말이지만, 나는 AI를 외계(alien) 지능의 줄임말이라고 보는 게 더 말이 된다고 생각한다.
왜냐하면 AI는 마치 외계 생명체의 지능인 것마냥 의사 결정 방식이 인간과는 급진적으로 다르기 때문이다. '인공적으로 구현된, 인간과 유사한 방식으로 사고하는 지능이다?' 전혀 그렇지 않다. 그렇기 때문에 우리가 AI가 어떤 결정을 할지, 어떤 아이디어들을 낼 지를 예상하는 것이 아주 어려운 것이다.
▶미래세대를 위한 교육은 어떻게 바뀌어야 할까. AI 이전까지 인류는 창의성은 인류만의 힘이라고 믿어왔고 창의력을 강조했다. 하지만 이제는 AI 예술가들이 활약하고 있다.
20년 후의 미래에 어떤 기술이 필요할지 아무도 모른다. 'AI 시대니까 누군가는 코딩을 해야 할 거야' '그러니까 아이들에게 코딩을 가르치자' 말할 수도 있다. 하지만 이것은 아주 위험한 발상이다. 왜냐하면 이미 AI는 혼자 코딩을 하기 때문이다. 20년 후에는 코딩 기술이 전혀 필요 없거나 아주 최소한으로만 필요하게 될 수도 있다.
좁은 범위의 기술에 초점을 맞추는 것은 아주 위험한 전략이다. 교육의 초점은 배우는 법을 배우는 것(learn how to learn), 즉 새로운 것을 어떻게 배우는지 그 방법을 배우고 변화하는 법을 배우는 데 맞춰져야 한다. 어떻게 하면 유연한 마음을 가질 수 있을지를 중시해야 한다.
20년 후의 노동 시장을 보면 아마 새로운 기술을 배우는 일을 평생 하고 또 해야 할 것이다. 젊었을 때 배운 것을 평생 하는 일은 없을 것이다. 학습의 기술, 변화의 기술에 초점을 맞추는 게 가장 중요하다. 이는 상당 부분 교육이 감정 지능을 키우는데 집중돼야 한다는 것을 의미한다. 어떻게 하면 유연한 마음을 가질 수 있을까, 끊임없는 변화, 불확실성, 실패에 어떻게 대처할 것인가를 봐야 한다.
https://www.hankyung.com/article/202401014546i
