25년 3월 20일 AI 관련 발언 정리
Q: AI에 대해 인류는 얼마나 우려해야 하며, 고전적인 "인류 대 기술" 역학은 AI와 함께 어떻게 전개될까요?
A:
"이것은 어느 시점에서는 삶의 모든 활동을 상당히 변화시킬 매우 심오한 진보입니다. 제가 참여했던 혁명은 컴퓨팅을 매우 비싼 것에서 본질적으로 무료로 만드는 것이었습니다. 제가 어렸을 때는 밤에 사용할 수 있는 컴퓨터가 있다는 소식을 들으면, 심지어 침입해서라도 접근하려고 했습니다. 컴퓨터는 정말 희소했습니다. 이제 개인용 컴퓨터가 하루에 몇 시간만 사용된다는 생각에 "오, 얼마나 비효율적인가"라고 생각하지 않습니다.
이제 우리가 가진 것은 희소한 지능입니다. 뛰어난 의사, 뛰어난 엔지니어, 심지어 지원 전화나 텔레세일즈 전화를 하는 사람들까지, 지능은 희소합니다.
그리고 AI를 통해(신뢰성에 대해 해야 할 일이 많지만), AI의 가장 어려운 문제인 신뢰성조차도 현재 발전 속도가 빠릅니다. AI는 오늘날 믿을 수 없을 정도로 복잡한 문제를 해결할 수 있습니다. 전부는 아니지만 많은 부분을요. 그리고 이미 초인적이지만 완벽하게 신뢰할 수 없기 때문에 사람들은 "이것들을 어디에 적용해야 할까?"라고 망설이고 있습니다. 저는 제대로만 한다면 이것들이 건강 및 교육과 같은 분야에서 앞으로 몇 년 안에 매우 빠르게 출시될 것이라고 생각합니다.
그래서 역량과 신뢰성이 완벽해지는 시점이 언제든, 약물 발명, 제안서 작성, 텔레세일즈 전화 등이 단지 소프트웨어일 뿐인 세상에 있게 됩니다. 그 지능은 무료가 될 것입니다. 그래서 교사 부족, 의사 부족에서 원하는 만큼의 의사 전문 지식, 맞춤형이고 개인적이며 동기 부여를 격려하는 뛰어난 튜터를 원하는 만큼 갖게 되는 것입니다. 그것은 훌륭한 일입니다."
Q: AI가 지능을 무료로 풍부하게 만든다면, 일자리는 어디에서 올 것이며, 인간은 어떻게 목적을 찾을 수 있을까요?
A:
"하지만 일자리는, 우리는 일자리를 하기 위해 태어난 것이 아닙니다. 일자리는 "이런, 누군가는 농부가 되어야 해. 좋아, 누군가는 저 트럭들을 운전해야 해"라는 부족함의 인공물입니다.
그래서 저희같은 사람들이 이 미래를 상상하기는 실제로 매우 어렵습니다. 왜냐하면 시장, 가격 책정, 교육 방식 등 전체 시스템이 광범위한 서비스를 제공하기 위한 인간 지능 창출에 기반을 둔 가치관을 가지고 있기 때문입니다.
그래서 그것이 필수적인 것에서 벗어나면서 훨씬 더 많은 여가 시간을 갖게 되고, 거의 철학적인 질문인 "그렇다면 우리 삶의 목적은?"이라는 질문에 도달하게 됩니다. 목적의식 말이죠.
그리고 그것은 부족함이 없는 세상에서 자란 미래의 세대들이 생각해야 할 것입니다. 제 경우에는 부족함의 세상에서 70년을 보냈기 때문에 누구든 뇌를 이 변화에 다시 프로그래밍하기는 어렵다고 생각합니다."
Q: AI가 인도의 거대한 젊고 교육받은 인구의 취업 전망을 방해하지 않을 것이라고 믿나요?
A:
"사회는 오늘날처럼 모든 사람이 일할 필요가 없는 수준의 생산량(식량, 의료 조언 등)을 가질 수 있게 될 것입니다. 우리는 선택권을 갖게 될 것입니다. 기계가 특정 일에 도움을 주어서는 안 된다고 말할 수 있습니다. 우리가 선택한다면 특정 영역으로 제한할 수도 있습니다.
하지만 당신이 일자리에 대해 생각하는 이유는 부족함 때문입니다. 세상을 생각하는 방식조차도 실제로 그렇게 생각할 방식이 아닐 것입니다."
Q: AI의 높은 에너지 소비를 고려할 때 인도가 AI 발전을 뒷받침할 충분한 전력을 생산할 수 있다고 믿나요?
A:
"이러한 모든 AI 활동의 총 추가 전력 부하는 세계 전력의 10~15%까지 높아질 수 있습니다. 그것은 우리가 전동화함에 따라 전기 자동차가 사용할 만큼 많지는 않습니다.
(중략)
또한 AI 시스템을 실행하는 데 얼마나 많은 전기가 필요한지에 대한 불확실성은 매우 불분명합니다. 인간의 뇌가 작업을 수행하는 데 사용하는 전력 또는 전력 에너지의 양은 매우 적습니다. 그래서 오늘날 우리의 AI 모델은 인지 능력에서 인간의 뇌보다 약 10,000배 덜 효율적입니다. 그래서 진화는 그렇게 많은 에너지를 소비하지 않고 이러한 일을 할 수 있는 방법이 있다는 존재 증명을 제공했습니다. 이제 향후 10년 동안 10,000배의 요소를 얼마나 줄일 수 있을까요?
만약 그것이 정말 잘 진행된다면, 이 사람들 중 많은 수가 거대한 데이터 센터가 필요하지 않을 것이라고 예측하고 있지만, 말하기는 어렵습니다. 그리고 아무도 그런 가정을 하고 결국 데이터 센터 용량이 부족해서 플레이할 수 없게 되는 사람이 되고 싶어하지 않습니다.
구글은 이 분야의 선두에 서야 합니다. 마이크로소프트, 많은 회사들이 이 차세대 기술을 주도하기 위해 경쟁하고 있으며, 효율성이 발휘될 것이고 과잉 용량을 가질 수도 있다는 것을 충분히 알고 있습니다.
대부분의 산업에서, 자동차 산업은 인기를 얻은 후 과잉 용량을 갖게 되었습니다. 인터넷 대역폭은 나중에 사용할 수 있었지만 과잉 구축되었습니다. 그래서 실제로 폭발적으로 성장하는 산업의 역사에서 첫 번째 채택 단계에서는 일반적으로 과잉 용량을 얻습니다.
그것은 매우 전형적이지만, 시장이 언젠인지는 모르겠지만 하락할 것이라고 말하는 것과 같습니다. 그 과잉 용량이 지금으로부터 3년 후, 10년 후, 15년 후에 발생할까요? 만약 당신의 회사가 파산하고 그것을 기다린다면 그것은 좋은 계획이 아닙니다. (그러므로 현재의 투자는 합리적이다)"
Q: 칩 전쟁에서 어느 나라가 승리할 것으로 보나요? 승자와 패자가 있나요?
A:
"오늘날로서는 대만이 칩 제조 면에서 승자입니다. 미국은 여전히 가장 진보된 칩 설계가 이루어지는 곳이지만, 꽤 글로벌한 산업이 될 것입니다. 그리고 한국에도 공로를 인정해야 합니다. 그들도 꽤 잘했습니다.
패자가 있나요? 칩이 자유롭게 흐르는 한, 만약 대만을 둘러싼 전쟁이 있었고 그 모든 생산 능력이 파괴되었다면 전 세계는 일정 기간 동안 극심한 칩 부족을 겪을 것입니다.
오늘날과는 매우 다른 방식으로 칩을 만드는 놀라운 혁신들이 있습니다. 저는 그중 몇 가지에 자금을 지원하고 있습니다. 그것들은 5년에서 10년 후의 일이지만, 현재 기계들은 훨씬 더 나은 방법이 있을 수 있지만 단기적으로는 도움이 되지 않을 것입니다."
Q: OpenAI 투자에 대해 흥미로운 점은 알지만, 기술 투자자로서 두려운 점이 있나요?
A:
"아니요, AI 전반적으로는 두렵습니다. 왜냐하면 인류가 그것을 형성해야 하고, 매우 다르게 느껴질 세상이기 때문입니다.
그래서 전반적으로 걱정되지만, 아니요, OpenAI 사람들은 잘 해냈습니다. 샘, 그렉, 그리고 팀과 함께 일했고, 그들은 훌륭합니다."
Q: 수학 공포증 해결책은?
A: "AI 튜터."
Q: 교사 부족 해결책은?
A: "AI 튜터."
Q: 10년 후를 내다볼 때, 더 높은 수익률을 위해 어느 경제(미국, 중국, 인도)에 베팅하시겠습니까?
A:
"수익률 측면에서, 어느 주/식 시장이 저평가되었는지 묻는다면, 인도 주/식 시장은 이미 일부 성장을 예상하고 있습니다. 따라서 인도라고 생각합니다. 성장이 5%가 될지 10%가 될지 논쟁하는 곳에 있다는 것은 좋습니다. 그리고 매우 가능성이 높다고 생각합니다. 10%를 훨씬 넘지는 않을 것이고 5%보다 훨씬 낮아지지는 않을 것이라고 생각합니다. 그리고 그것은 놀라운 기간입니다. 훌륭한 기회입니다.
정부는 그 경제 성장 덕분에 보건과 교육에 더 많은 돈을 쓸 것입니다. 그래서 인도는 좋은 위치에 있습니다. 미국처럼 정말 부유한 국가는 경제가 좋다고해도 5% 성장률을 얻지 못합니다. 우리는 성장률 2.5%, 3%를 얻으면 매우 행복해합니다. 그리고 AI 덕분에 우리는 그 성장률을 달성할 수도 있습니다."
Q: AI로 인해 에너지 효율성이 증가하면 세계 순자산이 1천조 달러에 더 빨리 도달할 것으로 예상할 수 있나요? 또한 AI 발견 이후 인간 지능/인간에 대한 당신의 견해는 어떻게 변했나요?
A:
"저는 핵분열이나 핵융합이 오늘날의 태양광, 천연가스, 석탄보다 훨씬 낮은 가격으로 에너지를 제공할 것이라는 진정한 낙관론자입니다. 그리고 그것은 날씨에 의존하지 않는 일정한 에너지이며, 큰 에너지 부하가 있는 곳 어디든 가까이 배치될 수 있다는 이점이 있어서 전 세계적으로 도움이 될 것입니다. 그래서 빨리 도달할수록 좋습니다.
스마일과 같은 사람들은 에너지와 문명이 발전 측면에서 서로 어떻게 추적해왔는지에 대해 썼습니다. AI가 우리의 인간성을 어떻게 변화시키는지에 대한 질문은 중요하고 매혹적인 질문이며, 그것에 대해 많이 쓰여지지 않았다고 생각합니다.
하라리의 결론은 인류가 AI에 준비되지 않았으며, 이것을 옆으로 치우고 서로 잘 지내는 데 노력한 다음 판도라의 상자를 열어야 한다는 것입니다. 하지만 하라리만이 아닙니다. 구글의 AI 책임자도 같은 말을 했습니다.
만약 제가 개인적으로 투표할 수 있다면, 즉 AI 발전 속도를 제어할 수 있다면, 속도를 늦추는 것을 선택할 수도 있습니다. 하지만 그런 투표권을 가진 사람은 아무도 없습니다.
무스타파 슐레이만이 썼듯이, 개인적 인센티브, 회사 인센티브, 국가 인센티브는 "잠깐만, 이것을 늦추자"라고 말하기 매우 어렵게 만듭니다. 그래서 우리가 그것을 늦출 가능성은 없다고 생각합니다.
그래서 당신의 질문은 경제학자, 철학자, 심지어 종교에 대해 생각하는 사람들까지 와서 "이것은 너무나 심오한 변화이니, 이 과잉의 세계를 위해 어떤 가치 체계를 유지할지 생각해 보자"라고 말하기를 바라는 훌륭한 질문이 됩니다."
https://www.youtube.com/live/Iq1yfTbrWyw
