▷박태웅 : 그 미국의 거대 AI 회사들이 국방 쪽으로, 막 전속력으로 달려가고 있다.
▶김어준 : 국방이요. 왜 그래요?
▷박태웅 : 오픈 AI가 올해 6월 그러니까 이번 달이죠
▶김어준 : 요즘 그러니까 오픈AI가 원래 굉장히 공익적인 그 구호를 내걸고 시작한. 이름도 오픈이잖아.
▷박태웅 : 지금도 비영리 기업이잖아요.
▶김어준 : 이름도 오픈이고. 그런데 지금은 악의 축 같은 느낌이 좀 있어요.
▷박태웅 : 예, 맞아요. 그 이번 달에 미국 국방부하고 2억 달러 규모의 프런티어 AI 프로토타입 개발 계약을 체결했어요. 이게 군사, 행정, 사이버 보안 영역에 활용될 예정이고요. 세계 최고의 AI 군사 기업이라고 할 수 있는 팔란티어. 팔란티어는 메이븐 스마트 시스템이라고 해서 위성, 드론 영상, 통신, 메타 데이터를 통합 분석해서 실시간으로 공격 타겟을 즉시 찾아주는
▶김어준 : 전쟁에 AI를 도입하려는 거네. 지금
▷박태웅 : 그 시스템을 원래는 수백만 개 들어온 영상에서 자동 추출을 해서 실시간으로 다
▶김어준 : 스카이넷이잖아. 스카이넷. 터미네이터의
▷박태웅 : 이거를 13억 달러 규모로 계약을 확보했어. 초기에는 480 밀리언달러 했다가 지금 이게 13억 달러로 확대했고요.
▶김어준 : 그러면은 예를 들어서 우리가 이제 그 터미네이터 생각해 보면 인공지능이 적과 아군을 구분하고, 그다음에, 인간에 도움을 주라고 만들어놨지만 결국은 AI가 인간을 적으로 삼아 가지고 터미네이터 얘기가 그런 얘기 아닙니까? 그런데 일단 이 AI 시스템은 적과 아군으로 구분할 거 아닙니까? 시스템이
▷박태웅 : 즉시 구분. 색깔로 바꿔서 보여주는데
▶김어준 : 무섭다.
▷박태웅 : 이게 뭐가 무섭냐 하면 그전까지는 식별하는 정도였는데, 지금은 이제 그래서 어떻게 공격해라, 까지 짜서 보여주는 거예요.
▶김어준 : 인간인데, 상대가, 자, 저 인간은 적이다, 하고 표시를 하고. 그런 다음에 저 인간을 제거하려면 이렇게 해야 된다라고
▷박태웅 : 네, 작전 계획까지 보여주면 인간이 그걸 보고 승인만 하는 거예요.
▶김어준 : 너무 무섭다. 이거. 그러면 이제 이거는 앞서가는 얘기기는 하겠지만 우리가 걱정하는 AI가 어떤 의식을 가지게 되고, AI가 순간 인간을 적으로 삼으면 그걸 모든 자원을 활용해서 그렇게 할 수 있는 거 아니에요.
▷박태웅 : 제 생각에는 인간을 적으로 삼으면 그때는 그냥 다 죽는 수밖에 없을 것 같아요.
▶김어준 : 다 죽는 거 아니에요. 그러면 그런데 너무 위험한 시도를 하고 있네.
▷박태웅 : 예 그리고 그게 그뿐 아니고 앤트로픽이라는 데가 있어요. 클로드라는 AI 개발하는 데인데, 여기는 헌법적 AI를 개발하겠다고 오픈 AI에서 떨어져 나간 사람들이에요. 그게 뭐냐 하면 인간의 윤리를 AI가 처음부터 헌법처럼 내재화하고 개발을 시작해야 한다. 뜻은 너무 좋죠.
▶김어준 : 윤리를 지키는 AI
▷박태웅 : 앤트로픽이 미국 국방정보기관에 클라우드 닷 가브, 라는 정부 전용 모델을 공급하기로 계약을 맺었어요.
▶김어준 : 이건 뭘 하는 겁니까?
▷박태웅 : 팔란티어하고 아마존하고 같이하는 건데 작전 계획 수립 평가 정보 분석 과정에 들어가고요. 기밀 문서, 정보 요약, 교차 검증, 사이버 보안 및 위협 탐지 이런 거 다 합니다. 그러니까 팔란티어 자체는 자치 AI를 엄청난 성능을 가진 걸 개발하고 있지는 않아요. 그냥 응용하는 곳이지. 거기에 엔진으로 클라우드를 넣겠다라는 계약입니다.
▶김어준 : 그러니까 지금 AI하고 군사 분야가 지금 붙기 시작했네요.
▷박태웅 : 전면적으로. 그러니까 이때까지 그 윤리적이고 공익적이고 이런 걸 하기 위해서 우리는 비영리 기업인 오픈 AI를 설립했어요. 인간을 해치면 안 되기 때문에 헌법적 AI를 만드는 앤트로픽을 설립했어요. 구글은 사람을 해치는 일을 하지 않아요. 막 그랬었잖아요. 그 회사들이 전부 태도를 바꿔서 국방으로 들어가고
▶김어준 : 돈이 거기서 나오니까
▷박태웅 : 그것도 있는데. 더 문제는 뭐냐 하면 이 사람들의 철학적 배경이 바뀌었어요.
▶김어준 : 어떻게 바뀌었습니까?
▷박태웅 : 그 대표적인 게 실리콘밸리의 팔란티어 CEO가 알렉스 카프라는 사람인데 이 사람이 뭐라고 얘기하냐 하면 9·11 이후에 정보 분석 실패에 대한 반성으로 CIA하고 손잡고 만든 게 팔란티어거든요. 우리가 정보 분석에 실패해서 당했다. 그리고 이 양반이 원래 좌파였는데 우파로 돌아서면서 신애국주의라는 사상을 만들어요. 그게 뭐냐 하면 애국심은 감정적 구호가 아니다. 국가 시스템의 지속성, 자유 수호를 위한 기능적 가치다. 그래서 기술 기업이 자유 국가에 봉사하지 않으면 결국 그 기술은 자유를 파괴하는 데 쓰인다. 서구의 부상은 사상이나 가치의 우월함 덕분이 아니라 조직된 폭력 다시 말해서 군대와 경찰이죠. 군대라고 해야겠죠.
▶김어준 : SF에서 인류 종말이 다가갈 때 나오는 논리인데 이게
▷박태웅 : 딱 그대로죠. 그리고 평화주의자는 실은 전쟁주의자다. 왜냐하면 전쟁을 막지 못하기 때문에. 그리고 이게 핵심인데 미국은 여전히 좋은 편이고 다른 나라와 비교하면 그 격차가 크다. 그러므로 미국이 압도적인 우위를 유지할 수 있도록 우리가 도와야 한다. 그래야 평화가 유지된다. 이런 사상인데요. 여기에 지금 미국의 거대 AI 기업들이 다 동의를 하고 있는 거예요.
▶김어준 : 어 굉장히 위험하네요.
▷박태웅 : 그러니까 자기들의 어떤 인간을 위해한다는 그 가치와 배치되지 않으면서 국방에 뛰어들 수 있는 명분을 이 친구가 만들어준 거죠.
▶김어준 : 그러니까, 이런 거네. 자기들은 좋은 사람들이기 때문에, 이 AI를 군 역량을 더 강하게, 지금도 절반 전 세계 절반의 군사력이라고 하는데. 더 강하게 만들어서 어느 누구도 넘볼 수 없는 군사력으로 키워야 된다. 거기에 AI를 우리가 투입해야 된다. 이거
▷박태웅 :왜냐하면 우리는 선하니까
▶김어준 : 우리는 선하니까. 그래 놓고 트럼프 뽑았으면서. 이야, 진짜 위험하네.
▷박태웅 : 이게 사실은 끝까지 밀고 나가면요. 히틀러의 아리안족 우월주의하고 구분할 수 없게 됩니다.
https://www.ddanzi.com/broadcast/849130997
겸공 1시간 38분째부터 나오니까 관심있는 덬들은 영상도 참고해봐
https://www.youtube.com/live/n6hXz3K-f70?si=pQ-XUdl6Bwl4zHhv
