[선 넘는 알고리즘] 8년 전 인간의 존엄성에 반하는 연구 않겠다던 카이스트, 학문·군사 결합 두드러져AI 무기 이슈를 '국방 혁신 vs. 윤리적 우려'라는 익숙한 틀에서 빼내 들여다봅니다. 알려지지 않은 사실의 조각을 통해 한국 사회가 AI 무기를 어떻게 활용하는지 살펴봅니다. <편집자말>
2026년은 인류 역사에 어떻게 기록될까? 지난 2023년 7월 안토니우 구테흐스 유엔 사무총장이 "2026년까지는 반드시 자율무기를 규제할 국제법을 만들어야 한다"고 호소했던 바로 그 해가 어느새 절반도 남지 않았다.
그 사이 자율무기는 눈앞의 현실이 됐다. 우크라이나와 가자지구의 전장에선 AI가 사람 대신 표적을 선정한다. AI 무기는 더 이상 미래의 영화 속 이야기가 아니다. AI 무기를 통제할 규범을 만들 시간은 턱없이 부족한데, 기술이 전장에 도입되는 속도는 무섭게 빠르다. 이 위험천만한 시차를 바라보며, 또 하나의 약속이 떠올랐다. 8년 전 한국의 한 대학이 세계를 향해 한 약속이다.
2018년 4월 4일, 내로라할 AI·로보틱스 분야의 과학자와 엔지니어 50여 명이 한국과학기술원(카이스트 KAIST, 아래 카이스트)을 보이콧했다. 한화시스템과 공동으로 추진하는 인공지능 무기 연구에 항의해 카이스트와의 관계를 끊겠다고 선언한 것이다.명단에는 현대 딥러닝의 창시자로 인정받는 제프리 힌턴도 있었다.
이들이 문제 삼은 건 카이스트가 한화시스템과 공동 설립한 ' 카이스트 국방 지능형 군집체계 연구센터'다. 당시 카이스트는 센터의 설립 목적을 ▲방위산업 물류 시스템 ▲무인 항법 ▲지능형 항공훈련 시스템 등에 대한 알고리즘 개발이라고 밝혔다.
30여 개국의 50여 명의 연구자들은 공개서한을 통해 카이스트가 인간의 삶에 해를 끼치는 것이 아니라 삶을 개선하는 방향으로 AI 연구에 힘써 달라 당부했다. 학자들은 "카이스트 총장이 '연구센터가 의미 있는 인간의 통제가 없는 자율 무기(autonomous weapons) 개발을 하지 않겠다'는 확약을 하기 전까지 공식적으로 카이스트 어떤 부분과도 협력을 보이콧하겠다"고 했다. 보이콧의 구체적 예로 "카이스트를 방문하지 않고, 카이스트에서 방문자를 받지도 않고, 카이스트와 관련된 연구에 참여하지 않겠다"고 밝혔다.
연구자들의 선언에 카이스트는 즉각 응답했다. 카이스트는 신성철 총장 명의의 이메일과 해명 자료를 통해 "카이스트는 치명적인 자율무기 시스템 및 킬러 로봇 개발에 참여할 의도가 전혀 없음을 다시 한번 분명히 밝힙니다. 카이스트는 인공지능을 포함한 모든 기술 적용에 따르는 윤리적 우려에 대해 깊이 인지하고 있습니다"라고 답했다. 이 응답으로부터 5일 후, 연구자들은 보이콧을 철회했다.
이때의 보이콧은 유엔에서 '킬러로봇'이라 불리는 '자율살상무기체계' 금지 협약 논의가 막 시작되던 시기라는 점에서 상징성이 있었다. 하지만 카이스트에 대한 지속적인 감시나 모니터링이 이후에 작동하지 않아 두고두고 아쉬움이 남는다.
그렇다면 8년 전, "자율무기와 킬러로봇 개발에 참여하지 않겠다"는 카이스트의 약속은 지켜졌을까. 카이스트는 이 약속을 지키지도, 그렇다고 어기지도 않았다. 사실 이 세상의 그 어떤 무기 개발자도, 그 어떤 국가 기관도 자신들이 킬러로봇과 자율무기를 만들고 있다고 인정하지 않는다. 이들은 대개 비슷하게 설명 혹은 변명한다. 알고리즘의 루프(Loop), 즉 표적을 탐지하고 식별해 타격하기까지 반복되는 의사결정 순환 고리 어딘가에 사람이 있고, 최종 결정권은 여전히 인간이 쥐고 있다며 제작을 부인하는 식이다.
하지만 '최종 결정권을 인간이 가지고 있다'는 말이 킬러로봇과 자율무기가 인간의 적극적인 통제를 받는다는 뜻은 아니다. 모든 과정을 인공지능이 진행하고, 마지막 타격 버튼만 인간이 누르는 구조여도 '최종 결정권은 인간이 쥐고 있다'고 말할 수 있기 때문이다.
카이스트가 내건 약속의 허점은 또 있다. "인간의 유의미한 통제가 결여된 무기를 개발하지 않겠다"고 다짐했지만, 무엇이 '유의미한 통제'인지 끝내 정의하지 않았기 때문에 빠져나갈 구석이 상당하다.
이렇듯 금지선이 모호하게 그어져 있는 한, 자율무기와 관련한 어떤 연구도 금을 밟지 않았다고 주장할 수 있다. 이들이 (사실상) 개발한 자율무기가 표적을 탐지하든, 타격 순위를 제안하든, 스스로 항로를 찾든, 프로세스 끝 자리에 인간이 앉아 있으면 '인간이 통제하는 무기'로 포장된다.
사실 지난 8년의 시간 동안 카이스트는 학문과 군사의 결합을 확장해 왔다. 12개 연구 조직을 거느린 거대 플랫폼인 안보융합원이 구축됐고, 사이버안보와 안보과학기술을 전문으로 가르치는 두 개의 대학원이 문을 열었다.
지난해에는 LIG넥스원과 '국방 자율시스템 연구센터' 설립 및 운영협력을 위한 업무협약을 체결했다. 당시 카이스트는 "지능형 군집체계는 전투 효율과 비용 절감을 동시에 달성할 핵심 기술"이라며 "산학·방산 협력을 통해 세계적 수준의 국방 AI 인재를 양성하고 원천기술을 확보하겠다"고 밝혔다.
정부 권력의 자본 투입도 더해졌다. 방위사업청은 2019년부터 2023년까지 이 대학에 특화연구센터 세 곳을 지정하고 정부출연금을 배정했다. 한 곳은 고고도 탄도탄을 식별하고 요격하는 유도제어 기술을, 다른 한 곳은 국방 인공지능 기초연구 과제를, 나머지 한 곳은 인공지능이 스스로 상황을 인식하고 판단하는 초소형 위성군 기술을 연구한다.
기술을 수식하는 연구의 언어도 훨씬 과감해졌다. 2018년의 4개 과제가 무기의 보조적인 주변부 알고리즘에 머물렀다면, 현재 '카이스트 국방 지능형 군집체계 연구센터'는 보다 전면에서 군사용어를 사용한다. '유무인 협동교전(드론과 유인 전력이 한 팀으로 싸우는 개념)'과 '감시·정찰·요격 적용', 그리고 '분산형 Embodied-AI(체화된 인공지능)'라는 실전적 군사 용어를 활용하는 식이다.
문득 미야자키 하야오의 애니메이션 <바람이 분다>가 떠오른다. 일본군의 2차대전 주력 전투기이자 '가미카제 특공대'의 자살공격에 쓰였던 '제로센'의 실제 설계제작자 호리코시 지로를 소재로 삼았다.
영화는 설계사 호리코시가 2차대전 당시 일본 해군의 요청에 따라 전투기 '제로센'을 개발하는 모습을 그렸다. 그는 어린 시절 책에서 이탈리아의 세계적 비행기 제작자인 잔니 카프로니 백작과 만난 뒤 '아름다운 비행기'를 만들겠다는 다짐을 한다. 결국 전쟁을 앞두고 미쓰비시에서 비행기 설계팀장을 맡아 2차대전이 한창이던 1939년 항속거리와 선회각도 등에서 연합군을 능가하는 전투기를 완성한다.
아름다운 비행기를 만들고 싶던 사람이 제로센 전투기를 만드는 데 시대와 제도, 그리고 그의 재능을 원하는 조직이 영향을 미쳤다. 시대의 악에 눈을 감은 채 순수한 재능만을 갈고닦은 호리코시 지로가 마주한 결말은 어땠나. 영화 막바지, 종전을 맞이한 호리코시 지로는 꿈속에서 푸른 하늘을 가득 채우며 날아가는 자신의 아름다운 비행기들을 바라본다. 그리고 나지막이 "단 한 대도 돌아오지 않았다"라고 고백한다.
자식처럼 아꼈던 그의 비행기가 전쟁의 광기 속에서 자살 특공대(가미카제)와 함께 태평양의 바다로 흔적 없이 사라졌기 때문에 나온 고백이었다. 그의 발밑에는 부서진 비행기의 잔해가 거대한 공동묘지를 이루고 있었다. 아름다운 하늘을 그렸던 천재 비행 설계사의 꿈은, 군국주의의 광풍 속에 수많은 청춘의 목숨을 앗아간 학살의 잔해라는 참혹한 결말이 됐다.
다시 카이스트에 묻고 싶다. 인간의 유의미한 통제가 결여된 자율무기를 포함해, 인간의 존엄성에 반하는 연구 활동을 수행하지 않겠다는 카이스트의 약속은 어떻게 됐나.
https://n.news.naver.com/article/047/0002523230?cds=news_media_pc
