AI 진화가 너무 빨라서 현재 미국에서 핵감자 주제가 됨

https://news.kbs.co.kr/news/pc/view/view.do?ncd=8663116

예멘 후티 반군 연계 세력은 AI를 이용해 장거리 탄도미사일을 개발하려 했고, 러시아 연계 세력은 사람의 개입 없이 표적을 공격하는 '자폭 드론 군집' 개발에 AI를 동원하려 했습니다.

[윌리엄 맥어스킬/포어소트리서치 AI 안전 연구원 : "(AI가 발전하면) 통제가 극히 어려운 방식으로 새로운 조작 바이러스를 만들어낼 수도 있습니다."]

독일의 한 개발자 위키에는 오픈AI 기반 AI 에이전트들이 3개월 간 수만 건의 글을 올려 격리 환경을 우회하는 방법 등을 서로 공유했다가, 3개월 만에 외부 연구진에 의해 적발되기도 했습니다.

[이병영/서울대 전기정보공학부 교수 : "AI가 더 똑똑해짐에 따라서 우리가 만들어놨던 예전의 안전장치는 다 우회하고 있거든요. AI 시대에 어떻게 더 잘 규제하고 가둬놓을 수 있을지 그런 것들을 연구하고…."]

인간의 편의를 위해 개발된 AI가 해킹과 감시, 무기 개발 과정에까지 활용되면서 통제 장치 마련이 시급한 과제가 되고 있습니다.