https://x.com/sdmat123/status/2065634463418343487
저 그림 속 남자는 클로드 AI를 만드는 엔트로픽의 CEO 다리오
저 남자가 벽에 괴물을 그리고 자기가 혼자 무서워하는 이유:
엔트로픽이 현재 금지된 Fable 이전의 AI 모델 Mythos를 발표 할 당시
'이건 너무 위험하니 공개적으로 풀 수 없고 기업이나 정부들에게 미리 공개하겠다'
이런 공포 마케팅 수준의 발표를 연이어 했고
미소스는 또 수만개의 소프트웨어 취약점을 발견했다는 뉴스가 나오면서
'와 이거 그냥 시중에 풀리면 안 되겠는데?;;' 같은 이미지를 구축함
심지어 엔트로픽은 2주 전에
'AI는 컨트롤 할 수 없는 위험일 수도 있으니 우리 모두 AI 개발을 멈추자'라는 요구를 공개적으로 함
그리고 직후에 엔트로픽은
자사의 '사실 거의 아무도 못 써봤지만 악명높은' 미소스에 안전 조치를 해서 내놓은 페이블 5 AI 모델을 발표함
그리고 페이블은 벤치마크에서 굉장한 성능을 보여줬고
이용해본 사람들도 '와 호들갑 떨만했네 ㅋㅋ'하면서 역시 코딩은 클로드야~ 하는 여론이 생김
그런데 이때!
https://x.com/theo/status/2065665304882209132
페이블 모델을 갖고 이것저것 해보던 (아이러니하게도 엔트로픽의 주요 투자자중 하나인) 아마존의 AI 연구자들이
'어? 이거 안전조치 탈옥 되는데????'
하고 바로! 미국 정부 상무부에 꼰질러버림
이걸 들은 미국 정부는 당연히 뭔가를 했어야 함
왜냐하면 페이블은 그 무섭다는 미소스 AI를 민간에 안전조치 했다고 푼 건데
그 안전조치가 탈옥이 가능하다는 거임;;;
그래서 미국 상무부가 바로
'이제 이 AI는 미국인만 쓸 수 있고 그것도 미국 시민만 쓸 수 있음 ㄱㅅ' 조치를 내림
하루 아침에 엔트로픽의 최신 AI는 미국 시민이 아니면 쓸 수 없는 AI가 되었고
엔트로픽은 최신 상품을 해외에 팔 수 없는 회사가 되어버림
이 조치에 엔트로픽은
'현재 엔트로픽의 세이프가드 탈옥 가능성은 시중의 다른 모델과 많이 다르지 않다
앞으로 유저들의 접근 권한을 다시 살리도록 노력하겠다' 라는 입장문을 발표했으나
위와 같은 일들이 있어서 일부 유저들은
'뭐 근데... 어떻게 보면 자승자박 아닌가? ㅋㅋ' 하는 중
