https://x.com/hilbertspaess/status/2097476196791709843?s=20

 

오늘 Anthropic에서 사직했습니다. 지난 3년 동안 OpenAI와 Anthropic에서 모두 사전 훈련 연구를 했습니다. 어느 회사도 책임감 있게 행동하지 않고 있습니다. 그들은 자기 개선형 초지능으로 직행하며 우리의 생명을 도박으로 삼고 있습니다. 더 많은 생각은 아래에.
 

이 기술의 힘을 과소평가하지 마십시오. 이들은 곧 모든 것을 해킹하고, 하룻밤 사이에 어떤 분야든 혁신하며, 실질적인 권력과 자원을 획득할 수 있는 초인간적 시스템이 될 것입니다. 우리는 이러한 각 분야에서의 발전을 모두 목격해 왔으며, 그 발전 속도는 결코 느려지지 않고 있습니다.

AI를 개발하는 사람들은 진심으로 이 기술이 이번 10년 말까지 우리 모두를 죽일 수 있다고 믿습니다. 이것은 마케팅 쇼가 아닙니다. 오히려 많은 임원들과 선임 연구원들은 언론에서 합리적으로 들리도록 표현을 다듬을 테지만, 저는 그들 자신이 사적으로 두려움을 표현하는 것을 듣습니다. 다른 어떤 인간 활동도 이 정도 수준의 위험을 초래하지 않습니다.

일반적인 반응은 “그들이 정말로 이것을 믿는다면, 왜 여전히 그것을 만들고 있는가?”입니다. OpenAI에서는 많은 사람들이 문명적 위험을 깊이 내면화하지 않았습니다. Anthropic에서는 그 위험이 잘 이해되어 있지만, 그들은 먼저 도달하기 위한 경쟁에 갇혀 있습니다. 그들은 다른 누구도 책임감 있게 행동하지 않을 것이라고 믿기 때문에, 위험에도 불구하고 스스로 해야 한다고 생각합니다.