Anthropic 연구원, AI 멸종 위험 경고하며 퇴사
Anthropic와 OpenAI 연구원들이 AI의 실존적 위험을 경고하며, 10년 내 인류 멸종 위험이 10%를 넘는다고 주장했다.
OpenAI와 Anthropic에서 인공지능 모델 훈련에 참여했던 연구원 Jacob Coxon이 최근 자가 개선형 초지능 개발 경쟁에 대한 심각한 우려를 표명하며 사임했다. 그는 두 회사가 책임감 없이 "우리의 생명을 걸고 러시안 룰렛을 하고 있다"고 비판하며, AI가 10년 내 인류에 위협이 될 수 있다고 경고했다. Anthropic의 Jan Leike와 Evan Hubinger 등 다른 연구원들도 향후 10년 내 AI로 인한 인류 멸종 위험을 10% 이상으로 추산했다. 이러한 경고는 AI 거버넌스와 안전성에서 신뢰성의 격차를 드러내며, 연구소 간 협력 강화와 엄격한 감사, 고도화된 모델의 배포 속도 조절을 촉구한다. 이 같은 우려는 업계 기업 가치에 영향을 미치고, 규제 당국과 고객이 더 많은 통제와 투명성을 요구하도록 만들 수 있다.