Anthropic, 국방부 제재와 AI 규제 촉구

Anthropic은 국방부 제재와 AI 사용 논란에 직면했으며, 강력한 AI 규제와 제3자 테스트, 정부 감독 프레임워크를 제안했습니다.

Anthropic CEO 다리오 아모데이는 자사의 AI 모델이 이란 미사일 공격에 관여했는지 확신하지 못한다고 밝혔습니다. 이로 인해 Anthropic은 미 국방부와의 갈등 끝에 펜타곤 시스템에서 금지됐습니다. 갈등의 원인은 국방부가 Claude AI 모델에 대한 무제한 접근을 요구한 데 있습니다. Anthropic은 대규모 감시와 완전 자율 무기 사용을 거부했고, 국방부는 이를 공급망 위험으로 간주했습니다. 아모데이는 최첨단 AI 모델에 대한 제3자 의무 테스트와 네 가지 위험 범주에 초점을 맞춘 독립 평가 입법안을 제안했습니다. 또한 Anthropic은 표준화된 테스트 프레임워크를 지원하는 Mythos 5를 출시했습니다. 아모데이는 FAA 안전 기준을 본뜬 강제 규제의 필요성을 강조하며, 위험한 AI 배포 차단, 매출 기반 벌금, 공공 회복력 확보 등 정부 권한을 제안했습니다. 독립 테스트, 강력한 보안, 공공 공개도 요구합니다.