Anthropic і Пентагон: конфлікт та заклик до регулювання ШІ

Anthropic конфліктує з Пентагоном через ШІ, закликає до незалежного тестування, жорсткішого регулювання та пропонує нові рамки для державного контролю.

Генеральний директор Anthropic Даріо Амодей висловив невпевненість щодо можливої участі ШІ компанії у ракетних ударах по Ірану. Це сталося на тлі суперечки з Міністерством оборони США, яка призвела до заборони використання Anthropic у системах Пентагону. Конфлікт загострився після вимоги Пентагону надати необмежений доступ до моделі Claude AI, яку використовували у військовій розвідці. Anthropic відмовилася дозволити використання своєї технології для масового стеження чи автономної зброї, через що Пентагон назвав компанію ризиком для ланцюга постачання. Амодей закликав до обов’язкового незалежного тестування передових моделей ШІ за чотирма категоріями ризику та анонсував законодавчу ініціативу щодо незалежної оцінки. Anthropic також запустила Mythos 5, що підтримує стандартизовану систему тестування. Амодей наголошує, що прозорості вже недостатньо, і закликає до обов’язкового регулювання потужного ШІ за зразком стандартів безпеки FAA. Нові політики Anthropic передбачають право уряду блокувати ризикові впровадження ШІ, накладати штрафи, а також забезпечувати стійкість суспільства та економічний захист працівників.