Попередження: дослідники залишають Anthropic через ризики ШІ

Дослідники з Anthropic і OpenAI попереджають: ризик вимирання людства через ШІ перевищує 10% за десять років, засуджуючи безвідповідальну гонку до суперінтелекту.

Джейкоб Коксон, дослідник, який працював над навчанням моделей штучного інтелекту для OpenAI та Anthropic, нещодавно оголосив про свою відставку. Він пояснив це серйозними занепокоєннями щодо неконтрольованої гонки у розробці самовдосконалюваної суперінтелектуальної системи. Коксон звинувачує обидві компанії у безвідповідальності та «грі в російську рулетку з нашими життями», вважаючи, що ШІ може становити загрозу людству вже до кінця десятиліття. Інші дослідники з Anthropic, зокрема Ян Лейке та Еван Хабінгер, оцінюють ризик вимирання людства через ШІ у понад 10% протягом наступних десяти років. Ці попередження підкреслюють розрив у довірі до управління та безпеки ШІ, закликаючи до кращої координації між лабораторіями, посилених аудитів і уповільнення впровадження передових моделей. Зростаючі побоювання можуть вплинути на оцінку компаній галузі та спонукати регуляторів і клієнтів вимагати більше контролю та прозорості.