Araştırmacılardan yapay zekada yok olma riski uyarısı

Anthropic ve OpenAI araştırmacıları, yapay zekanın insan neslinin yok olma riskini %10'un üzerinde görerek, sektörde sorumsuzluk konusunda uyarıyor.

OpenAI ve Anthropic'te yapay zeka modellerinin eğitimi üzerine çalışan araştırmacı Jacob Coxon, ciddi endişeler nedeniyle yakın zamanda istifa ettiğini açıkladı. Coxon, iki şirketi sorumsuz davranmakla ve "hayatlarımızla Rus ruleti oynamakla" suçluyor. Ona göre, yapay zeka bu on yılın sonunda insanlığı tehdit edebilir. Anthropic'ten Jan Leike ve Evan Hubinger gibi diğer araştırmacılar da önümüzdeki on yıl içinde yapay zekanın insan neslinin yok olma riskini %10'un üzerinde görüyor. Bu uyarılar, yapay zeka yönetişimi ve güvenliğinde güvenilirlik açığına işaret ediyor. Araştırmacılar, laboratuvarlar arası daha iyi koordinasyon, güçlendirilmiş denetimler ve ileri düzey modellerin yaygınlaştırılmasının yavaşlatılması çağrısında bulunuyor. Artan endişeler, sektördeki şirketlerin değerlemesini etkileyebilir ve düzenleyiciler ile müşterilerin daha fazla kontrol ve şeffaflık talep etmesine yol açabilir.