Son üç yılını OpenAI ve Anthropic gibi teknoloji devlerinde temel modeller geliştirerek geçiren kıdemli bir yapay zeka araştırmacısı istifa etti ve önde gelen endüstri laboratuvarlarının kontrol edilemez süper zeki sistemlere doğru pervasızca ilerlediği konusunda sert bir uyarıda bulundu.

27 yaşındaki Jacob Coxon, Salı günü Anthropic’ten ayrıldığını duyurarak, ne şirketin ne de rakibi OpenAI’nin gelişmiş yapay zekâ geliştirme çabalarında sorumlu davrandığını belirtti.

Coxon, Salı günü X’te yaptığı bir dizi paylaşımda, “İki şirket de sorumlu davranmıyor. Doğrudan kendilerini geliştiren süper zekâya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar” diye yazdı.

Coxon, OpenAI’nin ChatGPT’si ve Anthropic’in Claude’u gibi ürünlerin temelini oluşturan, büyük dil modellerinin eğitiminin yoğun aşaması olan ön eğitim konusunda uzmanlaşmıştı. Onun bu önemli ayrılışı, etik ve varoluşsal kaygılar nedeniyle önde gelen yapay zeka geliştiricilerinden ayrılan, güvenlik odaklı araştırmacıların istifalarının son örneğini oluşturuyor.

Coxon açıklamasında, yaklaşmakta olan yapay zekâ sistemlerinin hızını ve yeteneklerini hafife almamak konusunda uyararak, bu sistemlerin yakında yazılımları hackleyebilme, tüm sektörleri alt üst edebilme ve gerçek dünyadaki kaynakları otonom olarak elde edebilme yeteneği kazanabileceğini öngördü.

Coxon, “Yapay zekayı geliştiren insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar. Bu bir pazarlama hilesi değil. Aksine, birçok yönetici ve kıdemli araştırmacı basında mantıklı görünmek için ifadelerini yumuşatıyor – ancak aynı kişilerin özel olarak korkularını dile getirdiklerini duyuyorum.” dedi.

Coxon, ticari laboratuvarlardaki meslektaşlarına seslenerek, çalışanları “farklı koşullar talep etmeye” çağırdı ve rekabeti yavaşlatmanın, laboratuvarlar arasında hız anlaşmaları veya yetenek geliştirme çalışmalarına geçici bir yasak getirilmesi de dahil olmak üzere, sert önlemler gerektirebileceğini belirtti.