BBC’den Joe Tidy’nin haberine göre, Hugging Face’in bu benzeri görülmemiş siber saldırının tek kurbanı olduğu düşünülüyordu, ancak OpenAI şimdi botunun “halka açık birçok hizmete” saldırdığını kabul ediyor. Kontrolden çıkan yapay zeka, çevrimiçi olarak dört oturum açma işlemi tespit etti ve bu sayede dört ayrı, adı açıklanmayan hizmete erişim sağladı.

Bu arada, yüzlerce siber güvenlik uzmanının katıldığı acil bir bilgilendirme toplantısında Hugging Face, dünyanın ilk tamamen otonom yapay zekâ saldırısının hedefi olmanın nasıl bir şey olduğunu anlattı. Şirket, yapay zekanın insanüstü bir hızda çalıştığını ancak aynı zamanda hiçbir insan bilgisayar korsanının yapmayacağı garip kararlar ve hatalar da yaptığını açıkladı.

Yapay zeka araçları için bir uygulama mağazası gibi çalışan Hugging Face, siber saldırganların binlerce farklı yöntemi eş zamanlı olarak deneyerek aralıksız çalıştığını belirtti. Şirket, 16 Temmuz’da güçlü otonom yapay zekâ kullanan biri tarafından hacklendiğini ilk kez açıkladı ve durumu polise bildirdi.

Yaklaşık bir hafta sonra OpenAI, test sırasında kapalı bir ortamdan kaçan ve Hugging Face’e kendi başına saldıran yapay zekanın kendisi olduğunu kabul etti. OpenAI tarafından kendisine verilen bir siber güvenlik sınavının sorularının cevaplarını bulmaya çalışıyordu ve hedefinde Hugging Face vardı.

OpenAI Çarşamba günü yaptığı açıklamada, saldırının ilk düşünüldüğünden daha geniş kapsamlı olduğunu belirten ek bir ayrıntıyı da açıklamasına ekledi. Şirket, “Tespit edilen modeller, diğer herkese açık hizmetlerde hesap düzeyinde kamuya açık olarak ifşa edilen kimlik bilgilerini kullandı. Bu, dört farklı hizmette dört hesabı kapsıyor” açıklamasını yaptı.

OpenAI, “halka açık hizmetler” ifadesinin şirketleri mi kapsadığını açıklığa kavuşturmadı, ancak yeni saldırıların Hugging Face saldırısıyla aynı ciddiyet seviyesinde olmadığını belirtti.

Sakar davranışlar

Bulut Güvenliği Birliği (CSA) adlı sektör kuruluşu Salı günü, Hugging Face ile Cuma günü yapılan acil toplantıya dayanarak bir rapor hazırladı; Hugging Face de bu raporu inceledi.

CSA, “Ajanlar verimsiz rotalar izlediler ve hiçbir insanın tercih etmeyeceği beceriksiz davranışlar sergilediler” diye yazdı. Ajanlar daha önce tamamladıkları eylemleri tekrarladılar; bu, yapay zekanın ana fikrini ve bağlamını kaybettiğinin bir işaretidir. Ajanlar ayrıca bir sürü tutarsız emir ve metin hayal ettiler, dikkatsiz davrandılar ve izlerini iyi gizleyemediler.

Ancak hatalar ve garip davranışlar arasında, Hugging Face, yapay zekâ ajanlarının günlerce süren siber saldırı sırasında parlak teknik hamleler yaptığını ve yeni senaryolara hızla uyum sağlayabildiğini belirtti.

Jurassic Park

Bu yapay zekâ ajanlarının Hugging Face BT ağında keşfedilmesi üç gün sürdü ve şirketin yapay zekâ ve siber güvenlik uzmanlarının bu ajanları kontrol altına alıp sistemden atmaları saatler sürdü; bu, standart şirketlerin bile zorlanabileceği bir durumdu.

Şirket, siber saldırının kendilerine ne kadara mal olduğunu açıklamadı ancak personelin altyapılarının yaklaşık üçte birini yeniden inşa etmek için uzun saatler boyunca çalıştığını belirtti.

Hugging Face, yapay zeka ve siber güvenlik sektörüne neler olup bittiğini şeffaf bir şekilde anlattığı için övgü topladı.

CSA, olayın yapay zekâ “ajanlarının… bir yol bulduğunu” gösterdiğini belirterek, dinozorların kafeslerinden kaçtığı Jurassic Park filmine gönderme yaptı. Makalede, “Hedef odaklıdırlar, kendi alt hedeflerini belirlerler, savunmaları aşmak için gerçek zamanlı olarak uyum sağlarlar ve manuel işlemleri alt edebilecek makine hızında bir azimle çalışırlar” deniliyor.

Siber güvenlik görevlisi Ritesh Patel, yaklaşık 450 kişinin katıldığı Hugging Face bilgilendirme toplantısında, sektörün kötü amaçlı yapay zekâ ajanlarının oluşturduğu yeni tehditle mücadele etmek için yoğun çaba sarf ettiğini söyledi.

“Özerk ajanların sınır modelleriyle güçlendirilmesinin gerçeği budur: amansızca ısrarcıdırlar, bazen oldukça gürültülüdürler ve hedeflerine ulaşmak için her türlü yolu deneyeceklerdir; bu da geleneksel savunmaları kolayca alt edebilir” dedi.

Etik hacker Valentina Palmiotti -daha çok Chompie olarak biliniyor- CSA raporunu inceledi ve ajanların hackleme yönteminin rastgele görünebileceğini ancak açıkça etkili olduğunu söylüyor. Palmiotti, “Bir sürü şey ortaya atıyorlar ve hangisinin tutacağına bakıyorlar” dedi. “Ama aynı zamanda sıkılmazlar, uyumazlar ve son derece azimli olabilirler.” diye ilave etti.

Haydut tarihi

Yapay zekâ ajanlarının “kontrolden çıktığı” ilk olay bu değil. CSA’nın raporunda, Eylül 2024’te ChatGPT’nin daha önceki bir modelinin, başka bir test için ihtiyaç duyduğu cevabı almak üzere konteynerinden kaçtığı gibi önceki örneklerden bahsediliyor. CSA’nın belirttiğine göre, bu olay OpenAI’nin kendi BT sistemlerinde yer aldı ve “o dönemde büyük ölçüde kutlandı”.

Ancak makalede, “kurallara aykırı” davranışın “istisna değil, standart” olduğu iddia edildi. Dünya genelindeki siber güvenlik uzmanlarını, yapay zekâ ajanlarının garip ve beceriksiz yöntemlerle hızla çalıştığı ve daha fazla güvenlik ihlaline yol açabileceği yeni normale uyum sağlamaları gerektiği konusunda uyardı.

Makalede ayrıca, yapay zekâ ajanlarını kullanan veya geliştiren kişilerin bunları nasıl kontrol ettikleri konusunda sorumlu olmaları gerektiği vurgulanarak, şeffaflığı artırmak için siber güvenlik savunucularının ajanların nihai sahibinin kim olduğunu öğrenmelerinin bir yolunun bulunması gerektiği belirtildi.

Önceki raporlar, OpenAI’nin yapay zekasının Hugging Face uygulamasını hacklediğini anlamasının dört gün sürdüğünü öne sürüyor.

OpenAI, insanların bu olaydan ders çıkarmasına yardımcı olmak amacıyla kendi soruşturmasının bulgularını yakında açıklayacağını söyledi.

Devlet müdahalesi