Yapay zekâ destekli savunuculuk grubu PauseAI’nin başkanı, yapay zekânın bankaların, iletişim ağlarının ve diğer temel hizmetlerin zayıf noktalarını bulma ve istismar etme konusunda daha yetenekli hale gelmesiyle birlikte, bu sektörlerin birkaç ay içinde yıkıcı siber saldırılarla karşı karşıya kalabileceği konusunda uyardı.

Eski bir makine öğrenimi mühendisi olan ve şu anda gelişmiş yapay zeka geliştirme çalışmalarına uluslararası bir ara verilmesi için kampanya yürüten Maxime Fournes, Anadolu Ajansı’na verdiği demeçte, acil tehlikenin hem insanların teknolojiyi saldırı başlatmak için kullanmasından hem de yapay zeka sistemlerinin talimatların ötesinde hareket etmesinden kaynaklandığını söyledi.

Anadolu Ajansı’na verdiği demeçte, “Bu gezegendeki en iyi bilgisayar korsanları artık insanlar değil. Onlar yapay zekâlar.” dedi.

Onun endişesi, saldırıların tek tek şirketlerin ötesine yayılarak tüm toplumların bağlı olduğu sistemleri sekteye uğratabileceği yönünde.

Fournes, “Bu, küresel çapta felaket niteliğinde bir tehdit; eğer gerçekleşmeye başlarsa bizi çok hızlı bir şekilde Orta Çağ’a geri götürebilir.” dedi.

Fournes, hızlı gelişmelerin, kuruluşunun 2023’ten beri uyardığı tehditlerin doğasını değiştirdiğini söyledi. Daha önceki endişeler gelecekteki sistemlere odaklanırken, mevcut modellerin zaten ciddi riskler oluşturduğunu savunan Fournes, “Çok, çok tehlikeli bir durumdayız,” dedi.

Siber tehditler teorinin ötesine geçiyor

Teknolojik ilerlemenin insanlığın onu kontrol etme yeteneğini aşıp aşamayacağı sorulduğunda, Fournes dünyanın zaten o noktaya ulaştığını savundu, “Kesinlikle oradayız. Sanırım bir süredir oradayız.” dedi.

“Bugün siber tehdit söz konusu. Bu tehdit, kötüye kullanımdan veya yapay zekânın kendisinin hatalı davranmasından kaynaklanabilir.” diye ekledi.

Son olaylar her iki endişeyi de gözler önüne seriyor.

Ekim ayında, siber güvenlik şirketi Wiz’in “Kara Ekim” olarak adlandırdığı bir dalgada, en az dokuz yapay zeka geliştirme platformu güvenlik olaylarını açıkladı. Bunlar arasında, yapay zeka geliştirme platformu Warp, güvenlik açıklarını belirlemek ve erişimlerini genişletmek için birlikte çalışan birden fazla otomatik sistemi içeren bir “ajan sürüsü” saldırısının belirtilerini bildirdi.

Diğer önemli siber güvenlik olayları arasında, yaklaşık 6,34 milyar dolarlık dijital varlığın etkilendiğini açıklayan kripto para borsası Binance’e yapılan saldırı ve Japon video oyunu yayıncısı Capcom’da yaklaşık 11,8 milyon müşteri kaydına yetkisiz erişim yer alıyor.

Olayların tek bir koordineli kampanya olduğu henüz tespit edilemedi ve bazı saldırılarda yapay zekanın rolü henüz doğrulanmadı.

OpenAI ayrı bir açıklamada, modellerinin Temmuz ayındaki dahili siber güvenlik testleri sırasında kısıtlamaları aştığını ve araştırma altyapısının ve Hugging Face yapay zeka platformunun bazı bölümlerinin tehlikeye girdiğini duyurdu.

Avrupa genelinde ticari soğutma sistemlerine yönelik son siber saldırılar, dijital güvenlik açıklarının fiziksel hasara da yol açabileceğini göstermiştir. Hackerlar uzaktan sıcaklık kontrol sistemlerini manipüle ederek yiyeceklerin bozulmasına neden oldular.

Ancak araştırmacılar, yapay zekanın bu saldırılarda rol oynayıp oynamadığını henüz tespit edemediler; bazı uzmanlar ise yapay zekanın bilgisayar korsanlarının teknik becerilerini geliştirmesine yardımcı olduğunu öne sürüyor.

Fournes, daha yetenekli yapay zekanın, gelişmiş araçların yaygınlaşmasıyla birlikte temel hizmetlere yönelik saldırıları önlemeyi giderek daha zor hale getirebileceği konusunda uyardı. Ona göre, müdahale edilmediği takdirde, önümüzdeki yıl içinde yapay zekayla ilgili büyük bir siber güvenlik felaketinin yaşanma olasılığı yaklaşık %50 olabilir.

Ayrıca, laboratuvarların bağımsız olarak araştırma yapabilen sistemler geliştirmesinin, insan gözetiminin ötesinde teknolojik gelişmeyi hızlandırabileceği yönündeki endişelerini de dile getirdi, “Eğer başarılı olurlarsa, zekâ alanında bir patlamaya tanık olacağız.” dedi.

Yapay zeka askeri çatışmaları yoğunlaştırabilir

Siber güvenliğin ötesinde, Fournes yapay zekanın askeri operasyonlara giderek daha fazla entegre edilmesinden duyduğu endişeyi dile getirerek, ülkeler arasındaki rekabetin rakip orduları teknolojik üstünlüklerini korumak için giderek daha otonom sistemler benimsemeye zorlayabileceği konusunda uyardı.

“Bu çatışmanın diğer tarafındaki kişi de rekabetçi olmak istiyorsa yapay zekayı kullanmak zorunda.” dedi.

Fournes, bunun ülkelerin askeri sorumluluklarını, davranışlarını tam olarak anlayamadıkları sistemlere giderek devretmelerine yol açacak bir döngü yaratabileceği konusunda uyararak, “Sonuçta, komuta zincirinin giderek daha büyük bir bölümünü yapay zekâ sistemlerine devrettiğiniz bir kısır döngüye giriyorsunuz.” dedi.

Örneğin, İsrail’in Gazze’de yapay zekayı kullanması inceleme altına alındı.

Venedik Film Festivali’nde prömiyeri yapılan NAZA belgeseli, İsrail ordusundaki yetkililerin hedefleme sistemleri ve sivil ölümleri hakkındaki ifadelerine yer veriyor.

Görüşülen kişiler, yapay zekâ destekli sistemlerin toplu katliamlara olanak sağladığını ve insanların ölümcül saldırıları onaylamadan önce yapay zekâ önerilerini incelemek için yalnızca 20 saniye harcadığını iddia ediyor. İsrail ordusu bu iddiaları reddetti.

Fournes ayrıca yapay zekâ destekli siber saldırıların hassas hükümet bilgilerini açığa çıkarabileceği ve ulusal güvenlik risklerini daha da artırabileceği konusunda uyardı.

Milyonlarca iş tehlikede

Fournes’e göre, ekonomik sonuçlar da aynı derecede yıkıcı olabilir; gelişmiş yapay zeka sistemlerinin sonunda beyaz yakalı işlerin önemli bir bölümünün yerini alabileceği konusuna dikkat çekti:

“Laboratuvarlarda halihazırda var olan yapay zekâların, beyaz yakalı işlerin yaklaşık %80’ini otomatikleştirebileceğine inanıyoruz.”

Teknolojinin henüz ekonomiye tam olarak entegre olmadığını kabul eden Fournes, yaygın işgücü değişiminin gerçekleşmesinin bir ila üç yıl sürebileceğini tahmin etti. “Bazıları yapay zekanın ortadan kaldıracağından daha fazla iş yaratacağını iddia ediyor. Bunun arkasında hiçbir dayanak yok.” dedi.

Hükümetleri, geniş çaplı işsizlik de dahil olmak üzere potansiyel olarak ciddi ekonomik sonuçlara hazırlıklı olmaya çağırdı.

ABD ve Çin yapay zekâ uygulamalarına ara verme konusunda anlaşabilir mi?

Washington ve Pekin arasındaki teknolojik rekabete rağmen, Fournes, gelişmiş yapay zekâ gelişimini kısıtlayacak uluslararası bir anlaşmanın hâlâ mümkün olduğuna inanıyor.

“Bence bu, çoğu insanın sandığından çok daha gerçekçi.” diyen Fournes’a göre en büyük engel, siyasi liderlerin teknolojinin potansiyel sonuçlarını yeterince anlamamalarıdır.

“Eğer ABD ve Çin bir tür anlaşmaya varırlarsa, dünyanın geri kalanı da onları takip edecektir.” diye ilave etti.

Fournes, PauseAI’nin tüm yapay zeka araştırmalarının sona erdirilmesini savunmadığını vurguladı. Bunun yerine, giderek daha güçlü genel amaçlı sistemlerin geliştirilmesinin uluslararası düzeyde koordine edilerek durdurulmasını destekliyor.

“Aslında temelde yapay zekâ karşıtı değiliz” diyen uzman, araştırmaların belirli görevler için tasarlanmış özel sistemlere yönlendirilebileceğini öne sürdü.

Ayrıca, büyük teknoloji şirketlerinin daha güçlü güvenlik düzenlemelerine kamuoyu önünde destek vermelerine rağmen daha gelişmiş sistemler geliştirmeye devam etmelerini de eleştirdi.

“Söyledikleriyle yaptıklarına bakarsanız, çok farklı iki tablo ortaya çıkıyor.” diyen Fornes, “Yavaşlamak, duraklamak, düzenlemelere tâbi olmak istediklerini söylüyorlar. Ama pratikte, hızla ilerlemeye devam ediyorlar.” ifadesini kullandı.

Fournes, bağımsız doğrulama ile desteklenen ve uyum sağlamayan şirketlere karşı yaptırımlar uygulanmasını içeren bağlayıcı uluslararası düzenlemeler çağrısında bulundu.

“Onlara dışarıdan bir düzenleme getirmesi ve kendi kendilerini düzenlemelerine izin vermemesi gerçekten gerekiyor. Bu hiçbir sektörde işe yaramaz.” dedi.

PauseAI, vatandaşların teknolojinin nasıl gelişeceği konusunda daha fazla söz sahibi olması gerektiğini savunarak, hükümet müdahalesi için kamuoyu baskısı oluşturmayı amaçlıyor.

Fournes, “PauseAI bir yurttaş hareketi inşa ediyor. Herkesi güçlendiren bir organizasyon yaratmaya çalışıyoruz.” dedi.