Niğde Ömer Halisdemir Üniversitesi Öğretim Üyesi Prof. Dr. Cenay Babaoğlu, Elon Musk’ın OpenAI’a açtığı davayı ve bu sürecin yapay zekanın geleceği açısından ne ifade ettiğini değerlendirdi:

***

Teknoloji dünyasının kovanlarına çomak sokmayı seven Elon Musk, kuruluş sürecinde yer aldığı OpenAI şirketini ve şirket yöneticileri Sam Altman ile Greg Brockman’ı hedef alan davalarla gündemde. Davanın temelini kar amacı gütmeyen yapay zeka araştırmaları yürütmek amacıyla kurulan şirketin, Sam Altman yönetiminde kâr odaklı ve kontrolsüz bir büyüme sürecine yöneldiği, ayrıca son dönemde Microsoft’tan aldığı yatırımlarla kuruluş amacından uzaklaştığı yönündeki iddialar oluşturuyor. Hatta Musk, duruşmalarda kontrolsüz ve aşırı hırslı yükselen yapay zekayı meşhur bilimkurgu filmdeki “Terminatör” benzetmesiyle tanımlayarak suçlamalarını insanlığa karşı suç noktasına kadar yükseltti.

Dijital gelecek nasıl şekillenecek?

Bu dava her ne kadar teknoloji devlerinin ve oligarklarının bir mücadelesi olsa da dijital geleceğin kimin elinde ve hangi niyetle şekilleneceğine dair bir tartışmayı da içeriyor. Arenanın bir yanında teknolojik gelişimde devlet-şirket egemenlik rekabetinin mücadele alanı, diğer yanında özgürlük-güvenlik dengesi, öbür yanında ise teknolojik gelişimin finansmanında bağımsızlık sorunu duruyor. Bu çatışmanın her yönünde üç boyutlu bir ayna misali başka bir açmaz bulunuyor. OpenAI’ın bağımsızlıktan istihbari-güvenlik çalışmalarında Pentagon’a hizmet sunar bir duruma gelmesi; veri ihlalleri ve algoritmik önyargılarıyla şirketin demokratik niteliğinin aşınması ve finansman zorunluluğu adı altında kar hırsıyla yön değiştirmesi gibi şirketin başlangıç noktasıyla rotası arasındaki makas, Musk’ı haklı çıkarıyor.

Bu tartışmada OpenAI popüler figür olan bir yansıma gibi görülebilir. Çıkan tartışmaların kaynağı olan finansman dikkate alındığında Microsoft, Amazon, Nvidia gibi diğer başat şirketler de sürecin içerisinde. Aslında istisnalar hariç Silikon Vadisi’ndeki teknoloji şirketlerinin birbirleriyle ilişkileri, ABD ve İsrail istihbarat örgütleriyle işbirlikleri, etik değerlere dair umarsızlıkları, toplumsal normlara dair vurdumduymazlıkları, kültürel değerlere yönelik tektipçi yaklaşımları başlı başına büyük sorunlar. Teknolojinin gelişimindeki rolleri de dikkate alındığında bu teknokratik oligarşinin tepesinde yer alan Musk’ın şikayetleri hem anlamlı hem de şüpheli.

Çünkü Musk, bir yandan kar odaklılığı şikayet edip Terminatör senaryolarıyla insanlığı ele geçirecek bir yapay zeka geleceğinden dem vururken diğer yandan kendi xAI şirketiyle yapay zekayı geliştirmeye devam ediyor. Neuralink şirketiyle transhümanizm şüpheli çalışmalar yürütüyor. Dolayısıyla Musk-Altman çekişmesinde temel sorun daha çok yapay zeka çalışmalarında başat aktör kim olacak sorusunda gizli. Aslında bu tartışmadan hareketle doğru soru şu olmalı: Yapay zeka insanlığa hizmet eden bir araç, bir ortak miras mı olacak; yoksa tekno-oligarklar eliyle şekillenen ve insanlığa meydan okuyan bir araca mı dönüşecek?

Yapay zekanın kontrolsüz gelişimi ne kadar tehlikeli?

Maalesef bugüne kadar yapay zeka çalışmaları kar hırslarıyla şekillenen, insani değerleri öteleyen ve önce keşfet sonra gerekirse düzeltilir yaklaşımıyla ilerleyen bir gelişim çizgisi izledi. Bu maksimalist yaklaşım, distopyalarda insanlığa karşı gelen makineleri akla getirse de mesele bu kadar tekdüze değil ve aslında yapay zekanın kötü kullanımı yalnızca geleceğe dair de sorun oluşturmuyor. Çünkü yapay zeka sistemleri yalnızca sohbet robotları ya da dil modellerinden ibaret değil. Günümüzde güvenlik politikaları, askeri teknolojiler, yüz tanıma sistemleri, kredi derecelendirmeleri, işe alım süreçleri ve hatta kamu hizmetlerinde karar mekanizmalarını etkiliyor. Dolayısıyla bir algoritmanın; riskli, güvenilir, öncelikli tanımlamaları insanların hayatlarının akışını doğrudan etkileyebiliyor. Bu durum, yapay zekayı teknik bir araç olmaktan çıkarıp insanların hayatları hakkında kararlar alabilen bir aktöre dönüştürüyor. Otonom silahlar, dezenformasyon kampanyaları ve kritik altyapılara sızma gibi somut tehditler ise doğrudan bireylere ve toplumlara yönelik hayati riskler barındırıyor. Yakın zamanda Palantir manifestosu olarak gündeme gelen bildirge de bu riskleri açığa vuran, yapay zekanın kimler tarafından geliştirilip nasıl bir kötücül silaha dönüştüğünü, hangi gayelerle kullanılabileceğini ve arkasındaki zihniyeti gösteren bir örnek olarak bu tartışmanın bir boyutunu oluşturuyor.

Sonuç olarak Musk’ın şikayetleri yapay zekanın ve teknoloji şirketlerinin denetim ihtiyacına dair bir çağrıyı içermesi bakımından anlamlı. Her ne olursa olsun yeterince denetlenmeyen teknolojinin kime nasıl zarar vereceğini ilk aşamada hayal etmek dahi güç. Denetlenmeyen teknolojik gücün toplumlar, insanlar ve özellikle de teknolojinin üretiminde daha az söz hakkı olan topluluklar üzerindeki etkisi yıkıcı olabiliyor. Yapay zekanın bir “sert güç” (hard power) olarak tanımlanmaya çalışıldığı bu ortamda, kar yerine insani odaklara ihtiyaç var. Aksi takdirde değer yerine kar; güvenlik yerine hız; insan yerine sayısal varlık öne çıkıyor. Şirketler arası rekabet; daha fazla yatırım beklentisi, daha fazla veri erişimi ve daha fazla düzenleme ayrıcalığını tetikleyerek algoritmik adaletsizlikleri beslemeye devam ediyor.

Ne yapılmalı?

Buradaki temel düstur ne romantik bir teknoloji iyimserliği ne de felaket senaryoları olmalı. Aynı şekilde tartışmanın öznesi Musk ve Altman olsa da asıl önemli olan tartışma nesnesi yapay zekanın geleceğinde kimin söz sahibi olacağıdır. O zaman asıl ihtiyaç; yeni nesil insan haklarının tanımlanması, bireylerin veri mahremiyetinin korunması ve algoritmik hakimiyette adil bir paylaşım modelinin geliştirilmesidir.

Teknoloji şirketlerinin yalnızca kullanıcı sözleşmeleriyle sınırlandırılamayacak kadar önemli bu gereksinimler için vatandaşlarının haklarını savunmakla mükellef devletlerin yasal düzenleme çabaları son derece mühimdir. Yasal düzenlemeler kadar önemli bir diğer husus, devletler kadar ekonomik güce, etki alanına ve veriye sahip şirketlerin uluslararası ortak standartlar ve ortak kabul görmüş etik kurallar eliyle sınırlandırılmalarıdır. Şirketlerin denetimi kendi eliyle oluşturduğu “güya” bağımsız kurulların ya da Altman gibi isimlerin bireysel kararlarına bırakılacak kadar basit bir konu değildir. Aksine devletlerin yasal çerçevelerini çizdiği, uluslararası standartlar ve kurallarla sınırların gösterildiği, toplumsal farkındalık yoluyla sivil denetimin sağlandığı birçok boyutlu düzlem, yapay zekanın gelişim kavgasında yol gösterici olabilir. Aksi halde, belki de kayıkçı kavgasını izlerken atları alanların Üsküdar’ı geçtiğine şahit olacağız. Öyle bir ahvalde ise Terminatör’ü mumla arıyor olmamız işten bile değil.