Büyük veri, yapay zeka ve makine öğrenmesi algoritmalar üzerine çalışan gazeteci Salih Cenap Baydar, AA muhabirine, algoritmaların ayrımcı eğilimlerinin toplumlardaki ırkçı yaklaşımlarla ve büyük veriyle ilişkisini değerlendirdi.

Baydar, algoritmaların büyük miktarda ham madde işleyen fabrikalara benzediğini belirterek, “İnternet kullanıcılarının, Müslümanlar, siyahiler, göçmenler hakkında ırkçı, cinsiyetçi, saldırgan, alaycı, aşağılayıcı yorumları, yapay zeka modellerinin ayrımcılığı öğrenmesine sebep oluyor. Sanal platformlardaki İngilizce metinleri topladığınızda ister istemez daha çok İngilizce konuşan insanların duygu ve düşünce dünyasından yansıyan fikirleri toplamış oluyorsunuz. Belli konulardaki verileri ansiklopedilerden bile toplasanız bunları hazırlayanların birtakım ön yargıları nihai çıktıya yansıyabiliyor.” dedi.

ABD merkezli e-ticaret şirketi Amazon’un işe alım süreçlerinde yapay zeka kullanmaya başlamasının ardından sistemin başvuruları cinsiyetten bağımsız değerlendiremediğinin fark edildiğini ve uygulamaya son verildiğini aktaran Baydar, “Özgeçmişlerin çoğu, teknoloji sektöründeki erkek egemenliğinin yansıması olarak erkek adaylardan gelmişti. Amazon’un yapay zeka uygulaması buna bakarak yazılımcı pozisyonu için en iyi adayların erkek olması gerektiği sonucuna varmıştı.” dedi.

Algoritmik ayrımcılık toplumlardaki ırkçı tutumlardan kaynaklanıyor

Baydar, algoritmanın “bir dizi işlemi belli sırayla gerçekleştirip sonuç üreten komutlar serisi” olarak tanımlanabileceğini kaydederek, büyük veri konusunda standart algoritmalardan farklı olarak makine öğrenmesi algoritmalarının gündeme geldiğini ifade etti.

Sosyal medya platformlarında yapılan paylaşımlar, dijital ansiklopediler, her türlü dijital evrak, fotoğraf, ses, görüntünün büyük veriyi oluşturduğunu anlatan Baydar, “Makine öğrenmesine dayanan yapay zeka algoritmalarının ürettiği sonuçların ayrımcılık içerdiği söylense de sorun işlenen büyük veride. Eğer büyük veri ayrımcılık, cinsiyetçilik, ırkçılık, İslamofobi gibi olumsuzluklar içeriyorsa algoritmaların o büyük veriden öğrenip ürettikleri de benzer oluyor.” diye konuştu.

Baydar, algoritmaların büyük veriye göre şekillenmesini, çocukların yetiştikleri ortamın özelliklerini taşımasına benzeterek, şöyle devam etti:

“Bu, sıkça küfredilen ortamda yetişen çocuğun küfürbaz olmasına benziyor. Eğitilen neyle eğitildiyse onu öğreniyor. Kadınlara, yoksullara, başka ırklara, dinlere, azınlıklara dair ön yargılarımız, kültürel tavırlarımız, tarihi değerlerimiz, içinde yetiştiğimiz toplumun zaman zaman marazi sayılabilecek tavırları toplanan büyük veri içinde gömülü halde geliyor. Bir sohbet robotu sadece herhangi bir filtreden geçirilmemiş Twitter paylaşımlarıyla eğitilse bazı sorulara oldukça cinsiyetçi, ırkçı, zenofobik (yabancı düşmanı), anti semitik ya da küfürlü cevaplar verebilir. Toplumsal gerçeklik neyse yapay zeka onu öğrenir ve yeni formlarda tekrarlar.”

Büyük veri sahipleri demokrasilere yönelik “manipülasyon” tehdidi oluşturuyor

Salih Cenap Baydar, büyük veriye sahip kişi ve kuruluşlara ilişkin endişelere değinerek, “Onlar elit bir azınlık. Yapay zeka teknolojilerindeki ilerlemeler sayesinde gittikçe daha da az insan gücüne ihtiyaç duyuyorlar. Kitleleri manipüle edecek kadar büyük bir gücü elinde tutan bu elitin hem milli hem de uluslararası seviyede ciddi düzenlemelerle kontrol edilmesi gerekiyor.” şeklinde konuştu.

Sayıca çok az kimseden oluşan bu grubun büyük kitleleri manipüle edebilecek büyük zenginliğe ve bilgiye sahip olduğunu kaydeden Baydar, “Konunun ‘bilme’ boyutundan öte ‘manipülasyon’ boyutu var. Kullanıcılar sosyal medya mecralarına eriştiklerinde önlerine gelen akışın doğal olduğunu sanıyor. Halbuki neyi görüp neyi görmeyeceklerine yapay zeka algoritmaları karar veriyor.” sözlerini sarf etti.

Baydar, Facebook’un, 87 milyon kullanıcısının verilerini, politik amaçlarla kullanılması için İngiltere merkezli Cambridge Analytica isimli veri analiz firmasının erişimine sunduğunun ortaya çıkmasıyla başlayan dava süreçlerine işaret ederek, şunları söyledi:

“Facebook, işlediği veriler sayesinde seçmenlere ilişkin sadece hangi partiye oy vereceğini değil, fikrini değiştirmesine sebep olabilecek argümanların neler olduğunu da biliyor. Bu şartlarda aynı zamanda seçmen olan kullanıcının, hangi uyarıcılara tepki verdiğini, hangi argümanlarla aklının çelinebileceğini bilen bir platform isterse seçim sonuçlarına dramatik ölçüde tesir edebilir.”

Kişisel verilerin korunması ile ilgili düzenlemelerin çok sıkı şekilde takip edilmesi ve tavizsiz yaptırımlarla desteklenmesi gerektiğinin altını çizen Baydar, büyük veri işleyen platformların tekel oluşturmamaları için anti-tröst yasalarla denetlenmesinin şart olduğunu belirtti.

Baydar, büyük veriyi işlemek ve anlamlandırmak için yapay zeka teknolojilerini kullanan kişi ya da kuruluşların, rekabet şartlarını bozup haksız avantaj sağladıklarını kaydederek, “Bilgi güçtür. Rekabet eden taraflardan birinin diğeri hakkında çok fazla ve ayrıntılı bilgiye sahip olması güç dengelerini değiştirir.” dedi.