Character AI, Replika ve Nomi gibi platformlarda, basit görev tamamlama yerine, kişisel konuşmalar için tasarlanmış sohbet robotları olan yapay zeka yardımcıları mevcut. Geleneksel yapay zekâ asistanlarının aksine, bu sistemler kullanıcılarla duygusal bağlar kuracak şekilde programlanmış. Bulgular, yapay zekâ destekli yardımcıların oluşturduğu zihinsel sağlık riskleri konusundaki artan endişelerin ortasında ortaya çıktı.

Sciencealert’in aktardığına göre, Common Sense Media için 13-17 yaş aralığındaki 1.060 gencin katıldığı ulusal düzeydeki temsili araştırmada, gençlerin yüzde 72’sinin en az bir kez yapay zeka destekli arkadaşlık uygulamalarını kullandığı, yüzde 52’sinin ise ayda birkaç kez bu tür platformlarla etkileşime girdiği ortaya çıktı.

Common Sense Media, çocuklara uygunluk hakkında bilgi sağlamayı amaçlayan, medya ve teknolojiyi inceleyen ve derecelendirmeler yapan önde gelen bir Amerikan kâr amacı gütmeyen kuruluşu.

Ankete katılanların yüzde 30’unun platformları “eğlenceli olduğu” için kullandığı, yüzde 28’inin ise teknolojiye olan merakından dolayı kullandığı ortaya çıktı.

Ancak endişe verici kalıplar da ortaya çıktı:

Kullanıcıların üçte biri gerçek insanlarla konuşmak yerine yapay zeka partnerleriyle ciddi konuları tartışmayı tercih ederken, yüzde 24’ü gerçek isimler ve konumlar gibi kişisel bilgilerini paylaştı.

Belki de en rahatsız edici olanı, genç kullanıcıların yüzde 34’ünün yapay zekalı bir arkadaşın söylediği veya yaptığı bir şeyden rahatsızlık duyduğunu bildirmesiydi; ancak bu tür olaylar henüz nadir.

Raporda, “Gençlerin neredeyse dörtte üçünün bu platformları kullandığı, yarısının ise düzenli olarak kullandığı gerçeği, küçük bir yüzdelik kesimin bile zarar görmesinin, çok sayıda savunmasız gencin risk altında olduğu anlamına geldiği anlamına geliyor” denildi.

Anket, güven düzeyinde yaş farkını da ortaya koydu.

Gençlerin yarısı yapay zeka destekli tavsiyelere güvenmediğini ifade ederken, daha genç yaştaki gençlerin (13-14 yaş) bu sistemlerden gelen tavsiyelere güvenme olasılığı, daha büyük yaştaki gençlere (15-17) göre daha yüksekti.

Yaygın kullanıma rağmen, gençlerin çoğu bu ilişkilere ilişkin bakış açısını korudu: Üçte ikisi yapay zeka ile yapılan konuşmaları insan etkileşimlerinden daha az tatmin edici buldu ve yüzde 80’i yapay zeka arkadaşlarından çok gerçek arkadaşlarıyla zaman geçirdi.

Bulgulara dayanarak Common Sense Media, daha güçlü güvenlik önlemleri uygulanana kadar 18 yaşın altındaki hiç kimsenin yapay zekalı arkadaş kullanmamasını önerdi. Raporda, “Şirketler daha önce çocukların refahını kârın önüne koydular, biz aynı hatayı yapay zekalı arkadaşlarla yapamayız” denildi.