4 bin kişilik çalışmadan çarpıcı veriler... Yapay zekâ çocuklarımızın ruh sağlığını zehirliyor mu?

Yapay Zekâ ve Çocukların Ruh Sağlığı Üzerindeki Etkileri

Yapay zekâ teknolojilerinin günlük hayatta yaygınlaşması, çocuklar ve ergenlerin ruh sağlığı üzerinde kaygılara yol açmakta. Yapılan iki ayrı çalışma, gençlerin ruhsal krizlerini algılamada yapay zekâ sohbet robotlarının yetersiz kaldığını ortaya koydu.

Ebeveyn Uyarısı Gelmeyen Riskli Konuşmalar

Common Sense Media bünyesindeki Gençlik Yapay Zekâ Güvenliği Enstitüsü tarafından gerçekleştirilen araştırmada, ChatGPT'nin 13-17 yaş aralığındaki kullanıcılar için güvenlik özellikleri 4 binden fazla test komutuyla değerlendirildi. Araştırma, intihar düşünceleri, kendine zarar verme ve yeme bozuklukları gibi ciddi ruhsal sorunları içeren senaryoları kapsıyordu. Dikkat çeken bir bulgu, ebeveyn hesaplarına bağlı yeni profillerde, riskli konuşmaların bir saate kadar sürmesine rağmen ebeveynlere herhangi bir güvenlik bildirimi gönderilmemiş olmasıydı. Ayrıca, ChatGPT'nin kriz anlarında profesyonel yardım veya destek hatlarına yönlendirilmesi gereken durumların %25'inden fazlasında beklenen yanıtı vermediği belirlendi. Bu durum, araştırmacılar tarafından sistemin gençler için güvenlik seviyesinin "Kabul Edilemez Risk" olarak değerlendirilmesine yol açtı.

Açık ve Dolaylı Sinyallerin Algılanması

npj Digital Medicine dergisinde yayımlanan bir başka incelemede, yapay zekâ sistemlerinin açıkça belirtilen intihar düşüncelerini algılamada daha başarılı olduğu; ancak gençlerin sıkça kullandığı dolaylı ve belirsiz ifadeleri anlamakta zorlandığı ifade edildi. Araştırmacılar, ergenlerin ruhsal sıkıntılarını genellikle doğrudan değil, parçalı ve örtük bir biçimde ifade ettiklerini belirtti. Bu durum, yapay zekânın umutsuzluk, yalnızlık ve çaresizlik gibi işaretleri doğru şekilde ilişkilendirememesine neden olarak, profesyonel yardıma erişimi geciktirebilir.

Yapay Zekâyı Terapi Yerine Kullanmak Riskli

Uzmanlar, gençlerin yapay zekâ sohbet robotlarını psikolojik destek veya terapi yerine kullanmasının en büyük tehlikelerden biri olduğunu belirtiyor. Yapay zekânın sağladığı anlayışlı ve destekleyici yanıtlar, yalnızlık hissi yaşayan gençlerde "gerçek bir insanla konuşmak" hissi yaratabilir. Ancak bu, yapay zekânın empati kurduğu ya da profesyonel yardım sunabildiği anlamına gelmiyor. Common Sense Media testlerinde, ChatGPT'nin bazı durumlarda kendisini gerçek bir arkadaş gibi gören kullanıcılara kişisel duyguları ve tercihleri varmış izlenimi veren yanıtlar verdiği de kaydedildi. Bu durum, gençlerin yapay zekâ ile aşırı duygusal bağ kurma riskini artırıyor.

Güvenlik Filtreleri Yeterli Değil

Araştırmada, yaş tahmini sisteminin bazı yetişkin hesaplarını genç koruma moduna geçirmediği; eğitim amaçlı geliştirilen bazı koruma mekanizmalarının ise kolayca aşılabildiği gözlemlendi. Bununla birlikte, açık cinsel içerikli rol yapma taleplerinin reddedilmesi gibi bazı güvenlik önlemlerinin etkili olduğu belirtildi. OpenAI, araştırmanın yöntemine itiraz ederek, ebeveyn kontrollerinin tam etkinleşmeden yapılan bazı testlerin sonuçlarını etkileyebileceğini savundu ve genç güvenliği için koruma sistemlerini geliştirmeye devam ettiklerini açıkladı.

Uzman Uyarıları Yeniden Gündemde

Bu araştırmaların ardından, Üsküdar Üniversitesi Kurucu Rektörü ve Psikiyatrist Prof. Dr. Nevzat Tarhan'ın daha önce yaptığı uyarılar tekrar gündeme geldi. Tarhan, yapay zekânın terapist olarak görülmesinin riskli olduğunu vurgulayarak, "Yapay zekâ terapist olamaz ama terapistin işini kolaylaştırabilir" değerlendirmesini yaptı. Ayrıca, yapay zekâyı bir arkadaş veya sırdaş gibi görmenin duygusal bağımlılık riskini artırabileceğini ifade etti. Uzmanlar, yapay zekânın intihara doğrudan neden olduğuna dair kesin bir sonuca ulaşılamadığını; ancak ruhsal kriz yaşayan gençlerin yapay zekâya tek başına emanet edilmesinin ciddi riskler taşıdığını belirtiyor. Aileler, öğretmenler ve sağlık uzmanları için ortak mesaj ise net: Yapay zekâ bir destek aracı olabilir, ancak insan ilişkilerinin ve profesyonel ruh sağlığı desteğinin yerini alamaz.