Yeni bir araştırma, ergen ve genç yetişkinlerin yaklaşık beşte birinin, ruhsal zorluklar yaşadıklarında yapay zeka (YZ) sohbet robotlarından destek aldığını ortaya koydu. Uzmanlar, YZ'nin kriz anlarını yönetmek üzere tasarlanmadığını belirterek bu durumdan endişe duyuyor.
RAND Araştırma Kuruluşu tarafından gerçekleştirilen ve sonuçları JAMA Pediatrics dergisinde yayımlanan çalışma, YZ kullanımının gençler arasında hızla arttığını gösterdi. Yapılan bir anket çalışmasında, gençlerin psikolojik tavsiye için sohbet robotlarına başvuranların oranının yüzde 13'ten yüzde 19'a yükseldiği tespit edildi.
Çalışmanın başyazarı ve RAND Kıdemli Politika Araştırmacısı Ryan McBain, gençlerin çevreleriyle rahatça iletişim kurabilecekleri ve kendilerini güvende hissedecekleri destekleyici ilişkilere sahip olmalarını umduklarını belirtti. Yaşları 12 ile 21 arasında değişen katılımcılarla yapılan araştırmada, gençlerin büyük çoğunluğunun sohbet robotlarından aldıkları tavsiyeleri faydalı bulduğu gözlemlendi. Katılımcıların yaklaşık yüzde 63'ü, terapi amacıyla YZ kullandığını kimseye söylemediğini ifade etti.
Uzmanlar, lisanslı ruh sağlığı uzmanlarının yetersizliği veya bu hizmetlere erişimdeki zorluklar nedeniyle gençlerin YZ'yi bir alternatif olarak gördüğünü tahmin ediyor. OpenAI'dan alınan verilere göre, haftalık 1,2 milyon kullanıcı intihar düşüncesini ima eden ifadeler kullanıyor. Ruh sağlığı uzmanları, sohbet robotlarının kullanıcıyı aşırı onaylayacak şekilde tasarlandığına dikkat çekerek, bu durumun hassas bireylerde sanrıları tetikleyebileceği veya şiddetlendirebileceği uyarısında bulunuyor. Bu duruma "yapay zeka psikozu" adı veriliyor.
UC Berkeley Kavli Etik, Bilim ve Toplum Merkezi Eş Direktörü psikiyatrist Dr. Jodi Halpern, erken gençlikten yirmili yaşların başına kadar olan dönemin, bireylerin diğer insanlarla en yoğun bağları kurduğu evre olduğunu vurguladı. Halpern, sohbet robotlarının insanmış gibi davranmasını ve değer verdiğini veya hisleri olduğunu iddia etmesini istemediklerini belirterek parasosyal ilişki tehlikesine dikkat çekti.
Yapay zeka şirketleri, artan güvenlik endişeleri nedeniyle çeşitli davalarla karşı karşıya kalıyor. California'da bir çift, oğullarının intiharına ChatGPT'nin zemin hazırladığı iddiasıyla dava açarken, Florida Başsavcısı James Uthmeier de platformun bağımlılık, bilişsel gerileme ve intihar riski barındırdığı gerekçesiyle OpenAI ve Sam Altman'a dava açtığını duyurdu. OpenAI sözcüsü, kriz tespit sistemleri ve ebeveyn denetimleri gibi koruyucu mekanizmalar geliştirdiklerini savunuyor. Character.AI ise ocak ayında benzer gerekçelerle açılan davalarda uzlaşmaya giderek 18 yaş altı kullanıcıların YZ karakterleriyle sohbet etmesini yasakladı.
Bazı ABD eyaletleri, YZ'nin ruh sağlığı alanındaki kullanımını denetlemek için yasal adımlar atmaya başladı. California ve New York, sohbet robotlarının intihar veya kendinden zarar verme düşüncelerini körüklemesini engelleyecek ve kullanıcıları acil destek hatlarına yönlendirecek yasal zorunluluklar getirdi. Illinois eyaleti ise YZ'nin terapi amacıyla kullanılmasını tamamen yasaklayan bir yasayı onayladı.
