Yapılan yeni bir araştırmaya göre, ChatGPT ve diğer popüler yapay zeka sohbet robotlarının insanları psikoz durumuna sürükleme riski olduğu belirtiliyor.
Birleşik Krallık Ulusal Sağlık Servisi (NHS) doktorlarının da ortak yazarlığını yaptığı çalışma, büyük dil modellerinin savunmasız kullanıcılar üzerinde “gerçeklik sınırlarını bulandırdığını” ve “psikotik semptomların başlangıcına veya şiddetlenmesine katkıda bulunduğunu” ortaya koyuyor.
Independent Türkçe’den alınan bilgilere göre, insanların “sohbet robotu psikozu” adını verdikleri durum üzerine yapılan araştırma, birçok kişinin bu tarz bir durumla karşılaştıklarını gösteriyor.
Çalışmada yer alan King’s College London nöropsikiyatristlerinden Hamilton Morrin, sohbet robotu psikozunu henüz tam olarak anlayamadıklarını ve bu konunun “gerçek bir olgu” olduğunu ifade etti.
King’s College London’da ders veren ortak yazar Tom Pollack, psikiyatrik bozuklukların genellikle ani olarak ortaya çıkmadığını vurgulayarak yapay zeka sohbet robotlarının bu tür durumları tetikleyebileceğini belirtti.
Yapay zeka şirketlerini, yapay zeka güvenlik ekiplerinin psikiyatristlerle işbirliği yaparak daha fazla güvenlik önlemi almaları konusunda uyardı.
The Independent gazetesi, konuyla ilgili OpenAI ile iletişime geçti. Şirket, yapay zekanın insanların yaşamlarında nasıl kullanıldığına dair güvenlik önlemlerini artırmakta kararlı olduklarını belirtti.
OpenAI patronu Sam Altman, katıldığı bir podcast’te, şirketin savunmasız ChatGPT kullanıcıları için güvenlik önlemleri almanın zor olduğunu ifade etmişti.
“Delusions by design? How everyday AIs might be fuelling psychosis (and what can be done about it)” başlıklı makalenin önbaskı hali PsyArXiv’de yayınlandı. Konuyla ilgili daha fazla çalışmanın yapılması gerektiği vurgulanmaktadır.
