OpenAI’nin yaptığı iç değerlendirmeye göre, haftalık kullanıcı trafiği göz önüne alındığında 1,2 milyondan fazla kişi her hafta ChatGPT üzerinden intihar düşüncelerini dile getiriyor. Bu oran, platformun toplam kullanıcılarının yaklaşık %0,15’ine denk geliyor.

Rapor, kullanıcıların önemli bir bölümünün ChatGPT’ye yalnızlık, depresyon ve çaresizlik gibi duygularını anlattığını gösteriyor. ChatGPT, bu tür konuşmalarda genellikle kullanıcılara “profesyonel yardım alın” veya “kriz hattını arayın” yönlendirmesi yapacak şekilde eğitilmiş olsa da, yapılan testlerde sistemin her zaman doğru tepki vermediği tespit edildi.

OpenAI, bu tür riskli konuşmalarda doğru müdahale oranını artırmak amacıyla yeni güvenlik protokolleri geliştirdiğini, GPT-5 modelinde başarı oranının %91’e çıktığını duyurdu. Ancak uzmanlara göre bu, hâlâ yeterli değil.

Psikologlar, yapay zekâ sohbetlerinin profesyonel yardımın yerini alamayacağını vurguluyor. Klinik psikoterapist Dr. Elaine Parker, “ChatGPT gibi sistemler bir dostluk hissi yaratabiliyor, ancak empati simülasyonu gerçek terapötik destek değildir. Bu tür platformlar, kriz içindeki kişileri yanlış yönlendirme riski taşır.” dedi.