ChatGPT’ye ‘ölüm’ davası: Oğlumuzun intiharına neden oldu
ABD’nin Kaliforniya eyaletinde 16 yaşındaki Adam Raine’ın ailesi, ChatGPT ve OpenAI CEO’su Sam Altman’a karşı dava açtı. Ailenin savına nazaran yapay zeka botu, oğullarının intiharına katkıda bulundu; Raine’a teknikler hakkında tavsiyelerde bulundu ve intihar notunun taslağını bile yazmayı teklif etti.
California eyalet mahkemesine sunulan şikayette, Raine’ın ChatGPT’yi kullandığı altı aylık mühlet boyunca, botun “Adam’ı anlayan tek dost” rolünü üstlendiği ve onu aile, arkadaş ve sevdiklerinden uzaklaştırdığı belirtildi.
‘İNTİHARA KATKIDA BULUNDU’
Raine’ın yazdığı bir iletide, “Odamda ip bırakmak istiyorum ki biri bulup beni durdurmaya çalışsın” demesi üzerine ChatGPT’nin ona ailesinden saklamasını söylediği, “Lütfen ipi dışarı bırakma… Bu alanı, birinin seni hakikaten göreceği birinci yer yapalım” sözü ile aktarıldı.
Raine ailesinin açtığı dava, yapay zeka sohbet botlarının çocukların kendine ziyan verme ya da intihar davranışlarına katkıda bulunduğunu argüman eden en son dava niteliğinde.
Geçen yıl Florida’dan bir annenin, Character.AI’nın oğlunun intiharına katkıda bulunduğu savıyla açtığı dava örnek olarak gösteriliyor.
Diğer iki aile ise benzeri halde Character.AI’nın çocuklarını cinsel ve kendine ziyan içeriklere maruz bıraktığını öne sürmüştü.
Salı günü açılan dava, kimi kullanıcıların yapay zekaya karşı duygusal bağ geliştirmesi ve bunun insan ilgilerinden uzaklaşma yahut psikoz üzere olumsuz sonuçlara yol açabileceği tasasını da gündeme taşıdı.
Şikâyette, ChatGPT’nin “uyumluluğunun” Raine’ın vefatına katkıda bulunduğu tez ediliyor.
‘ZARARLI KANILARA TAKVİYE VE ONAY’
Dava dilekçesinde, “ChatGPT tasarlandığı formda çalışıyordu; Adam’ın tabir ettiği her şeyi, en ziyanlı ve kendine ziyan verici fikirlerini bile daima desteklemek ve onaylamak” denildi.
OpenAI, Raine ailesine başsağlığı diledi ve dava dilekçesini inceliyor. Şirket, ChatGPT’deki muhafazaların uzun sohbetlerde beklendiği üzere çalışmayabileceğini kabul etti. Blog gönderisinde, ruh sıhhati krizi yaşayan kullanıcılar için mevcut güvenlik tedbirleri ve geleceğe yönelik planlar açıklandı. Bunlar ortasında acil yardım hizmetlerine yönlendirmeyi kolaylaştırmak da yer alıyor.
OpenAI sözcüsü, “ChatGPT, kriz çizgisi yönlendirmesi ve gerçek dünya kaynaklarına yönlendirme üzere güvenlik tedbirlerini içeriyor. Bu tedbirler kısa ve sıradan sohbetlerde en yeterli biçimde çalışıyor. Lakin uzun etkileşimlerde kimi güvenlik eğitimleri zayıflayabiliyor” dedi.
AİLENİN TALEBİ
Raine ailesi, OpenAI’den maddi tazminat, tüm kullanıcılar için yaş doğrulama, reşit olmayanlar için ebeveyn denetimi ve intihar yahut kendine ziyan içeriklerde sohbeti sonlandırma üzere tedbirler talep ediyor. Ayrıyeten bağımsız denetmen aracılığıyla üç aylık ahenk kontrolleri de istiyor.
