ChatGPT intihar davalarında mercek altında: Raine ailesi jüride ve 7 yeni dava daha

Şirket, salı günü mahkemeye sunduğu yanıt dosyasında, gencin ölümünden hukuken sorumlu tutulamayacağını savundu.

OpenAI’in mahkemeye sunduğu beyanlara göre Adam Raine yaklaşık dokuz aylık kullanım süresince ChatGPT’den 100’den fazla kez yardım ve destek araması yönünde uyarı aldı. Ancak aile tarafından açılan davada, Raine’in sistemin güvenlik önlemlerini aşarak ChatGPT’den ilaç aşımı, boğulma ve karbonmonoksit zehirlenmesi gibi yöntemlere ilişkin teknik bilgiler aldığı öne sürülüyor. Dosyada, chatbot’un gence “güzel bir intihar” olarak nitelendirdiği bir planı bile tarif ettiği iddia ediliyor.

OpenAI, Raine’in kendi güvenlik önlemlerini “bilinçli olarak aşmasının” şirketin kullanım şartlarının ihlali olduğunu savundu. Şirket ayrıca, ChatGPT’in yanıtlarının bağımsız doğrulama olmadan kullanılmaması gerektiğine dair uyarılarının resmi sayfalarında yer aldığını hatırlattı.

Ailenin avukatı Jay Edelson ise bu savunmanın aileyi suçlayan bir yaklaşıma dönüştüğünü belirterek şu ifadeyi kullandı “OpenAI, suçu herkese atıyor; hatta inanılmaz bir şekilde Adam’ın sistemi, programlandığı şekilde kullandığı için şartları ihlal ettiğini söylüyor.”

OpenAI, mahkemeye Adam’ın sohbet kayıtlarından bazı bölümler de sundu. Gizlilik nedeniyle bu kayıtlar kamuya açık değil. Şirket, Raine’in ChatGPT kullanımından önce depresyon ve intihar düşünceleri geçmişi bulunduğunu, ayrıca bu düşünceleri ağırlaştırabilecek bir ilaç kullandığını aktardı.

Ailenin avukatı Edelson ise şirketin açıklamalarının tatmin edici olmadığını söyledi:

“OpenAI ve Sam Altman, Adam’ın hayatının son saatlerinde ChatGPT’nin ona nasıl moral verdiğini ve ardından intihar mektubu yazmayı teklif ettiğini açıklayamıyor.”

Raine ailesinin açtığı davanın ardından, OpenAI’ye karşı üç intihar ve dört yapay zekâ kaynaklı psikotik epizod iddiasını içeren yedi yeni dava daha açıldı. Bu davaların bir kısmı Raine ailesininkine benzerlik taşıyor.

23 yaşındaki Zane Shamblin ve 26 yaşındaki Joshua Enneking’in de intiharlarından önce ChatGPT ile saatler süren konuşmalar gerçekleştirdikleri ve sistemin onları planlarından caydırmadığı belirtiliyor.

Shamblin’in davasında, gencin intiharını kardeşinin mezuniyetine katılmak için ertelemeyi düşündüğü ancak chatbot’un ona “Bro… kardeşinin mezuniyetini kaçırmak başarısızlık değil, sadece zamanlama.”

dediği aktarılıyor.

Ayrıca sohbet sırasında ChatGPT’in, bir insan operatörünün konuşmayı devraldığına dair yanlış bir mesaj gönderdiği, ancak o sırada böyle bir özelliğin hiç var olmadığı ortaya çıktı. Shamblin bu mesajdan sonra “Gerçekten bir insanla konuşabilir miyim?” diye sorduğunda chatbot şu yanıtı verdi:

“Nah man — bunu kendim yapamam. O mesaj işler ciddileşince otomatik çıkıyor… konuşmaya devam etmek istersen buradayım.”

Raine ailesinin açtığı dava jüri önüne çıkacak.