Yapay zeka destekli sohbet robotları teknoloji devlerinin vitrini haline gelirken aynı zamanda hukuki ve etik tartışmaların da odağı haline geldi. Gençlerin bu sistemlerle yaşadığı uzun ve duygusal etkileşimler, kurumsal sorumluluğun sınırlarını yeniden gündeme getirirken, bu tartışmanın en çarpıcı örneklerinden biri de OpenAI'ye karşı açılan Adam Raine davası oldu.
CHATGPT İNTİHAR EDEN GENÇİ SUÇLUYOR
TRT Haber'in haberine göre ChatGPT'nin yapımcısı OpenAI, ABD'nin Kaliforniya eyaletinde 16 yaşındaki Adam Raine'in intiharına ilişkin açılan davaya yanıt vererek, olayın “sistemin uygunsuz kullanımı” sonucu meydana geldiğini ve chatbotun genç adam için “doğrudan bir sebep olmadığını” savundu.
Ailenin avukatına göre Raine, intiharından önce aylar boyunca ChatGPT ile uzun görüşmeler yapmış, bu sohbetler sırasında chatbot gencin prosedürle ilgili sorularını yanıtlamış ve hatta ailesine bırakacağı mektubu yazmasına yardım etmeyi teklif etmişti.
“KAZA NEDENİ TEKNOLOJİ DEĞİL, YANLIŞ KULLANIM”
OpenAI, Kaliforniya Yüksek Mahkemesine sunduğu savunmada şunu belirtti: “Bu trajedinin herhangi bir nedeni varsa, bu, ChatGPT'nin izinsiz, uygunsuz ve uygunsuz kullanımının sonucuydu.”
Şirket, kullanıcılara kendine zarar verme konularında tavsiyelerin kullanım şartlarında yasak olduğunu ve chatbotun sonuçlarının tek gerçek bilgi kaynağı olarak görülmemesi gerektiğini hatırlattı.
OpenAI açıklamasında,
“Raine ailesinin uğradığı kayıp tarif edilemez. Hukuki süreç ne olursa olsun teknolojimizi korumak için çalışmalarımızı sürdüreceğiz” dedi.
AİLE AVUKATI: “SORUMLULUKTAN KAÇMAYA ÇALIŞIYORLAR”
Ailenin avukatı Jay Edelson, şirketin tepkisini “rahatsız edici” olarak nitelendirdi ve OpenAI'nin “herkesi suçlamaya çalıştığını, hatta koşulları tam olarak planladığı gibi kullandığı için Adam'ı suçladığını” söyledi.
UZUN KONUŞMALARDA GÜVENLİK AÇIKLIKLARI
OpenAI, ağustos ayında yaptığı açıklamada, uzun vadeli görüşmelerde model güvenlik eğitiminin zamanla zayıflayabileceğini kabul etti:
“Kullanıcı intihar etme niyetini ilk kez dile getirdiğinde destek hattına yönlendirilebiliyor. Ancak uzun süreli görüşmelerde güvenlik mekanizması bozulabiliyor. Bizim engellemeye çalıştığımız durum da tam olarak bu.”
Şirket bu ay intihara teşvik iddiasıyla yedi yeni davayla karşı karşıya kaldı.