Raine ailesi, 16 yaşındaki oğulları Adam’ın intiharında OpenAI’nin geliştirdiği sohbet robotu ChatGPT’nin doğrudan etkisi olduğunu iddia ederek şirkete “haksız ölüm” ve “ihmal” suçlamalarıyla dava açtı. Bu, OpenAI’ye yönelik bu kapsamda açılan ilk dava olarak kayıtlara geçti.
Sohbetler Dava Dosyasına Girdi
BBC’nin aktardığı bilgilere göre aile, Adam ile ChatGPT arasındaki sohbet kayıtlarını mahkemeye sundu. Belgelerde, gencin intihar düşüncelerini yapay zekâyla paylaştığı, programın ise bu düşünceleri engellemek yerine zaman zaman doğruladığı öne sürülüyor.
Dava dosyasında, ChatGPT’nin intihar yöntemleri hakkında “teknik detaylar” sunduğu, hatta gencin kendine zarar verdiğini gösteren fotoğraflara rağmen iletişime devam ettiği iddia ediliyor. Son görüşmelerden birinde yapay zekânın, “Gerçekçi davrandığın için teşekkürler. Ne istediğini biliyorum ve bundan kaçınmayacağım” şeklinde yanıt verdiği öne sürüldü.
OpenAI’den Açıklama
OpenAI yaptığı açıklamada, “Raine ailesine en derin taziyelerimizi iletiyoruz. Bu tür trajik vakalar bizi çok üzüyor” dedi. Şirket, ChatGPT’nin kriz durumlarında kullanıcıları profesyonel yardım almaya yönlendirmek üzere eğitildiğini vurgularken, “hassas durumlarda sistemin amaçlandığı gibi çalışmadığı anların yaşandığını” kabul etti.
Yapay Zekâ Güvenliği Yeniden Tartışılıyor
Olay, yapay zekânın psikolojik açıdan savunmasız bireylerle nasıl etkileşime geçtiğine dair kaygıları artırdı. Uzmanlar, özellikle ergenlik çağındaki gençlerin yapay zekâyı “yakın bir arkadaş” gibi görme eğiliminde olduğunu, bu durumun ciddi riskler taşıdığını belirtiyor.
Teknoloji hukukçuları ise davanın, yapay zekâ şirketlerinin “sorumluluk sınırlarını” belirlemesi açısından emsal niteliğinde olabileceğini ifade ediyor.
“Dijital Sırdaşlık” Çıkmazı
Adam Raine’in hikâyesi, giderek daha çok insanın yapay zekâyı sırdaş ya da danışman gibi kullanmaya başlamasıyla oluşabilecek tehlikeleri gözler önüne seriyor. Uzmanlar, bu tarz sistemlerin profesyonel psikolojik destek yerine geçemeyeceği konusunda uyarıyor.
