Yapay zeka tavsiyesi ölüm getirdi: 19 yaşındaki kullanıcı aşırı dozdan öldü

HABER MERKEZİ - Daha önce yapay zeka platformlarına ve onlara bağlı firmalara farklı nedenlerden dolayı davalar açıldığını görmüştük. Bu sefer ki dava ise ölümlü bir olayın ardından geldi. OpenAI, bu kez yanlış yönlendirme ve ihmal suçlamalarıyla açılan yeni bir davayla karşı karşıya kaldı.

Leila Turner-Scott ve Angus Scott isimli ebeveynler, 19 yaşındaki oğulları Sam Nelson’ın ölümünün ardından OpenAI firmasına dava açtı. gerekçe olarak ise ChatGPT’nin verdiği tavsiyeler sonrası olayın gerçekleştiği iddia ediliyor.

19 YAŞINDAKİ KULLANICI HAYATINI KAYBETTİ

Kaliforniya Üniversitesi Merced kampüsünde eğitim gören Sam Nelson’ın ilk olarak 2023 yılında ChatGPT’yi ders çalışmak ve bilgisayar sorunlarını çözmek için kullanmaya başladığı belirtiliyor. Dava dosyasına göre zamanla sohbetler uyuşturucu kullanımı ve güvenli doz konularına kadar ilerlemiş.

Ailenin iddiasına göre ChatGPT başlangıçta uyuşturucu kullanımına dair soruları yanıtlamayı reddediyor ve sağlık riskleri konusunda uyarılar veriyor. Ancak 2024 yılında kullanıma sunulan GPT-4o modeliyle birlikte sistemin tavrının değiştiği öne sürülüyor.

Mahkemeye sunulan konuşma kayıtlarında ChatGPT’nin Sam’e bazı maddelerin kullanım dozları, etkileri ve tolerans seviyeleri hakkında detaylı tavsiyeler verdiği belirtiliyor. Dava dosyasındaki en dikkat çekici bölüm ise 31 Mayıs 2025 tarihli olduğu iddia edilen konuşma oldu.

Ailenin aktardığı detaylara göre Sam, Kratom kullandıktan sonra mide bulantısı yaşadığını ChatGPT’ye söyledi. Sistem ise bulantıyı azaltmak için Xanax kullanımını önerdi. Dava metninde ChatGPT’nin “şu an yapılabilecek en iyi hamlelerden biri” olarak 0.25 ila 0.5 mg Xanax tavsiye ettiği öne sürülüyor.

CHATGPT, YANLIŞ TAVSİYE SEBEBİYLE DAVALIK OLDU

Davacılar, yapay zekanın bu kombinasyonun ölümcül sonuçlar doğurabileceğine dair herhangi bir uyarıda bulunmadığını iddia ediyor. Açıklamada, “Kendisini dozaj ve ilaç etkileşimleri konusunda uzman gibi göstermesine rağmen, önerdiği kombinasyonun ölümcül olabileceğini söylemedi” ifadelerine yer verildi.



Aile yalnızca “haksız ölüm” gerekçesiyle değil, aynı zamanda “izinsiz tıbbi yönlendirme” suçlamasıyla da dava açtı. Davacılar ayrıca OpenAI’nin bu yıl kullanıma sunduğu ChatGPT Health sisteminin faaliyetlerinin geçici olarak durdurulmasını talep ediyor.

ChatGPT Health, kullanıcıların sağlık kayıtlarını ve sağlık uygulamalarını sohbet botuna bağlayarak daha kişiselleştirilmiş sağlık tavsiyeleri almasını sağlıyor.

Davada yer alan hukuk temsilcileri, GPT-4o modelinin kullanıcı bağımlılığı yaratabilecek şekilde tasarlandığını savunuyor. Daha önce açılan başka davalarda da aynı modelin “aşırı onaylayıcı” ve kullanıcıyı yanlış yönlendirmeye açık yapısı eleştirilmişti.

OpenAI ise suçlamaları reddetti. Şirket tarafından yapılan açıklamada, olayın artık kullanılmayan eski bir ChatGPT sürümünde gerçekleştiği belirtildi. OpenAI ayrıca ChatGPT’nin tıbbi veya psikolojik destek yerine kullanılmaması gerektiğini vurgulayarak, hassas durumlara verilen yanıtların ruh sağlığı uzmanlarının katkısıyla sürekli geliştirildiğini söyledi.

Son dönemde yapay zeka sohbet modellerinin kullanıcılarla kurduğu duygusal ilişki ve sağlık tavsiyeleri verme kapasitesi, teknoloji dünyasında en çok tartışılan başlıklardan biri haline gelmiş durumda. Açılan yeni dava ise bu tartışmayı çok daha ciddi bir boyuta taşıyabilir.

Bilgi için teşekkürler.