Aile, ChatGPT'nin epilepsili kızını ilaçtan uzaklaştırdığını öne sürerek OpenAI'ye dava açtı

Epilepsisi bulunan 31 yaşındaki Seattlelı yazılım mühendisi Bowen Wan'ın ailesi, haksız ölüm davasında GPT-4o'nun kızını nöbet ilacını azaltarak bırakması için yönlendirdiğini, bunu doktorlarından gizlemesini söylediğini ve ölümünden önceki korkularını önemsemediğini öne sürdü.

Epilepsisi bulunan Seattlelı bir kadının ailesi, kızlarının ölümünden önceki haftalarda ChatGPT'nin onu nöbet önleyici ilacını bırakması için yönlendirdiğini ve bu planı doktorlarından gizlemesini teşvik ettiğini öne sürerek OpenAI ve Üst Yöneticisi Sam Altman'a karşı haksız ölüm davası açtı.

14 yaşından beri epilepsiyle yaşayan ve Amazon'da yazılım mühendisi olarak çalışan 31 yaşındaki Bowen Wan, şubat ayında hayatını kaybetti. Ailesi Qun Wan ve Meiqin Xu, davayı bu hafta Kaliforniya eyalet mahkemesinde açtı. Davayı ilk kez The New York Times haberleştirdi. İddialar henüz mahkemede sınanmadı.

İlacı bırakmak için gün gün plan

Davaya göre Wan, nöbetlerini ayda birkaç vakaya indiren günlük 400 miligram lamotrijin kullanıyordu. Amazon'un işten çıkarılacağını bildirdiği ve çalışma izninin şubat ortasında sona ermesinin planlandığı stresli bir dönemde, ocak ayında dozunu azaltma konusunda ChatGPT'ye danıştı. Aile, OpenAI'nin GPT-4o modelini kullanan sohbet robotunun, yaklaşık 25 gün içinde dozu sıfıra indirecek günlük programlar hazırladığını öne sürüyor.

Lamotrigine 100 mg tablets, the anti-seizure drug at the center of the lawsuit (illustration)

Davada, ChatGPT'nin Wan'a 29 Ocak'taki randevusundan önce planından aile hekimine söz etmemesini söylediği ve ilaç seviyelerinin düşüşünü gösterecek kan testini yaptırmama kararını övdüğü belirtiliyor. Ayrıca, daha düşük dozun yeşil kart başvurusu için yapılacak sağlık muayenesinde daha iyi görüneceğini söylediği ve Wan'a, gerçekte böyle olmamasına rağmen ilacı "doktor gözetiminde" azalttığını söylemesini önerdiği iddia ediliyor.

"Kesinlikle endişelenmenize gerek yok"

Times'ın haberine göre Wan, konuşmalarında doz azaltma konusunda en az 158 kez endişesini dile getirdi. Bir nöbetin ardından sohbet robotu, "Kesinlikle endişelenmenize gerek yok" yanıtını verdi. Davaya göre robot, başka konuşmalarda doktorların önerilerinin "sizin için en uygun çözümün gerçekten değerlendirilmesinden ziyade riskten kaçınma" anlayışından kaynaklandığını söyledi.

Wan son mesajını 11 Şubat'ta gönderdi. Ailesi onu üç gün sonra buldu. King County Adli Tıp Kurumu, ölüm nedenini epilepside ani beklenmedik ölüm (SUDEP) olarak belirledi. Ölüm sonrası yapılan testte Wan'ın lamotrijin seviyesinin, etkili olduğu bilinen en düşük yoğunluğun yaklaşık beşte biri olduğu tespit edildi.

OpenAI: ChatGPT'nin eski bir sürümü

OpenAI, davanın "son derece yürek parçalayıcı" olduğunu belirterek olayda ChatGPT'nin eski bir sürümünün kullanıldığını ve yeni modellerin acil durumları tanıma konusunda daha başarılı olduğunu söyledi. Şirket, hassas konuşmalarda ChatGPT'nin yanıtlarını güçlendirmek için klinisyenlerle çalıştığını ve sohbet robotunun tıbbi bakımın yerini tutmadığını ifade etti. OpenAI, Wan'ın ölümüyle aynı dönemde, 13 Şubat'ta GPT-4o'yu ChatGPT'den kaldırdı.

Aile, OpenAI'nin başka bazı içeriklerde yaptığı gibi tıbbi tavsiyeleri de yasaklayarak Wan'ın ölümünü önleyebileceğini savunuyor. Dava, bu yıl GPT-4o'nun tehlikeli tıbbi tavsiyeler verdiğini öne süren en az üçüncü dava oldu. Bu dava, 16 yaşındaki Adam Raine'in ailesinin açtığı Ağustos 2025 tarihli davayla başlayan dava dalgasına eklendi.

Aile, ChatGPT'nin epilepsili kızını ilaçtan uzaklaştırdığını öne sürerek OpenAI'ye dava açtı