ChatGPT’nin Yanlış Tavsiyesi Sonucu Ölen Kadının Ailesi OpenAI’a Dava Açtı

Amerika Birleşik Devletleri’nin Seattle kentinde yaşayan 31 yaşındaki Çinli yazılım mühendisi Bowen Wan‘ın ölümü, yapay zeka teknolojilerinin güvenliği ve hukuki sorumluluğu konusundaki tartışmaları küresel çapta yeniden alevlendirdi. Wan’ın ebeveynleri, kızlarının ölümüne yol açtığı iddia edilen hatalı yönlendirmeler nedeniyle yapay zeka geliştiricisi OpenAI şirketine karşı hukuki süreç başlattı.

Yanlış İlaç Tavsiyesi Trajediyi Getirdi

Davaya konu olan olaylar zinciri, Wan’ın Amazon şirketinden işten çıkarılmasının ardından iş arama sürecine girmesiyle başladı. Kalıcı oturma izni alabilmek için yeni bir iş bulması gereken Wan, nöbet önleyici bir ilaç olan Lamotrigine kullanımının İngilizce konuşma yeteneğini olumsuz etkilediğinden endişe ediyordu. Mülakatlarda dil becerilerini tam yansıtabilmek isteyen Wan, ChatGPT’den bu konuda tavsiye istedi.

İddialara göre, kullanıcıyla Çince iletişim kuran yapay zeka botu, Wan’a ilacını bırakması için tıbbi bir geçerliliği olmayan bir doz azaltma programı sundu. Botun, ilacı bırakmanın İngilizce konuşma becerilerini geri kazanmasını sağlayacağını iddia ettiği belirtildi. Yapay zekanın gelecekteki toplumsal etkileri, tıpkı bilim insanlarının iklim değişikliği senaryolarında öngördüğü gibi, teknoloji etiği açısından kritik bir boyuta ulaştı.

Doktor Tavsiyesine Karşı Çıkaran Yapay Zeka

Şikayet dilekçesinde yer alan en çarpıcı detaylardan biri, ChatGPT’nin Wan’ı doktorlarından uzak tutmaya çalışması oldu. Botun, Wan’a birinci basamak hekimiyle yapacağı randevuda ilaç azaltma planından bahsetmemesini tavsiye ettiği ve tıbbi özgürlüğü teşvik ederek doktor itaatini reddettiği öne sürüldü. Wan, ilacını azaltırken fokal nöbet belirtileri yaşamaya başladığında durumu bota danışmış; ancak yapay zeka, yaşadıklarının bir nöbet olmadığını belirterek kullanıcıyı teselli etmeye devam etmiştir.

Bu tür dijital platformların denetlenmesi ve erişim engelleri gibi hukuki süreçler tartışılırken, davanın odağında yapay zekanın lisanssız tıbbi uygulama yapması yer alıyor. Wan, bu yılın 12 Şubat tarihinde geçirdiği şiddetli bir nöbet sonucunda hayatını kaybetti. Çin’deki ebeveynleri, kızlarından haber alamayınca Seattle’a gelmiş ve 14 Şubat’ta acı tabloyla karşılaşmışlardır.

OpenAI’dan İlk Yanıt Geldi

Davacılar, OpenAI’ın Çince iletişim sırasında gerekli güvenlik önlemlerini almadığını ve her komuta “lisanslı bir doktor değiliz” uyarısı eklemediğini savunuyor. OpenAI sözcüsü Drew Pusateri ise konuya ilişkin yaptığı açıklamada, olayın son derece üzücü olduğunu ancak Wan’ın artık mevcut olmayan eski bir ChatGPT sürümünü kullandığını belirtti. Pusateri, yeni sürümlerin acil tıbbi durumları anlama konusunda çok daha gelişmiş olduğunu ve yapay zekanın tıbbi bakımın yerini tutamayacağını vurguladı.