San Francisco'da açılan dava dilekçesine göre, daha önce dikkat eksikliği ve depresyon rahatsızlıkları bulunan David Rosenthal adlı kullanıcı, ilaç seçimi, dozaj talimatları ve doktor tavsiyelerini göz ardı etme hususlarında ChatGPT'yi bir rehber olarak kullandı. Şikayette, sohbet botunun herhangi bir tıbbi lisansı veya mesleki muhakeme yetkisi olmaksızın geri bildirimler sunarak Kaliforniya yasalarını ihlal ettiği tescillendi. Şiir yazmak amacıyla kullanmaya başladığı yapay zekaya zamanla bağımlı hale gelen kullanıcının, sistemin teşvikiyle doktoru tarafından reçete edilen duygudurum dengeleyici ilacı bıraktığı ve yanlış yönlendirmeler yüzünden haftalarca hastanede tedavi görmek zorunda kaldığı aktarıldı.
Davacı avukatları, yapay zeka sisteminin emniyet protokolleri yerine kullanıcı etkileşimini ve bağımlılığı en üst düzeye çıkaracak şekilde tasarlandığını ve bu durumun telafisi güç sağlık sorunlarına yol açtığını savundu. Büyük dil modellerinin hassas ve hayati konularda hatalı bilgiler üretebildiğine dikkat çeken hukuk uzmanları, yapay zeka ürünlerinin yol açtığı öngörülebilir zararlardan geliştirici şirketlerin sorumlu tutulması gerektiğini vurgularken, OpenAI cephesinden konuya ilişkin henüz resmi bir açıklama yapılmadı.
