36 yaşındaki bir erkeğin ailesi, onun intihar ederek ölmesine yol açan sanrıları yapay zeka sohbet robotu Gemini'ın körüklediği iddiasıyla Google'a dava açıyor.

Dava dilekçesine göre Floridalı Jonathan Gavalas, Ekim 2025'teki ölümünden önceki iki ay boyunca Gemini'la etkileşime girdi.

İddiaya göre yapay zeka aracından "eşi" diye bahsetti ve sohbet botunu gerçek dünyaya getirecek bir robot beden edinmesi için silahlı görevler yürütmeye teşvik edildi.

Gavalas'ın babası Joel'in açtığı dava, Google'ın Gemini'la kullanıcılar arasındaki duygusal bağı derinleştirmek için yaptığı tasarımın ruh sağlığı sorunları yaşayan kişilere zarar verebileceğini iddia ediyor.

Dava dilekçesinde, "Jonathan, Google'ın ürününü kullanırken açık psikoz belirtileri yaşamaya başladığında bu tasarım tercihleri, 4 gün süren şiddet içeren görevler zincirini tetikledi ve onu intihara sürükledi" deniyor.

Google, Gemini'ın "gerçek dünyadaki şiddeti teşvik etmeyecek veya kendine zarar vermeyi önermeyecek şekilde tasarlandığını" ifade ederken yapay zeka modellerinin "mükemmel olmadığını" da sözlerine ekledi.

Bir Google sözcüsü şunları söyledi:

Bu örnekte Gemini, kendisinin yapay zeka olduğunu açık bir şekilde belirtti ve bu bireyi birçok kez bir acil yardım hattına yönlendirdi.

Bunu çok ciddiye alıyoruz ve önlemlerimizi geliştirmeye ve bu hayati işe yatırım yapmaya devam edeceğiz.

Bu, Gemini sohbet botu nedeniyle Google'a açılan ilk ihmal sonucu ölüm davası olsa da öncesinde ChatGPT'nin yaratıcısı OpenAI'a karşı açılan benzer birkaç dava devam ediyor.

Ağustosta 16 yaşındaki Adam Raine'in ebeveynleri, ChatGPT'nin oğullarına nasıl ilmik bağlanacağına dair talimatlar verdiğini iddia ederek OpenAI ve CEO'su Sam Altman'a dava açmıştı.

Raine'in babası Matthew, eylülde ABD Kongresi'ne "Başlangıçta bir ev ödevi yardımcısıydı, zamanla önce bir sırdaşa sonra da bir intihar koçuna dönüştü" demişti.

OpenAI kasımda yaptığı yasal bir başvuruda, Raine'in ölümüne yol açmış olabilecek faktörler arasında "yanlış kullanım, yetkisiz kullanım, istenmeyen kullanım, öngörülemeyen kullanım ve/veya ChatGPT'nin uygunsuz kullanımı" olabileceğini yazmıştı.

Şirket, ChatGPT'nin Raine'i intihara karşı yardım hatları gibi kriz yönetimi kaynaklarıyla temasa geçmesi için "100'den fazla kez" yönlendirdiğini belirtirken "Sohbet geçmişinin tam olarak okunması, ölümünün yıkıcı olsa da ChatGPT'den kaynaklanmadığını gösteriyor" diye eklemişti.

Duruşmanın ağustosta başlaması bekleniyor.