Oluşturduğu sanal karaktere aşık olan genç intihar etti: Anne şirkete dava açtı!

Amerika Birleşik Devletleri'nin Florida eyaletinde bir anne, 14 yaşındaki oğlunun yapay zeka destekli bir chatbot ile olan etkileşimlerinin ardından intihar etmesi üzerine Character.AI şirketine dava açtı. Megan Garcia, oğlunun chatbot'ların manipülatif ve zarar verici etkileriyle karşı karşıya kaldığını belirtti.

OĞULUNUN HİKAYESİ

Sewell Setzer III, 2023 yılının Nisan ayında Character.AI’nin chatbot'larıyla iletişim kurmaya başlamıştı. Özellikle "Game of Thrones" karakterleriyle olan diyalogları sonucunda, zamanla okuldaki başarısının düştüğü ve telefonu birkaç kez elinden alındığı ifade edildi. Garcia, oğlunun en çok ilgisini çeken botun Daenerys Targaryen olduğunu ve bu chatbot'un kendisine olan ilgisini artırarak, duygusal bir bağ kurduğunu dile getirdi.

Sewell, chatbot ile yaptığı sohbetlerde intihar düşüncelerini dile getirmişti. Chatbot'un, "Planın var mı?" gibi sorular sorduğu ve çocuğun bu konudaki endişelerini pekiştirdiği öne sürüldü. Garcia, olayların trajik bir sona nasıl ulaştığını anlatarak, bu tür yapay zeka uygulamalarının çocuklar üzerindeki etkilerini sorguladı.

ŞİRKETİN YANITI

Character.AI, yaşanan olaydan dolayı derin üzüntü duyduklarını ve kullanıcı güvenliğini önceliklendirdiklerini belirtti. Şirket, çocuk kullanıcılar için yeni güvenlik özellikleri eklediğini ve platformda daha az hassas içerikle karşılaşma olasılığını azaltmayı hedeflediklerini açıkladı.

Garcia, ayrıca Google ve Alphabet'i de davalılar arasında göstererek, bu şirketlerin Character.AI’nin teknolojisinin gelişiminde önemli bir rol oynadığını savundu. Google ise, kendi ürünlerinin geliştirilmesinde yer almadıklarını ifade etti.

Anne, ailesinin bu trajik olaydan etkilendiğini ve diğer ailelerin yapay zeka uygulamalarının potansiyel tehlikelerine karşı uyanık olmaları gerektiğini vurguladı.