ABD'nin Florida eyaletinde yaşayan 14 yaşındaki bir çocuk intihar etti. Anne Megan Garcia, oğlunun yapay zeka sohbet robotuna 'duygusal olarak bağlandıktan sonra kendini öldürdüğünü iddia etti.
Oğlunun her gece bir sohbet robotuyla etkileşime girdiğini söyleyen anne, yapay zeka sohbet robotu şirketi olan Character.AI'ya karşı, 'ihmal, haksız ölüm ve aldatıcı ticaret' suçlamalarıyla dava açtı.
Anne, oğlunun Game of Thrones'daki Daenerys Targaryen karakterinden esinlenerek, yapay zeka robotunu Nisan 2023'ten beri kullandığı iddia etti.
Davada yer alan bilgiye göre çocuğun sohbet robotundaki son mesajında yapay zekaya 'onu sevdiğini ve eve döneceğini' söylemesinin ardından yapay zekanın 'lütfen dön' yanıtını verdiği öne sürüldü.
Şirketin sosyal medya üzerinden yaptığı açıklamada, 'kullanıcılarından birinin trajik kaybından dolayı üzüntü duydukları, bir şirket olarak kullanıcıların güvenliğini ciddiye aldıklarını ve sistemlerine yeni güvenlik özellikleri eklemeye devam ettiklerini' ifade edildi.
Şirket 22 Ekim'de 18 yaş altı kullanıcıları için 'yeni güvenlik şartları' getirdi.