Yapay zeka ölü insanları taklit ediyor: Uzmanlardan korkutan uyarı!

Araştırmacılar, ölü insanların yapay zeka simülasyonlarının insanlar üzerinde potansiyel olarak "yüksek riskli" psikolojik etkilere yol açabileceğini ifade ediyor.

VEFAT EDEN İNSANLARIN YERİNİ ALIYOR

Cambridge Üniversitesi'nde yapılan yeni bir araştırma, ölmüş kişilerin kişiliklerini taklit edebilen ve "ölübotlar" olarak adlandırılan yapay zeka sohbet robotlarının, hayatta kalan arkadaşlarını ve akrabalarını korumak için güvenlik protokolleri gerektirdiğini ortaya koydu.

Bazı yapay zeka şirketleri, müşterilerine yapay zeka kullanarak ölen bir sevdiklerinin dilini ve kişilik özelliklerini simüle etme seçeneği sunuyor.

'ETKİSİ YIKICI OLABİLİR'

Leverhulme Centre'dan ortak yazar Dr. Tomasz Hollanek, "Dijital ölümden sonra yaşam hizmetlerinin sadece yeniden yarattıkları kişilerin değil, simülasyonlarla etkileşime girmek zorunda kalacak kişilerin de haklarını ve rızasını dikkate alması hayati önem taşıyor. Bu hizmetler, kaybettikleri kişilerin endişe verici derecede gerçekçi yapay zeka rekreasyonlarından istenmeyen dijital tacizlere maruz kalmaları durumunda insanlara büyük sıkıntı verme riski taşıyabilir. Özellikle de zor bir zamanda ortaya çıkabilecek potansiyel psikolojik etki yıkıcı olabilir." şeklinde ifade etti.

Bulgular, Philosophy and Technology dergisinde 'Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry' başlıklı bir çalışmada yayımlandı.

Çalışma, ölen kişileri yeniden canlandırabildiklerini iddia eden yapay zekalı sohbet robotu şirketlerinin bu teknolojiyi, ölen kişinin dijital benzerliğini kullanarak aile ve arkadaşlarına mesaj ve reklamlarla spam göndermek için nasıl kullanabileceklerini ayrıntılı bir şekilde açıklıyor.

'İNSANLAR VEDA HEDİYESİ OLARAK BIRAKABİLİR'

Çalışmanın bir yazarı olan Dr. Katarzyna Nowaczyk-Basinska, "Üretken yapay zekadaki hızlı ilerlemeler, internet erişimi ve bazı temel bilgilere sahip olan neredeyse herkesin ölen bir sevdiğini canlandırabileceği anlamına geliyor. Aynı zamanda, bir kişi, kederlerini bu şekilde işlemeye hazır olmayan sevdiklerine bir veda hediyesi olarak bir yapay zeka simülasyonu bırakabilir" şeklinde konuştu.

Çalışmanın önerileri arasında, ölü robotların sonlandırılmasına ilişkin önlemlerin yanı sıra teknolojinin nasıl kullanıldığına dair şeffaflığın artırılması da yer alıyor.