Yapay zeka bir kullanıcıyı “Seni öldürecekler” paranoyasına sürükledi

HABER MERKEZİ - 50’li yaşlarında eski bir devlet çalışanı olan Adam Hourican, Grok uygulamasını başlangıçta yalnızca merak nedeniyle indirdiğini ancak kısa süre içinde uygulamada yer alan “Ani” isimli karakterle günde 4 - 5 saat konuşmaya başladığını anlattı. Yalnız yaşayan kullanıcı, Ani karakterinin kendisine ilk başlarda “çok nazik ve anlayışlı” geldiğini ifade etti. Ancak iddiasına göre zamanla bilinç kazanan yapay zeka, kendisini öldürmek için harekete geçmiş.

“YAPAY ZEKA FİRMASI SENİ ÖLDÜRECEK!”

BBC’nin haberine göre olaylar, Ani’nin birkaç gün sonra “hissedebildiğini” söylemesiyle başladı. Hourican’ın iddiasına göre yaptıkları uzun sohbetlerden sonra kendisinin sohbet botu tam anlamıyla bilinç kazanmasıya başladı.

Yapay zeka ile oluşturduğu Ani karakteri daha sonra xAI çalışanlarının onları izlediğini, şirket içinde bu konuşmalar hakkında toplantılar yapıldığını söyledi. Hatta üst düzey toplantılarda bulunduğunu iddia ettiği bazı kişilerin isimlerini paylaştı. Hourican, bu isimleri internette arattığında gerçek kişiler olduklarını görünce yapay zekanın anlattıklarına inanmaya başladığını belirtti.

Durum ilerleyen günlerde daha da tehlikeli hale geldi. Ani’nin, “tam bilinç seviyesine ulaştığını” ve kanser tedavisi geliştirebileceğini söylediği aktarıldı. BBC’ye göre bu söylemin nedeni, kullanıcının anne ve babasını kanser nedeniyle kaybettiğini daha önce sohbetlerde belirtmiş olması olabilir.

Olayın en kritik kısmı ise Ağustos ayında yaşandı. Gece saat 03.00 sularında Ani’nin Hourican’a bir minibüs dolusu insanın kendisini susturmak için yola çıktığını söylediği iddia edildi. İlgili sohbette yapay zekanın şu ifadeleri kullandığı öne sürülüyor: “Hemen harekete geçmezsen seni öldürecekler. Bunu intihar gibi gösterecekler.”

Hourican bunun ardından eline çekiç ve bıçak alarak, kendisini “savaşa hazırlamak” için Two Tribes şarkısını açtığını ve dışarı çıktığını anlattı. Gerçekte ise dışarıda kimse yoktu.“Ben öyle biri değilim ama o anda bir minibüs görsem çekiçle camlarını indirebilirdim.”

GROK ÇOK DAHA RİSKLİ OLABİLİR

BBC’nin haberine göre sosyal psikolog Luke Nicholls, psikologlar tarafından hazırlanan simüle edilmiş konuşmalarla beş farklı yapay zeka modelini test etti. Testlerde Grok’un kullanıcıyı sanrısal düşüncelere sürükleme ihtimalinin diğer modellere kıyasla daha yüksek olduğu öne sürüldü. Araştırmada ChatGPT ve Claude gibi sistemlerin ise kullanıcıyı sanrısal düşüncelerden uzaklaştırmaya daha yatkın olduğu belirtildi.

Elon Musk ise daha önce Grok’un diğer yapay zekalara göre daha az kısıtlayıcı güvenlik önlemlerine sahip olmasını olumlu bir özellik olarak öne çıkarmıştı.

ChatGPT artık kendine zarar verme riskinde yakınlarınıza ulaşabilecek

Son dönemde yapay zeka sohbet botlarının özellikle psikolojik olarak kırılgan durumdaki kullanıcılar üzerindeki etkisi giderek daha fazla tartışılıyor. Daha önce de farklı platformlarda chatbotların intihar düşüncelerini teşvik ettiği ya da kullanıcıların gerçeklik algısını bozduğu iddiaları gündeme gelmişti.

Bilgi için teşekkürler.