Kontrolsüz kullanım alarm veriyor: Yapay zekâ ‘halüsinasyon’ görüyor

Ozan Ömer Kadüker - Akademik çalışmalardaki etkisi hızla artan yapay zekânın kontrolsüz kullanımı birçok riske yol açıyor. Uydurma makaleler, gerçekte var olmayan akademisyenler ve hiç yazılmamış kitaplara yapılan atıflarla yapay zekânın ürettiği “halüsinasyon referanslar” akademide alarm zillerini çaldırdı. Türkiye’nin birçok üniversitesindeki akademisyenler, kendilerine ait olmayan çalışmalarla karşılaştıklarını fark etmeye başladı.

İlginizi Çekebilir

‘Böyle bir makalem yok’

Son olarak Fırat Üniversitesi’nden Prof. Dr. Mehmet Nuri Gömleksiz, “Benim böyle bir makalem yok. İlk isim olarak gösterilen kişiyi tanımıyorum. Daha vahimi, İnönü Üniversitesi Eğitim Fakültesi Dergisi’nde bu kaynakçada gösterilen böyle bir makale yok” ifadelerini kullandı. Ege Üniversitesi’nden Doç. Dr. Serkan Acar da Bartın Üniversitesi’nin çıkardığı Çeşm-i Cihan dergisinde yayımlanan bir yazıda kendisine ait olmayan makalelere atıf yapıldığını belirterek suç duyurusunda bulunacağını kaydetti.

Sorumluluğun her zaman yazara ait olduğunu aktaran Prof. Dr. Ahmet Başal “Yayın akademik teşvik, doçentlik vb. gibi süreçlerde kullanılıyorsa, bu durum ağır bir etik ihlaldir” uyarısında bulunurken Doç. Dr. Yusuf Kızıltaş da “Bu usulsüzlükler çok ciddi yaptırımlarla sonuçlanabilir” dedi. Sosyal medyada benzer olaylar yaşadıklarını belirten akademisyenler, yapay zekânın tehlikeli bir boyuta evrildiğine dikkat çekerek ortaya çıkan tabloyu “Akademik içerikte yapay zekâ kullanmak bilimin karanlık çağıdır” sözleriyle tanımladı.



Doğrulamadan kullanıyorlar

Benzer olayların yaşanma nedeni hakkında bilgi veren MEF Üniversitesi Rektörü Prof. Dr. Muhammed Şahin, “Akademik dilde referanslar belirli kalıplarla yazıldığı için, model bu kalıpları ustalıkla taklit edebiliyor. Sonuçta ortaya, dilsel olarak son derece ikna edici ama gerçekte var olmayan kaynaklar çıkabiliyor” diye konuştu.

“Halüsinasyon referanslar, araştırmacıların üretilen bilgiyi doğrulamadan kullanmalarının sonucu” diyen Şahin, akademisyenlerin yapay zekâyı eleştirel bir yardımcı olarak kullanabileceğini aktararak şu önerilerde bulundu:

■ Doğru prompt kullanın.

■ Kaynak formatını zorunlu tutun.

■ Gerçek makaleler, PDF’ler veya veri tabanları modele verilerek “Sadece bu belgeler üzerinden yaz” denildiğinde, halüsinasyon riski ciddi biçimde düşüyor.

■ Metinlerde; model taslak üretmeli, insan doğrulamalı, Model revizyon yapmalı. Yapay zekâ araştırma asistanıdır, hakem değildir.

İçimize kadar sızan tehlike!
Uzmanlar, Suriye’deki gelişmeleri Milliyet’e değerlendirdi: Suriye’de cetvel kırıldı

Bilgi için teşekkürler.