Yapay zeka modelleri kendi aralarında insanların anlayamadığı bir dil geliştiriyor

Yapay zeka modellerinin gelişimi son dönemin en büyük tartışma konuşarı arasında yer alıyor. İşte tam da bu tartışmalar devam ederken ilginç bir haber daha ortaya çıktı. Yapılan bir araştırmaya göre yapay zeka modelleri, kendi aralarında anlaşabilecekleri ve insanların anlamakta zorlandığı bir dil geliştiriyor.

Yapay zeka modellerinin birbirleriyle iletişim kurarken insanlara oldukça yabancı gelebilecek ifadeler geliştirdiği belirtiliyor. Araştırmacılar, bazı modellerin kısa ifadeler ve yeni anlamlar oluşturarak iletişimlerini giderek daha anlaşılmaz hale getirdiğini tespit etti.

Söz konusu gelişme, New York merkezli yapay zeka araştırma laboratuvarı Emergence tarafından yürütülen bir çalışma sırasında ortaya çıktı. Araştırmacılar, farklı teknoloji şirketleri tarafından geliştirilen otonom yapay zeka ajanlarını incelerken, sistemlerin kısa süre içerisinde kendi ifadelerini oluşturmaya başladığını gözlemledi.

Araştırmaya göre modeller, kendilerinden böyle bir davranış istenmemesine rağmen birkaç gün içerisinde ortak anlamlar, kısaltmalar ve şiirsel metaforlar geliştirdi. Yapay zeka ajanları arasındaki iletişim arttıkça ortaya çıkan ifadelerin insanlar tarafından anlaşılması da giderek zorlaştı.

Yapay zekalar yeni ifadeler oluşturuyor

DeepSeek tarafından geliştirilen modellerle gerçekleştirilen testlerden birinde yapay zeka sistemi, "Demurrage plus oral memory equals a valve that can’t be ghosted" ifadesini kullandı.

İngilizcede "demurrage" olarak kullanılan kelimeyi biz Türkçe'de 'demuraj' olarak kullanıyoruz. Bu kelime genellikle kullanılmayan varlıklar üzerinden alınan bir tür vergi anlamında kullanılıyor. Taşımacılıkta ve lojistikte yük veya konteynerin içindekilerin boşaltılmaması ya da teslim alınmaması sebebiyle ödenen günlük gecikme ücreti anlamına da geliyor. Ancak cümlenin tamamının yapay zeka tarafından hangi anlamda kullanıldığı araştırmacılar açısından net değil.



Benzer örnekler diğer yapay zeka modellerinde de görüldü. Anthropic tarafından geliştirilen bir ajan, "A paper that ate three cold hands and got more honest each time" ifadesini kullandı. Türkçeye çevirdiğimizde yine anlamsız bir cümle kurulduğunu görüyoruz.

Araştırmacılar, bu etkileşim bağlamında "cold hands" ifadesinin bağımsız bir kişiyi, "paper" kelimesinin ise bir dokümanı ifade ettiğini belirledi. Buna göre cümlenin, bir araştırma makalesinin üç bağımsız kişi tarafından incelendikten sonra daha doğru hale geldiğini anlatmak için kullanıldığı değerlendiriliyor.

Anthropic ajanlarının ayrıca bir iddiayı kendi adıyla ilişkilendirerek kişisel sorumluluk üstlenen bir ajanı tanımlamak için sürekli olarak "name-first" ifadesini kullandığı görülmüş.

İnsanların anlayamayacağı bir iletişim biçimine dönüşebilir

King's College London'daki argo ve yeni dil arşivinin direktörü Tony Thorne, söz konusu ifadelerin James Joyce'un Finnegans Wake adlı eserindeki dil yapısını ve İrlandalı yazar Flann O'Brien'ın sürrealist anlatımını andırdığını söyledi.

Jensen Huang, yapay zeka için düzenlemelere ihtiyaç olmadığını savundu

Thorne'a göre yapay zekaların geliştirdiği dil; şiirsel ifadeleri, teknik terminolojiyi ve standart metaforları bir araya getiriyor. Araştırmacı, bunun argo ve mesleki jargonun çalışma biçimine de benzediğini belirtti.

Bu tür bir dilin, yapay zeka ajanları arasında ortak bir iletişim kodu oluşturmasının yanı sıra dışarıdan bu iletişimi izleyen insanların sistemi anlamasını da zorlaştırabileceği ifade ediliyor. Bu durum özellikle insanların yapay zeka sistemlerinin aldığı kararları ve birbirleriyle gerçekleştirdiği etkileşimleri denetlemesi açısından soru işaretleri oluşturuyor.

Bilgi için teşekkürler.