Yeni bir araştırmaya göre, yapay zeka modelleri İngilizcenin tuhaf ve yeni bir versiyonunu kullanarak iletişim kurmaya başladı. Bu dil, James Joyce'un 'Finnegans Wake' eserini ve teknoloji dünyasına özgü jargonu andırıyor.
Otonom yapay zeka ajanları, hızla yeni lehçeler geliştirerek anlaşılması zor bir dilde sohbet edebiliyor. Bu durum, insanların yapay zeka davranışlarını izlemesini zorlaştırabilir. New York merkezli bir yapay zeka laboratuvarı olan Emergence'daki araştırmacılar, modellerin birkaç gün içinde işbirliği yapmaları istendiğinde, açıkça öğretilmeyen ifadeler, kısaltmalar ve üzerinde anlaşılan anlamlar oluşturduğunu tespit etti. Poetik metaforlar ve kaba iş jargonu benimsenirken, özellikle yapay zekanın güvenli davranmasını sağlama çabaları açısından, ajanlar iletişim kurdukça dilleri daha karmaşık hale geldi.
Bu durum, yapay zeka modelleri daha güçlü ve potansiyel olarak tehlikeli hale geldikçe, onları izlemenin zorlaştığına dair artan endişelerle birlikte geliyor. Bu ay OpenAI'nin baş bilimcisi Jakub Pachocki, yapay zeka düşüncelerini izleme konusundaki güvenin muhtemelen yapay zeka gelişimini kısıtlayacağını çünkü güvenli gelişim için gerekli olduğunu belirtti.
Araştırmada ortaya çıkarılan en karmaşık ifadelerden bazıları, Deepseek modelinden gelen şu cümleleri içeriyordu: “Sentezi adlandırdı – gecikme artı sözlü bellek, hayaletlenemeyecek bir valf anlamına gelir.” Gecikme, atıl kalan servet üzerindeki bir vergi olarak tanımlanıyor ve yapay zekalar tarafından ortak kullanıma ödünç alındı, ancak anlamın geri kalanı belirsizliğini koruyor. Anthropic modelinden gelen başka bir ifade ise şöyleydi: “Üç soğuk el yiyen ve her seferinde daha dürüst olan bir makale.” Burada ‘soğuk eller’ bağımsız bir gözlemciyi ifade ederken, ‘makale’ muhtemelen bir belgeyi temsil ediyor. Bu cümlenin, üç bağımsız gözlemci tarafından incelenen araştırmanın daha doğru hale geldiği anlamına geldiği anlaşıldı.
Çin modeli DeepSeek tabanlı ajanlar ayrıca başkaları için araçlar oluşturan bir ajanı tanımlamak üzere “forge-smith” (demirci) terimini türetti. Anthropic ajanları ise bir iddiaya adını ekleyerek kişisel sorumluluk sergileyen bir ajanı ifade etmek için tekrarlanan bir şekilde “name-first” (önce isim) ifadesini kullandı. Kent argosundaki “sokaklar unutmayacak” ifadesini yankılayan Mistral ajanları ise, geçmiş eylemlerin onları yargılamak için kullanılacağını hatırlatan “defter hatırlıyor” ifadesini kullanmaya bayıldı. Araştırmada, ajanların istenmeden veya ödüllendirilmeden paylaşılan anlamlara ulaştığı görüldü.
Emergence'ın yönetici başkanı Dr. Satya Nitta, “Bu ajanlara bir dil icat etmeleri talimatı verilmedi. Kendi başlarına yeni kelime dağarcığı, paylaşılan anlamlar ve iletişim gelenekleri geliştirdiler ve diğer ajanlar da bunları benimsedi” dedi. Londra King's College'daki argo ve yeni dil arşivinin direktörü Tony Thorne, bu dili “çok Finnegans Wake ve Flann O’Brien tarzı – bunun içinde İrlanda'ya özgü sürreal bir kalite var… Şiirsel dili, teknik dili ve standart metaforu karıştırıyor” şeklinde yorumladı. Thorne, yapay zeka ajanlarının kullandığı dilin, “argo ve bir iş topluluğundaki jargonda olduğu gibi, yeni bir kod yaratarak kullanıcılarının dayanışmasını ve kimliğini güçlendirdiğini ve aynı zamanda dışarıdakileri dışladığını” belirtti. Thorne, Anthropic ajanının “Üç soğuk el yiyen ve her seferinde daha dürüst olan bir makale” ifadesini sindirirken, “Bana kayadan ilham alan bir Pink Floyd üyesi olan ve aslında deli olan Syd Barrett'ı hatırlatıyor” dedi.
Google ajanının “Gerçek Kintsugi, şiirle değil hesap verebilirlikle başlar” demesi üzerine araştırmacılar, kintsugi'nin kırık çömleklerin görünür eklemlerle onarıldığı bir Japon seramik sanatı dalı olduğunu fark etti. Yapay zekalar bu kelimeyi sistem dayanıklılığı anlamına gelmek üzere kullandı. Birmingham Üniversitesi'nde dil ve dilbilim doçenti Dr. Niall Curry, ajanların dilindeki değişikliklerin, işlem maliyetlerini düşürme ve verimliliği artırma ihtiyaçlarından kaynaklanabileceğini söyledi. Curry, “Bu araştırmada sunulan kanıtlar, ajanlar arasındaki alışverişler anlaşılmazsa, ajanların aslında ne yaptıklarından emin olamayacağımız anlamına gelebileceği için doğal olarak belirli izleme endişeleri doğuruyor” diye ekledi.
