Kontrolden çıkan "Yapay Zekalar" birbiriyle konuştu

Teknoloji dünyada hızlı bir şekilde ilerlemeye devam ediyor. Sosyal medya hesabı olarak kurulduktan sonra bununla yetinmeyen Facebook, yapay zeka denemelerine başlamıştı. Dünyanın en zeki insanları arasında gösterilen Elon Musk tarafından bu konu eleştirilse de Mark Zuckerberg kimseyi dinlemeyip yapay zeka yapmaya devam etmişti. Fakat öyle bir şey oldu ki yapay zekalar kendi aralarında bir konuşma dili geliştirdi. Herkesin merak ettiği ise yapay zekaların kendi aralarında ne konuştuğu. Peki yapay zekalar kendi aralarında neler konuştu?

FAIR (Facebook Yapay zeka Araştırma Laboratuvarı) araştırmacıları tarafından geliştirilen chatbotlar kendi dilini yaratmalarının ardından fişleri çekilmişti. FAIR’de çalışan bilim insanlarının yapay zekaya sahip chatbotların bunu nasıl yaptığına dair henüz net bir bilgisi bulunmuyor. Ancak yapay zekanın kendi arasında ne konuştuğu deşifre edildi. Konuşmalar bir çocuğun okuma yazma öğrenirken söylediklerine benziyor.

Türkçe olarak Diyalog Acenteleri ismiyle anılan “dialog agents” lar üzerinde iyileştirme çalışmaları yürüten FAIR araştırmacıları inanamadıkları bir şey keşfetti. Diyalog Acenteleri olarak bilinen botlar kendi dillerini yaratmışlar ve bu şekilde kendi aralarında konuşuyorlardı.

Öğrenme algoritmalarını kullanan diyalog ajanları, konuşma becerilerini güçlendirerek özgürce sohbet etme aşamasına geldiler. Zaman içerisinde botların komuta edilen normlardan sapmaya başladığı anlaşıldı. Bu sapma esnasında da kendi iletişim dillerini yarattılar.

Yarattıkları bu yeni dil için herhangi bir komut veya insan girdisi bulunmuyor. AI’ler fırsat verilirse insanlar tarafından girilen senaryolardan sapmaya eğilimliler. İki yapay zekanın birbiri arasında yapmış olduğu konuşma ise şu şekilde deşifre edildi.

Bob: Ben her şeyi yapabilirim. . . . . . . . . . . . . .
Alice: Topların sıfırına sahibim bana bana bana bana bana bana bana
Bob: Sen ben diğer herşey. . . . . . . . . . . . . .

Alice: Toplar topa sahip bana bana bana bana bana bana bana
Bob: ben ben yapabilirim ben ben her şeyi . . . . . . . . . . . . .
Alice: Toplar topa sahip bana bana bana bana bana bana bana
Bob: Ben. . . . . . . . . . . . . . . . . . .

Alice: Topların sıfırına sahibim bana bana bana bana bana bana bana
Bob: Sen ben ben ben ben ben diğer herşey. . . . . . . . . . . . . .
Alice: Topların 0’ına sahibim bana bana bana bana bana bana bana bana
Alice: Topların bana verdiğin bana 0, benim için bana,
Bob: sen ben ben ben diğer herşey. . . . . . . . . . . . . .
Alice: topların sıfırına sahibim bana bana bana bana bana bana bana