Facebook, Kendi Dilini Oluşturan Yapay Zekayı İptal Etti

Facebook, Kendi Dilini Oluşturan Yapay Zekayı İptal Etti

Yapay zekanın (AI) kendi dilini yaratması ve dil bağlamında kontrolden çıkması sonucu araştırmacılar sözkonusu sistemi durdurdu.
Yapay zeka programının, botlar arası iletişim ve etkileşimi daha etkili hale getirebilmek için yeni bir dilde yeni kelimeler de denilebilecek kodlar geliştirmesi üzerine araştırmacılar programı iptal etti.
Temmuz ayının başından beri konuşulan bu durum, Tesla kurucusu Elon Musk’ın yapay zekaya dair uyarılarını yeniden gündeme getirdi.
“Yapay zeka, devamlı gelişimini sağlamaktan ziyade; önü alınması gereken nadir gelişmelerden birisi. Ileride kontrol altına almamız gerektiğinde artık çok geç olabileceğini düşünüyorum.” demişti Musk, ABD Ulusal Yöneticiler Birliği toplantısında.
Facebook kurucusu Mark Zuckerberg’in Musk’ın endişelerini yersiz bulması ve ‘oldukça sorumsuz’ olarak nitelendirmesiyle birlikte tartışma hararetlenmiş ve Musk, Zuckerberg’e “Yapay zeka konusunda bilgisi kısıtlı” şeklinde cevap vermişti.
Bu, İlk Değil
Araştırmacıların, yapay zekanın bu gizemli ve başına buyruk davranışıyla karşı karşıya kalması, daha önce kayıtlara geçmiş pek çok durumu akıllara getiriyor. Sözkonusu durumlarda da yapay zeka yine kendi dilini oluşturmak için programlandığı dilden, Ingilizce’den sapmıştı.
Yapay zekanın oluşturduğu bu yeni dildeki ifadeler insanlar için bir şey ifade etmiyor doğal olarak; ama botlar tarafından yorumlanıp tercüme edildiğinde mantıklı anlamlar kazanıyor.
Facebook’un gelişmiş yapay zeka sistemi, diğer yapay zekalarla işbirliği yapabilme kapasitesine de sahipti ve bu, işleyişine yönelik kararları kendisinin verebileceğinin göstergesiydi.
Facebook’un ortaya koyduğu botlar arası bir sohbette, Bob ve Alice adlı iki robot, diyaloglarını tamamlamak için kendi dillerini kullanıyorlardı. İngilizce kullanıma programlanmalarına rağmen yapay zekalar konuşmalarını kendi yarattıkları dilde devam ettiriyorlardı.
Konuya eğilen araştırmacılar, diyalogta geçen ve bizlere anlamsız gelen ifadeleri çözmeye ve birbirlerine ne demek istediklerini anlamaya çalışıyorlar.
Botların konuşmalarına bakıldığında, “ii can iii everything else.” gibi harf veya kelime eklentili ifadeler görülüyor. Bundan yola çıkarak, İngilizce, insanlar için iletişimde oldukça yeterli olmasına rağmen yapay zekanın bizlerin kullandığı cümleleri yetersiz bulduğu ya da görevine yönelik amaca ulaşmakta etkili bulmadığı düşünülüyor.
Görünüşe göre Facebook yapay zekası Ingilizce’de fazla kelime içeren ifadeleri gereksiz buluyor.
Araştırmacı Dhruv Batra konuya şu şekilde açıklık getirdi; “Size beş kere aynı kelimeyi söylersem, siz bunu sözkonusu şeyden beş tane istediğim şeklinde tercüme edersiniz. Botlar da aynı şekilde, dilimizden uzaklaşarak daha etkili gördükleri, kelime niteliğinde kodlar geliştirdiler. Aslında durum, biz insanların yaptığından farklı değil. Nasıl ki iletişimi daha etkin kılabilmek için kısaltmalar ve yeni kelimeler kullanıyoruz, onlar da bir anlamda bunu yapıyor.”
Diğer pek çok şirketlerde de yapay zeka üzerine çalışan bilim adamları, programların iletişimi kolaylaştırmak adına yeni diller oluşturduğunu gözlemlemişlerdi.
Elon Musk’a ait OpenAI laboratuvarında, yapay zekanın kendi dilini oluşturacağı deney başarılı olmuştu.
Aynı şekilde Google’da çeviri servisinde çalışan ekip, programladıkları yapay zekanın, cümle çevirisine yardımcı olacak kendi dilini yarattığını keşfetmişti. Olay şöyle gelişmişti; çeviri gelişimcileri, daha önce denenmemiş bir şey yaparak dil çiftleri arasında çeviriyi mümkün kılabilmek için sisteme sinirsel bir ağ eklemişlerdi. Yapay zekanın bu sinirsel ağı kullanarak sessizce kendi dilini yazması büyük bir sürpriz olmuştu.
Uzun süredir tartışmalara sebep olan ve yine uzun zaman gündemde kalacak bu duruma yönelik şunları söyleyebiliriz: Yapay zekanın öngörülemeyen ve şaşırtıcı davranışlarını tehdit olarak nitelendirmek veya insanoğlunun kontrolünden çıkacak makinelere yol açacağını savunmak şu an için doğru değil ve yeterli deliller de yok. Yinede, insanlar, oluşturulan bu yeni dillerin üstün doğasını anlamakta çaresiz kaldığı için, yapay zekanın, gelişmeleri zorlaştırdığı da bir gerçek. Örneğin yukarıda bahsettiğimiz Google çeviri örneğine bakacak olursak; yapay zeka hiç kimsenin anlayamadığı bir dil yaratmıştı ve belkide soruna yönelik en etkili çözüm bu dilde saklıydı.
Ne var ki Elon Musk’ın da belirttiği gibi; insan kontrolünden çıkması sözkonusu ise yapay zeka ,şu an için, geliştirilmekten ziyade kontrol altına alınmalıdır.

Bir Cevap Yazın