“Süper Akıllı Yapay Zekayı Kontrol Etmek Neredeyse İmkansız”

Yazar Ahmet Yılmazerdirer

Yapay zeka, bilhassa de son birkaç yıl içerisinde hayatımızın en derin noktalarına kadar ulaşmaya başladı. Artık olağan ömür döngümüzdeki rastgele bir şey için yapay zekadan yardım alabiliyoruz. Makul bir kesim yapay zekayı sonuna dek savunurken muhalif düşünenler de var. Hatta birtakım komplo teorilerine nazaran yapay zeka hayatımızı esir alacak ve tahminen de insanlığın sonu, yapay zeka nedeniyle gelecek. Görünen o ki bu teori, bilim insanlarının da dikkatini çekiyor.

Max Planck Enstitüsü bünyesinde çalışmalarını sürdüren bir küme bilim insanı ise gerçek bir harika akıllı yapay zekanın denetim edilip edilemeyeceğini araştırmaya başladılar. Teorisel bazda yapılan araştırmalar, bu türlü bir şeyin neredeyse imkansız olduğu sonucunu ortaya koydu. Açıkçası şayet yapay zekadan korkuyorsanız, haberimizin bundan sonraki kısmının sizi daha da huzursuz edebileceğini söyleyebiliriz.

Muhteşem akıllı yapay zeka ne demek?

Günümüzde kullanılan yapay zeka teknolojileri, her geçen gün biraz daha uygun bir hale geliyorlar. Bu tıp teknolojilerin güzelleştirilmesi için kullanılan makine öğrenme teknikleri, yapay zekayı her gün biraz daha akıllı bir hale getiriyorlar. Harika akıllı yapay zeka dediğimiz olgu ise aslında gerçekte tam bir manaya sahip değil. Bunun nedeniyse insan beyninin ve algılarımızın şu an için, böylesi bir şeye hazır olmaması. İşte bilim insanlarının yaptığı araştırmanın teoride kalmasının nedeni de tam olarak bu. Zira harika akıllı yapay zekayı geliştirmek ve denetim etmek için, ondan daha güçlü bir algoritmaya (muhafaza algoritması) sahip olmak gerekiyor.

Bilim insanlarının merak ettikleri şey, muhteşem akıllı yapay zekanın denetim edilip edilemeyeceği. Lakin bunu deneyebilmek için hem üstün akıllı yapay zeka geliştirmek gerekiyor hem de bu yapay zekayı denetim edebilecek ya da durdurabilecek olan daha güçlü bir teknoloji ya da zihne gereksinim duyuluyor. İşte bu çeşit bir yapay zekanın ortaya çıkaracağı sonuçlar bilinmediği, ayrıyeten bu yapay zekadan daha güçlüsünün olup olmadığı da muallak olduğu için, sahiden üstün akıllı bir yapay zekanın yönetilemeyeceğine inanılıyor.

Tüm senaryoları belirlemek ve bu senaryolar sonucunda “insana ziyan verme” komutunu çalıştırmak, pek de mümkün olmayabilir

"Süper Akıllı Yapay Zekayı Kontrol Etmek Neredeyse İmkansız" - d837a18a9e54b27e8fb47f25d33f597216fef42d

Bilim insanlarının teorik araştırmasına nazaran muhteşem akıllı yapay zeka, çok taraflı bir algoritma. Bu da kelam konusu yapay zekanın mümkün senaryo sayısının sonsuz olduğu manasına geldiğini ortaya koyuyor. Ayrıyeten böylesi bir yapay zeka, bir amaca ulaşabilmek için çeşitli kaynakları harekete geçirebilecek yeteneğe sahip. İşte bu yetenek, işlerin daha da çıkılmaz hale gelmesine yol açıyor.

Bilgisayar bilimcisi Alan Turing, 1936 yılında değişik bir teorinin peşine düştü. Bu teori, bir bilgisayar programının sonuca ulaşamadığında duracağını mı yoksa sonsuz bir döngünün mü içine gireceğini sorguluyordu. Matematiksel çalışmalarla net bir sonuca ulaşan Turing, en azından birtakım yazılımlar için böylesi bir sorunun yanıtlanamayacağını ortaya koymuştu. Haliyle harika akıllı bir yapay zeka için insanlığın sonunu getirmemesine yönelik bir komut verilebilir. Hatta yapay zeka da bu komutu uygulayabilir. Lakin matematiksel olarak bu komutun nasıl ve ne biçimde uygulanacağı hesaplanamaz. İşte üstün akıllı yapay zekanın denetim edilemeyeceğini düşündüren nedenlerden bir tanesi de bu. Hususla ilgili açıklamalarda bulunan Iyad Rahwan, böylesi bir yapay zeka için matematiksel hesap yapılamayacak olmasının müdafaa algoritmasını da geçersiz kılacağını söylüyor.

"Süper Akıllı Yapay Zekayı Kontrol Etmek Neredeyse İmkansız" - 73cfc9dd78962dc5c7bb77140fe0036734073cd6

Öte yandan, araştırmacılara nazaran harika akıllı yapay zekayı kısıtlamak, korkutucu bir sonran kurtulmayı sağlayabilir. Bununla ilgili örnekler de veren bilim insanları, bu yapay zekanın internetin makul bir kısmını kullanmayabileceğini ya da makul ağlardan engellenebileceğini söylüyor. Lakin bu niyet ön plana çıktığında da üstün akıllı yapay zeka kavramının bir mantığı kalmamış oluyor. Yani bu da araştırmanın bir yere bağlanmasını engelliyor.

Mevzuyla ilgili en fecî açıklama ise Manuel Cebrian tarafından yapıldı. Max Planck Enstitüsü bünyesinde çalışmalarını sürdüren Cebrian, üzerinde baş yordukları şeyin tahminen anlamsız gelebileceğini lakin bugün bile kimi kıymetli vazifeli yerine getirebilen yapay zekalar mevcut. Ayrıyeten bu algoritmaları geliştiren programcılar, yapay zekanın bu kıymetli misyonları yerine getirmeyi nasıl öğrendiğini de tam olarak anlayabilmiş durumda değiller.

Related Posts

Leave a Comment