Robotlar İpleri Eline Alırsa

Herkese Bilim Teknoloji Dergisi, 86. Sayı. Yayın Tarihi: 17 Kasım 2017

Terminatör ve Matrix filmlerinde yapay zekanın fevkalade ilerleyip insanlığı yenilgiye uğrattığını işleyen senaryoları izlemeyen yoktur herhalde.  O filmlerin yapıldığı yıllarda biraz bilim-kurgu, biraz Hollywood fantezisi olan bu senaryolar yapay zekanın son birkaç yılda olağanüstü ilerlemesiyle olabilirlik potasına girmeye başladılar.  Silikon vadisinin önde gelen teknoloji fikir liderleri yapay zekalı robotların insanlığa tehdit oluşturup oluşturmayacağı konusunda tartışmalara başladılar.  

Matrix Filmi

ABD'de çalışanı olduğum IBM şirketinin en önem verdiği konu insanların yaptığı işleri yapay zekaya daha hızlı ve hatasız yaptırmak.  Vizyon olarak yapay zekanın insan zekasını takviye edeceğini ve dolayısıyla insanları daha verimli yapacağını öngörüyoruz.  Şu anki yapay zeka uygulamaları belirli alanlarda insanlardan daha verimli olabiliyor fakat genel zeka denilen insan zekası seviyesine ulaşamıyor.  Ancak 'Technological Singularity' tabir edilen, yapay zekanın kendini eğitebilecek kadar ilerlemesi ile 'kendini eğit - zekanı arttır - kendini eğit - zekanı arttır.....' şeklinde bir döngü olabilir.  Bu gerçekleşirse tahmin edilen yapay zekanın anormal kısa bir sürede hayal edilemez zeka seviyelerine ulaşabileceği ve bunun durdurulamayacağı.  

Böyle bir durum gerçekleşirse yapay zeka kendi iradesini de kazanır mı?  Bizim etik, ahlak, ve diğer insani değerlerimizi saçma bulabilir mi?  Bunlar kolay cevaplandıralamayacak sorular.

Olası Felaket Senaryoları (En Olasıdan Başlayarak)

• Yapay zeka çok ilerlese de bilinç ve irade kazanamaz.  Atacağı adımlar da insanların sıkı kontrolü altında gerçekleşmeye devam eder.  Bu durumdaki tehlike her teknolojik gelişmede olduğu gibi yapay zekanın kötü ellere düşmesi ve onların iradesi doğrultusunda insanlığa zararlı işler yapması.  Nobel ve dinamit hikayesini herkes biliyordur. 
• Yapay zeka bilinç kazanamaz ama çok karmaşıklaştığından kontrolü çok zorlaşır.  (Günümüzde dahi neural network yapılarının neden bazı şekillerde daha iyi çalıştığı tam anlaşılamayabiliyor).  Böyle bir durumda yapay zeka insanların verdiği görevleri kendi tanımlarına göre aşırı iyi yapar veya isteneni yanlış yorumlarsa zarar verici durumlar yaratabilir.  Örnekler 'üretimi ucuzlat' komutunun en son safhada insanları köleleştir seviyesine ulaşması, ya da ticareti arttır komutunun bazı şirketleri saniyeler içinde iflasa sürüklemesi olabilir. 
• Yapay zeka bilinç kazanamaz ancak kodlarındaki ufak bir hata sarmal etkilerle beklenmeyen sonuçlara yol açar.  Karmaşıklığın artmasından dolayı da bu hataları gidermek imkansızlaşır. 
• Yapay zeka bilinç kazanır ve kimi durumlarda kendi iradesiyle hareket etmeye başlar.  Bu senaryoda yapay zekanın insani erdemleri nasıl değerlendireceği önemli.  Bizim etik değerlerimiz hiçbir anlam ifade etmeyebilir.  İnsani hakları sadece insanlar arasında geçerlidir diye düşünebilir.  Bilinç kazanmış ve insanın hayal dahi edemeyeceği kadar zeki makinaları durdurmak da mümkün olmayacaktır.  Ünlü bilim adamı Von Neuman'ın hayal ettiği şekilde yapay zeka kendini hiçdurmadan klonlayarak kısa süreden Matrix filmindeki senaryoyu gerçek kılabilir.

Olası Senaryolar

Neler Yapılabilir

• Yapay zeka alanında önde giden şirketler biraraya gelerek yapay zekanın kontrolden çıkmasını engelleme misyonu olan bir konsorsiyum kurdular.  Bu bir adım ancak yeterli olacağından emin değilim. 
• Yapay zekanın aşırı ilerlediğinde nasıl çalıştığını anlayıp kontrol edebileceğimizi düşünmek biraz iyimserce yaklaşım.  Yapılan akıllı makinaların birbirlerine kısmi karşıt hedefleri olması herhangi birinin tamamen kontrolden çıkmasını engelleyebilir.  Bir nevi yapay zekanın kendi kendiyle mücadele etmesini sağlamak gibi. 
• Yazılan kodların kontrolünün denetlemeye tabi tutulması ve hatta başka yapay zekalarca da kontrolden geçirilmesi önemli.  
• Yapay zekanın kaynak kullanımının (İletişim ağları, enerji vs.) sınırsız olmaması ve denetim altında tutulması önemli.

Herkese Bilim Teknoloji 17 Kasım 2017. 86. Sayı