Teknolojinin İnsanla İmtihanı

Herkese Bilim Teknoloji Dergisi, 93. Sayı. Yayın Tarihi: 5 Ocak 2018

San Francisco'da göreve başlayan güvenlik robotları

• San Francisco'da göreve başlayan bir güvenlik robotu insanlarca saldırıya uğradı. Alıcılarına acı sos, vücuduna dışkı sürülmüş ve alaşağı edilmiş bir şekilde, tabiri caizse can çekişirken bulundu. Alışveriş merkezinde görevli bir başka güvenlik robotu da kendini AVM'nin havuzuna atarak intihar etti. İnsanların sürekli rahatsız edip karmaşık sinyaller vermesi sonucu bunalmasından intihar etmiş olabileceği düşünülüyor. 

• Arabaları daha kullanışlı ve otomatik hale getirmek için kullanılan oto bilgisayar sistemlerini insanlar bozarak uzaktan kumandayla arabaları kaza yaptırabilme yöntemleri geliştirdiler. Uzaktan, arabaların frenlerini, hava yastığını, kapı kilitlerini etkisiz hale getirmeye başladılar. 

• Lojistik alanında büyük faydaları olacağı öngörülen drone'ları uçuş halindeyken ele geçirip kaçırmaya ve bilinçli şekilde çarptırıp hasar vermeye imkan sağlayan yöntemler bulundu. 

• İnsanların görüşlerini otomatik olarak derleyip özetleyen ve ileri demokrasiye bir araç olmayı hedefleyen Twitter, devletlerin parayla troller ve bot'lar üzerinden propadanda yaptırdığı bir manipulasyon ve linç etme platformuna dönüştü. 

Propaganda yapan troller ve botlar (Twitter'da sahte etiket açarak)

• Haberlerin daha hızlı yayılmasını sağlayarak hayatı kolaylaştırmayı hedefleyen Facebook, önyargılı sahte haberlerin en hızlı yayıldığı ortam oldu. Sahte haberleri türeten, ve bu haberleri özellikle insanların inanmak isteyeceği hikayelere dayandıran gruplar bu işten para da kazandılar. Facebook'un büyük yatırımları yaparak geliştirdiği yapay zeka teknolojileri sahte haberleri tespit etme görevinde afalladılar. 

• Yapay zeka bot'u Tay, kendini insanlarla konuşarak geliştirmesi için Twitter'a bırakıldı. Son derece iyi niyetli, sevgi dolu ve naif bir yapay zeka olan Tay 24 saat insanlarla konuştuktan sonra ırkçı, küfürbaz ve nefret dolu, troll vari bir karaktere dönüştü, insanları yoketmek istediğini dile getirdi. Tay'ın fişi çekildi. 

Tay yapay zeka'nın Twitter'daki ırkçı ve nefret dolu konuşmaları

İnsanın otonom sistemlerle mücadelesini, yapay zekanın insanlarla imtihanını gösteren yukarıdaki örnekler çağımıza has traji-komik olaylar. İnsanların otonom sistemler ve yapay zeka ile yoğun etkileşim içerisine girmesinin toplumsal olarak ne sonuçlar doğuracağı esaslı bir muamma. İnsanların girişimcilik, yaratıcılık ve zekalarıyla yoktan mucizeler var edebilme yetileri var. Ancak bunun yanında potansiyel olarak büyük yararları olabilecek buluşları sevimsiz işlere alet edip zamanın okunu şiddetle sarsma gibi yetenekleri de var. Kaygı, güvensizlik, heyecan arayışı, şakalaşma ihtiyacı, empati gibi insani duyguların bu etkileşimleri nasıl yönlendireceğini önceden kestirmek zor. 

Henüz detaylı olarak incelenmemiş makina insan etkileşiminin ileride sosyolojik araştırmalara konu olabileceğini düşünüyorum. Aslen bu çalışmaların da teknolojik gelişmeyle kolkola gitmesi gerekir kanaatindeyim. 

• Geleceğe yönelik distopik kaygı. Gündelik hayatta robotlarla etkileşimimiz arttıkça mahrem ve psikolojik sınırlar geçilecek ve insanların olumlu veya olumsuz tepkilerini göreceğiz. İnsanların güvenlik robotlarını kabul etmemesi ve onlara rahatsızlık vermesi içten içe birçok insana normal geliyor olabilir. Tarihte çok uzun bir süredir dünyanın hakimi olan insanlar bu robotlarda insanları yönetecek yeni bir hakimin doğuşunu mu algılıyorlar acaba? Öğretmen robotların çocuklarımızı azarlaması, insan kaynağı uzmanı robotların işe giriş görüşmelerinde bizi anında çözümleyip direk geri çevirmesi gibi durumlar nasıl tepkiler doğurabilir? 
• Alaycılık, iğneleme tarzı iletişimin yönetmeliğe tabi olması. Yapay zekanın henüz çözemediği ve çözmesinin de çok da ihtimali olmayan bir konuşma şekli alaycılık ve iğneleme. İnsanların söylediği şeyler bazen tam tersi anlama gelirken bazen de kendi anlamına geliyor (Aferim çok iyi yapmışsın!). Bazen zıt kelimelerin anlamı aynı olabiliyor (adamı kötü dövdüm, adamı iyi dövdüm). Fark tamamen mimik, tonlama, ve bağlamda gizli oluyor. Yapay zekanın bocalayıp saçma kararlar vermesini engellemek için bu tür konuşmalar bir yönetmeliğe bağlanabilir mi acaba? Tay yapay zeka bot'unun Twitter da saçmalayıp ırkçı ve nefret dolu bir bot'a dönüşmesi sadece traji-komik olabilir ancak benzeri yapay zekanın vücut bulmuş güvenlik robotlarında da olacağını düşünürsek neler olabileceğini tahmin etmek güç. 
• Otonom makina hakları. İnsanlar meraktan, eğlence için veya kazanç amaçlı arabaları ve drone'ları ele geçirip zarar vermeye başladı. Acaba robotlar tamamıyle insansı konuşmalar yapabilen ve kararlar verebilen varlıklar olduğunda onlara zarar vermenin daha detaylı bir düzenlemeye tabi tutulması gerekecek mi? Mesela bir insanın köpeğine, onun bir eşyasına ve onun asistan robotuna verilen zararların cezaları nasıl sıralacak acaba?