Dijital diktadan korkun

Boğaziçi Üniversitesi Bilgisayar Mühendisliği Bölümü öğretim üyesi Prof. Dr. Cem Say,  Bilim ve Gelecek Kitaplığı’ndan çıkan ilk kitabı, ‘50 Soruda Yapay Zeka’da, son günlerin en çok merak edilen konusu yapay zekayı tüm yönleriyle anlatıyor. Say, yapay zekadan korkmak yerine onu anlamayı ve öğrenmeyi öneriyor.  “Yapay zeka bazılarımızın işini elinden alacak ancak yeni meslekler yaratacak.  Eğer siyasetçiler bu süreci iyi yönetemezse gerçekten kitlesel şekilde birileri işsiz kalabilir. Benim genel mesajım korkunun ecele faydası yok gibi özetlenebilir” diyor.

 

 

Popüler bilimi ben okuru olarak çok severim. Annemin bile anlayacağı seviyede yazmak çok hoşuma gidiyor. Hayatınız buna bağlı olabilir. Eskiden ‘sıkı giyin üşütme’ denirdi problem oydu. Şimdi ‘şifreni unutma’ deniyor. Bu çağ böyle değişti. İyi ya da kötü bu böyle oldu. Biz ve daha yaşlı olanlarımız da buna ayak uyduracağız başka çaremiz yok. 

 

 

Bir grup matematikçinin acaba biz düşünen makine yapabilir miyiz diye ciddi ciddi konuya kafa yormalarıyla başlıyor hikaye. Alan Turing dediğimiz, bir çok bölümde anlattığım mübarek insan, elektronik bilgisayar inşa edilmeden onun yapabileceği şeylerin ne olacağını öngörüyor. Yapay zekanın temelini o atıyor. 

 

 

Bilgisayar ya da makineler gerçekten insanlar gibi düşünebilir mi?

Bu gibi sorular gündeme geldiğinde ben hep şu karşı soruyu soruyorum? ‘İnsanlar nasıl düşünüyor?’ Düşünce bir tür hesaplama. ‘Adam nasıl düşünmüş arkadaş’ dediğimiz anlamda düşünmeyi kesinlikle bilgisayarın da yapabileceği bir şey. Hatta buluş yaptığı örnekler veriyorum kitapta, yokmuş öyle bir şey kimsenin aklına gelmemiş bilgisayar düşünmüş bulmuş.

 

Bilim Kurgu dizilerinde ve filmlerinde hep korkutucu şeyler izliyoruz, robotlar dünyayı ele geçiriyor, insanlığın sonunu getiriyor... 

Mesele şu, Hollywood son zamanlarda şaşırtıcı ve aptalca filmler yapıyor. Robotların kendilerine ‘ben’ demesi, dünyayı ele geçirmek istemesi, genel olarak bir şey yapmak istemeleri robot ve bilgisayar doğasına çok aykırı bir şey. Bilgisayarın hiç öyle bir derdi yok aslında. Bilgisayar, programı neyse onu yapar. Siz ona kendine ben deme, kapatılmayı istememe gibi dürtüleri kodlamazsanız, o hiç itiraz etmeden, kapama düğmesine basarsanız kapanır.? 

 

 

Size verdiği hizmetler karşılığında aslında sizin verinizi hortumluyor. Üstelik bunları toplayan şirket sayısı bir elin parmaklarını geçmiyor. Bizim hakkımızda acayip şeyler biliyorlar. Bazılarını hala sökememiş olabilirler ama son on yıldan beri ne yaptığımızı biliyorlar. Burada, sosyal bilimcileri ilgilendiren ne gibi harikalıklar vardır kim bilir. Mesela ne tip insanlar ne tip insanlardan hoşlanıp evlenebiliyolar? Çünkü biliyoruz, adam daha hoşlanırken bile facebooka yazıyor. 

 

 

Bu alanda kötü olacağını düşündüğünüz, riskli bulduğunuz çalışmalar var mı?

Bu dediğiniz askeri uygulamalarda olabilir. Otomatik olarak ölüm kararı verme. Tetik çekmeyi tamamen insanlardan alıp ‘daha hızlı davranıyor, duyguları yok, talimat neyse ona uyar’ diye makineye verirsek büyük sıkıntılar çıkabilir. Kitapta verdiğim iki örnek var. 20-30 yıl arayla iki değişik olayda üçüncü dünya savaşının kenarından dönmüşüz. Bir Sovyet subayı, 27 Ekim 1962’de Küba yakınlarında denizaltıda,  Amerika’nın kendilerine saldırdığına inan iki subayın ısrarına rağmen nükleer saldırı kararına katılmamıştı. Katılsaydı bombalar patlayacaktı. Onların yerinde robotlar olsaydı, kesin bombalar patlatılacaktı. Öyle yerlerde o topa girmemek lazım.  

 

 

Birleşmiş Milletler’e, özerk yapay zeka silahlarının uluslararası anlaşmayla yasaklanması için bir dilekçe veriliyor. Konunun en babaları, ders kitabını yazan adamlar böyle bir şey veriyor. Yasak olmasına rağmen bir takım ülkeler nükleer silahlar yapıyorlar sonuçta. Ama öte yandan bazı yasaklar var ki onlara da uyuluyor. Diyelim ki uyulmadı. Orda da işte aklınız varsa siz de daha iyisini yapacaksınız.  Karşı tarafın kötü robotuna, ancak, sizi seven iyi robot karşı durabilir.  

 

 

Türkiye’de yapay zekaya ilgi ne boyutta, geriden geliyoruz diyebilir miyiz? 

Bu konuda fazla tevazu gösteremeyeceğim. Akademik olarak biz Türkiye’de 20-30 yıldır çalışmalar yapıyoruz. Yapay zeka konusunda dünyanın gerisinde filan değiliz. Ethem Alpaydın’ın en son teknikleri anlatan kitabı yıllardır Amerika’da Çin’de ders kitabı olarak okutuluyor. Mezunlarımız google’n çeviri sisteminde. AlphaGo programını yapan ekibin içinde olan arkadaşımız var. Tolga mesela, istenmeyen önyargıları öğrenmiş bilgisayarların beyninden önyargıları silme programı geliştirdi.

 

 

Malesef bizim internete koyduğumuz dökümanlarımız genel olarak o zamanın ön yargılarını yansıtıyor. Uyanık olmamız lazım.  Mesela siz bilgisayar programcısı erkek olur diye düşünüyorsunuz. Diyelim ki program da sizin önyargılarınızı barındırıyor. İş başvurularını inceleyen bilgisayar erkekleri işe alacak kadınların başvurularını reddedecek.  Ben dünyayı robotların ele geçirmesinden ziyade aptal insanların ya da kötü yöneticilerin bizim başımıza, hepimizin düşüncesini anlayacak seviyede zeki sistemleri kullanarak bir çorap örmesinden endişe ediyorum. Dijital diktatörlük tehlikesinden korkuyorum.  

 

 

Birazcık öyle olacak herhalde. Bilgisayar teknolojileri o kadar ilerledi ki hakikaten insanlardan daha ucuza yapmaya başladı. Ama şuan dünyada öyle bir durum yok. Çünkü daha ucuza çalışmaya razı insanlar var. Ya da eğer siyasetçiler bu süreci iyi yönetemezse gerçekten birileri kitlesel şekilde işsiz kalabilir. Onların ne yapacaklarını, nerede istihdam edileceklerini, ailelerini nasıl geçindireceklerini düşünmeden pat diye bu kararı verirsen, o zaman başına iş açılabilir tabii. Benim genel mesajım korkunun ecele faydası yok gibi özetlenebilir. İyiye de kullanılabilir, İsveç ve Finlandiya gibi... Onlar, ‘işlerimizin bir çoğunu makineler yapabiliyorsa biz haftada 5 gün değil 2 gün çalışalım’ diyorlar. Ya da Çin’in yaptığı gibi dijital diktatörlük kurmak için de kullanılabilir. ? 

 

Haber metni yazmak, aslında, çok kurallı olduğu için, programını yazabilirsiniz. Muhabirin ekstra dokunuşunu içeren, dokunaklı bir şeyden bahsetmiyorsak eğer evet olabilir. Belki insanı tümüyle devreden çıkarmaz ama?... Muhabir metne işin inceliklerini, veride olmayan şeyleri ekleyebilir... 

 

Yapay zekayı topluma nasıl anlatmak gerekiyor?

 

Bir kere kullanıcılık eğitimi denen bişeye ihtiyaç var. Şu dediklerimizin bilinmesi lazım ki insan ona göre bu sistemleri kullanıp kullanmamaya karar versin. Ya da yeni bi uygulama yüklerken orada izin verdiği her şeyin ne anlama geldiğini bilsin. Hep diyorlar ya kodlama, programlama bilgisi. Bu bu tip sistemleri geliştirme becerisini önceden yavaş yavaş kazandırsak ya da bir algoritma nasıl çalışır, bir program nasıl bir mantığa sahiptir bunu temel bilgi olarak öğrencilere versek iyi olur. 

 

 

Eğitim sistemi sanayi devrimi prensiplerine göre şekillendirilmiş durumda. Okullar fabrika sistemi gibi. Zil çalıyor çocuklar okula giriyor, öğretmen geldi kalk otur.. Bu çağda öyle olması gerekmiyor aslında. Hepsine aynı kitabın okutulup aynı hızla gitmeleri zaten çok saçma çünkü hiçbiri birbirleriyle aynı değiller ki. Bilgisayar bunu çözebilir, böyle sistemler var. Öğrencilerin hepsini sen ne biliyosun diye kontrol ediyor, ona onun hızında anlatıyor, onun kafasının basacağı şekilde örnekler veriyor. Baktı uçtu gidiyor buyur uç git sana bir sonraki senenin müfredatını anlatmaya başlayayım diyor... Aynı anda on beş bin öğrencinin tam nabzına göre şerbet verecek şekilde özelleştirilmiş olarak eğitim verebiliyor. O açıdan büyük fayda sağlayabilir.  

 

 

Türkiye’de yapay zekayla ilgili en çok hangi alanlara yatırım yapıyor? 

Savunma teknolojisine Türkiye çok sağlam paralar ayırıyor. Demin dediğim gibi, tartışmalı bir alan o. İnsansız hava araçlarının, silahlı ya da silahsız olanları var. Bu konuları Türkiye kendi kendine yapmaya soyunmuş durumda. Bağımsız bir ülkeyseniz, bu akıllıca bir şey. ‘Veri bilimi’ denen bir şey var. Özel sektör son zamanlarda bunu kullanıyor. ‘Elimizdeki bilgiler üzerinden veri madenciliği yapalım, buna göre politikalarımızı belirleyelim’ diyen bir çok şirket var. Orada sizin paraya dönüştürebileceğiniz bir takım örüntüler var. Bütün kişisel bilgilerinize hakim bir bilgisayar sistemi, hangi ürünü satın alacağınızı, çıkan hangi kitaptan ya da filmden hoşlanacağınızı sizden daha iyi ve daha önce tahmin edebilir. Şirketler, bu ekstra bilgi sayesinde daha iyi satacak. Bu yeni bir maden türü adı da veri. Ne kadar kullanılırsa o kadar iyi. Bu bir yarış durumu yaratacak ve giderek bu teknoloji kaçınılmaz bir şekilde her tarafa yayılacak.  

 

Yapay zeka ‘şu işi’ insanlar kadar iyi yapamaz dediğiniz bir şey var mı? 

Şuan itibariyle elbetteki bazı becerilerde, bazı konularda insanlar kadar iyi değiller. Mesela şu anda insanlar kadar iyi kendi kendine hastayı açıp, ameliyat edip kapatacak kadar iyi bir robot yok. Ama benim özellikle işlediğim konu şuydu: Tarih boyunca insanlar, aslında nasıl çalıştığını tam bilmedikleri?insansı sistemler hakkında ‘vay insanlar bunu yapabilir, insandan başka hiçbir makine hiçbir şey yapamaz’ diyorlar. Ve hep çuvallıyorlar. Çünkü yapay zeka onu yapıyor işte. O işin nasıl yapıldığının mekanizmasını çözüyoruz makineye yaptırıyoruz. Hatta insanlardan daha iyi yaptırıyoruz. Satrançta yeniyor filan. Beş on sene sonra, belki 100 sene sonra ‘bak daha bile iyi yaptı’ olacak.  

 

 

Yapay zekanın yakın zamanda hayatımıza olumlu ve olumsuz etkileri neler olur?

Sürücüsüz arabalar gelince mesela, park yeri denen bir şeye gerek kalmayacak. Mülkiyeti bir insana ait olmayan, sürekli gezen, lazımsa düğmeye basıp çağırdığınız ve sizi istediğiniz yere götüren sürücüsüz araçlar olsa ne park yerine ihtiyacınız var ne başka bir şeye. Bu anlamda çağ değiştirecek bir döneme giriyoruz. Bir şeyler ne kadar zeki olursa, insanlar olsun, araba olsun, buzdolabı olsun, hayatı kolaylaştırıcı etkileri olacağı ortada. Olumsuz etkileri olur mu olabilir tabii ki. Ama bu eski teknoloji devrimlerinde de olmuş. Sanayi devriminden sonra, eskiden olmayan hastalıklar ortaya çıkmış. Hava kirliliği, ciğer hastalığını, tarım devrimi hayvanlardan bize bulaşan hastalıkları ortaya çıkardı. Bu tip önemli çağ değiştiren devrimler hep kendi problemlerini de birlikte getiriyorlar. Bu da illaki getirecek. Makinanın bizi yeterince iyi anlamamasından, gerçekten bazı mesleklerin ortadan kalkmasından, negatif taraflarının olacağı da rahatlıkla düşünülebilir.