“Sanayi 4.0’la beraber Siyaset 4.0 da gelmeli”

Irmak Akman, irmak@de-da-dergi.com

cem say2

Boğaziçi Üniversitesi Bilgisayar Mühendisliği Bölümü öğretim üyesi Cem Say ile seçimlerden iki gün önce Kanyon’da buluştuk. Geniş bir çerçevede yapay zeka uygulamalarını, bu uygulamaların hangi alanlarda hayatımızı nasıl değiştireceğini ve ülkemizin bu gelişmelere hazır olup olmadığını konuştuk.

Yapay zekanın iki şekilde öğrendiğini anlıyorum. Birincisi bütün kuralları, örneğin satranç gibi bir oyunun kurallarını veriyorsunuz. İkincisi de onu bırakıyorsunuz, bot’lar gibi herhalde, kendisi öğreniyor, bilgi topluyor.

Bot’lar dediğimiz şeyler, genellikle çağımızda yapay öğrenme yaparak çalışmıyorlar. Eski usül sana birisi böyle derse sen de cevap olarak böyle de yaklaşımına göre yapılıyor büyük çoğunluğu. Ama dediğiniz gibi temelde bu böyle ikiye ayrılabilir.

Eski usül tamamen bitti mi?

Hayır, çünkü son yıllarda bu fırtınalar estiren, performansı artan yapay öğrenme teknikleri esasen bir şeye bakıp bir saniye içinde cevap yapıştırma türü, insanların kabaca bir saniye düşünerek yapabildiği şeyleri bilgisayarın iyi yapmasına yarayan bir yöntem. Bir görüntüye ya da bir veri kümesine bakıyorsunuz. Çok hızlı bir şekilde ondan bir şey çıkartıp pat bu resmin içinde benim amcam var ya da işte bu röntgende şurası tümör falan diye derin derin düşünmeler, art arda mantıksal çıkarımlar, muhakemeler falan yapmadan hop cevabı budur tipinden cevap yapıştırmalı şeyleri hızlı, iyi yapabilir hale geldik, son beş yılın gelişmesi bu. Öyle işler var ki, bu şekilde yapılamıyor. Birçok bilgiyi belli bir sırayla işleyerek, ara sonuçlara vararak, onlardan yeni teoriler oluşturup acaba bu böyle mi diye üstüne bir katman daha çalışarak, sıralı yapılması gerekiyor. Tanım gereği eski model, bir program dili gibi düşünerek yapılması mantıklı olan işler var. Yapay öğrenme onlar için ideal değil. Yani sorunuzun cevabı, günün birinde bu işin hepsini yaparsak muhakkak o eski model yaklaşım da olacak içinde, ama yapay öğrenmeyle, yani bu yeni senelerde doğru düzgün çalışan algoritmalarla falan, bütünleşmiş olarak olacak. Biri öbürünün tastamam alternatifi değil.

Şu anda internette, sosyal medyada e ticaret sitelerinde yapay zeka uygulamaları kullanılıyor. “Burada çok sık kullanılıyor ama pek çok insan bilmiyor,” diyebileceğiniz başka alanlar var mı?

“Yapay zeka genel olarak ne işe yarıyor?” sorusunun cevabı aslında şöyle: Yapay zeka hakikaten 1950’lerden beri merak konusu. Bu alanda çalışan insanlar, bir yandan bu amaca ulaşalım derken ta o zamandan beri bilgisayar biliminin geri kalanına da etki eden bir sürü buluş yapmışlar. İlk değil ama ikinci yüksek seviye programlama dili diyebileceğimiz LISP’i bu iş için onlar icat etmiş. Ya da o zamanlar bu konu gündemde değilken “bir tane bilgisayar olsun, birçok kişi ona bağlansın, böylelikle herkesin ayrı bilgisayar alma derdi olmasın,” diye açıklayabileceğimiz bir fikir, çok uzun yıllar sonra bulut hesaplama dediğimiz şeyle gerçekleşti. Gmail programı bir yerde çalışıyor, biz hepimiz ona kendi uçlarımızla bağlanıyoruz mesela. Bu fikir yapay zekacılar tarafından ortaya atılmış. Bilgisayar mühendisliğinin altyapı çalışmalarına yapay zekacıların katkıları olmuş.

Günlük hayatımızda en çok kullanılan uygulamalar derseniz navigasyon ve çeviriyi sayabilirim. Çeviri, insan kalitesiyle karşılaştırıldığında kötü olsa da eskisine oranla olağanüstü iyi şekilde çalışıyor.

Ses kayıt deşifresi?

Bu derin öğrenmenin uygulamalarından bir tanesi ve beş-altı sene öncesine oranla inanılmaz iyileşti, ama daha iyi olması gerekir. Galiba Amerika’da birisi İngilizce için cep telefonu kullanıcısının konuşarak cep telefonuyla iş yapmasıyla tuşlara basarak parmakla yapmasını karşılaştırmış, konuşarak yapan üç kat daha hızlı çıkmış. Türkçe için de böyle olsa super olacak. İlla ki olacak. Veriye ihtiyaç var. Bu yeni yapay öğrenme teknikleri veriye aç oldukları için, ne kadar çok konuşulan bir dilse, ne kadar çok veri verirseniz onlara o kadar daha iyi çalışıyorlar. Gazetecilerin öyle bir sıkıntısı olduğunu biliyorum.

Ben şimdi bir kitap yazıyorum ve kitabın çoğunu telefonda yazıyorum ama daha konuşarak yazmaya geçmedim. Telefonla ne zaman bir araya gelebilirsem yazıyorum.

Andrew Ng günümüzün en birinci yapay zekacılarından, onun “yapay zeka yeni elektrik” diye bir lafı var. Elektrik nasıl her şeye yarıyor, onsuz hiçbir şey yapamıyoruz, artık yapay zeka teknolojisi her tarafa girecek.

Her iş. Zaten hani mesela Fintech diye bir laf çıktı duymuşsunuzdur, finans, bankalar bunsuz yapamayacak. Sigortacılar soruyor, bu adamın ne kadar ömrü kaldı? Çünkü bütün hesaplarını ona göre yapıyorlar. Bu kredi kartı çalındı mı acaba? Çünkü o kredi kartının önceki bütün davranışını görüyorlar ve tuhaflaştığı zaman anlıyorlar. Eğitimde, sağlıkta, demin bahsettiğim gibi birçok “röntgene bak” tipi işleri daha iyi yaptığı kesin, ama biraz daha eski moda yapay zekanın gereksinildiği, “tamam bu adamın durumu böyle, peki biz bu adama hangi tedaviyi uygulayalım?” diye sorduğumuzda cevap verebilmeli. Şu şu şu şu adımlardan mı geçelim, bu bu bu bu adımlardan mı geçelim? Aklınıza gelebilecek her uygulama alanına bunun girmesi lazım. Hatta Andrew Ng’in “kuaförlük haricinde bütün alanları etkileyecektir” gibi bir lafı var.

Alan Turing’in ünlü teoremi var, “bilgisayarlar öteki makinalardan daha farklıdır, çünkü bilgisayar başka her şeyi taklit edebilme, simüle edebilme özelliğine sahip bir makinadır.” Bunu bir kez kabul ettiniz mi, o zaman artık “insan bunu yapar, bilgisayar bunu yapamaz” demek teorik olarak imkansız hale geliyor. O işi yapan insanı taklit ederse bilgisayar da onu yapar tabii. Ama bazı işleri taklit etmeyi henüz başaramamış durumdayız, öyle diyeyim. Özellikle insan ilişkisi, bir hastanın elini tutup “tamam senin şimdi teşhis böyle çıktı ama ondan sonra şöyle yapmak lazım merak etme” diyebilmek… O tip durumlarda bilgisayar yapılması gerekeni yapamıyor. Belki yapmasa da iyi olur çünkü bir insan sıcaklığıyla bu gibi işleri yapmak daha hayırlı olabilir. Ama “yapamaz” demek doğru değil. Derslerde özellikle çalıştığım bir konu olduğu için, “bilgisayar bunu yapamaz” lafının bilimsel bir iddia olduğunu düşünüyorum ve bu yanlış. 1930’dan beri biliyoruz ki, bilgisayar başka herhangi bir fiziksel sistemin yapabildiği her şeyi bilişsel olarak taklit edebiliyor. Evrenin herhangi bir yerinde bir soruyu, bir bulmacayı çözen bir yaratık varsa diyelim, biz onun beynini simüle ederek bilgisayarımıza da o bulmacayı çözdürebiliriz. O anlamda “bilgisayar yapamaz” diye bir şey yok. Hangilerini daha hızlı yapacak, hangilerini yüz yıl sonra yapacak, hangilerini 150 yıl sonra yapacak, o belki sıralanabilir. O teknolojik bir soru haline geliyor, ama temelde “bilgisayar yapamaz, insanı bilgisayardan ayıran böyle bir öz vardır,” iddiası doğru değil. Maalesef yok.

Tıpta uzmanlık sınavına hazırlanan öğrenciler bütün müfredatı çalışıyorlar. Bütün müfredatı bir bilgisayara yüklersek, o da bir doktorun vardığı sonuçlara varabilir mi? Aynı şekilde mevzuatı, içtihatı bir bilgisayara yüklesek, bir soruyla karşılaştığında bir avukatın verdiği cevabı verebilir mi?

Ona uzman sistemler deniyor.

Bilgileri hızlı bir şekilde tarayacak ve karar verecek.

Evet.

Mesela benzer röntgen imajlarıyla karşılaştıracak.

Röntgene bakarken yaptığınız şey bir “pattern recognition,” görüntü tanıma denen olay. Orada tam da bu işler için evrilmiş, tam adım adım nasıl çalıştığını ifade edemediğimiz, çünkü dil rutinimize bağlı olmayan, görmeyle ilgili devrelerimizi kullanıyoruz. Beynimizin %25’i bu işe ayrılmış, bu görme işlerinde çok iyiyiz. Son zamanlarda onu da bilgisayar güzel yapabilmeye başladı. Hatta insanlardan daha iyi yapabilmeye başladı. Kireçlenme hastalığı var mesela. Diziniz ağrımaya başladığı zaman gidiyorsunuz. Geçmiş olsun. O noktaya geldiğinde, tanı konulduğunda artık onun tedavisi yok. Ama son bir-iki sene önce Amerika’da yapılan bir şey var. Üç yıl öncesinde çekilmiş MR’ları gösteriyorlar bilgisayara. Üç yıl sonra kireçlenme tanısı konulacak ve konulmayacak insanların bir sürü MR’ını gösteriyorlar. Konulanlara da konuldu diyorlar. Daha sonra başkalarını gördüğünde doğru şekilde “bu hastaya üç yıl sonra teşhis konulacak/konulmayacak” diyebiliyor. Bunu insanlar diyemiyor. İnsan gözü o detaya hakim olamıyor.

Sizce gelecekte en çok hangi alanlarda öne çıkacak? Endüstri 4.0 seçim sırasında gündeme geldi. Zaten sürücüsüz arabalarda yoğun olarak kullanılıyor.

Sürücüsüz araba dediğimiz olay zaten baştan sonra yapay zeka.

En çok hangi alanlarda kullanılacak sizce?

Sürücüsüz arabalardan bahsediyorsak, onlar hakikaten gelecek. O gibi durumlarda biz ya reddedeceğiz, Über’e falan yaptığımız gibi, ya da ciddi anlamda toplumu değiştirecek. En azından bilmem kaç bin kişi işsiz kalacak. Ya da arabanın yine o koltuğunda oturacak ama hiçbir şey yapmayacak, sadece kaza olursa sorumluluk onun olsun diye orada oturacak. Aynı şekilde eğitimle ilgili ciddi faydaları olabilir. Şu andaki eğitim sistemimiz sanayi devrimiyle ortaya çıkmış bir formül ve bugünün şartlarına hiç uymuyor. Tıpkı fabrika gibi aslında okullar. Zırrr zil çalıyor herkes bir örnek, aynı müfredatı görüyor. Oysa bunun böyle olmasına hiç gerek yok. Her insan bilgisayarla etkileşirken bilgisayar onun neyi bilip neyi bilmediğini anlayıp tamamen ona özgü bir şekilde bir öğretim planı çizebilir. Sonunda varılabilecek yere giden birçok değişik yol var. Bu adam bunu bundan daha önce öğrenirse kafası daha kolay alıyor şeklinde yönlendirebilir bilgisayar. Bir de tabii herkesin aynı diplomayı alması da aslında çok saçma bir şey. Binlerce değişik uzmanlık dalı, binlerce değişik diploma versiyonu olsa, ne bildiğine, ne öğrendiğine, neyi iyi yaptığına göre. İnsanları o seviyede iyi tanımak, Netflix gibi şirketlerin yaptığı şey. Facebook’un yaptığı zaten yeni ortaya çıktı bu skandallarla, bizi fazlasıyla iyi tanımak.

Kişiselleştirilmiş karneler filan olacak artık.

Aynen. Kişiselleştirilmiş eğitim, kişiselleştirilmiş karne, sonra da kişiselleştirilmiş iş başvurusu yaptığınızda “bu adam, şu örüntüyü bilen adam,” diye ortaya çıkacak.

Ama totaliter bir rejimde yaşıyormuşuz gibi olmuyor mu o zaman, belki de sistem size söyleyecek “sen git şu ofisteki şu işi yap,” diye.

Olabilir. Çünkü gerçekten o ofiste tam bu örüntüye ihtiyaç vardır. Sistem Türkiye’deki o örüntüye sahip 36 kişinin kim olduğunu bulup onları çağırabilir, evet. Bizim verimizin tamamına, bazen bizim bile fark edemeyeceğimiz boyuttaki detaylarına varıncaya kadar, bizim yapamayacağımız çıkarımları bizim hakkımızda yapabilecek kadar hakim olacak.

Bizi bizden iyi tanıyacak.

Aynen aynen öyle bir durum var. Netflix sizin hangi filmi seveceğinizi siz daha o filmin adını hiç duymadan önce biliyor.

Bu, bu işin bedeli olarak görülebilir. Ya da ona bir çare düşünmemiz ciddi şekilde gerekebilir. Çünkü büyük veriyle bütün bu iyi şeyler yapılırken bir yandan da birilerinin artık kimse onlar, bu sistemin hakimi ya da bu bilgisayarı idare eden kişilerin, inanılmaz, tarihte daha önce hiç olmayan detayda, kişi bazında bilgiye de sahip olabilmesi anlamına geliyor.

Facebook skandalında büyük verinin insanların seçim tercihlerini etkilemek için kullanıldığı ortaya çıktı.

Facebook’ta insanlar kendileri hakkında bir sürü bilgi saçıyorlar ya ortalığa. Hatta bir de testler var. Sen nasıl bir insansın, hadi bakalım bu 50 soruyu cevapla falan. Onları cevapladığınızda aslında bir tür psikolojik profilinizi rahatlıkla çıkartabiliyor Facebook. Bu uzun zamandır bilinen bir şey. Sonra o profildeki insanların neleri like edip neleri like etmediğine bakarak insanların ne tip insanlar olduğu, içe dönük mü, utangaç mı, ne bileyim paranoyak mi falan filan sadece like bilgisinden anlaşılabiliyor. Ya da işte mesela 100 tane post veriyorsunuz onun karşısına, neleri sevdi neleri sevmedi. Sadece o örüntüden mesela adamın annesi babası boşanmış mı falan o anlaşılabiliyor. Sonra da bu bilginin tersini kullanmayı başarmışlar. Cambridge Analytica’nın yaptığı o. Bana sadece şu özelliğe sahip insanları ver diye Facebook’a sorabilmiş. Bir tür insan arama motoru gibi. Kişiliğine göre insan arama motoru olmuş. Bana sadece Hillary’e oy versem mi vermesem mi diye düşünen zenci erkekleri ver. Facebook onlara bir kanal açınca tam da o insanları sandığa gitmekten caydıracak, onlara özel, o yüzden de karşı tarafın cevap veremeyeceği çünkü görmediği reklamlar vererek onları yönlendirmişler. Bu demokrasinin temeline aykırı bir şey. Ama bu böyle. Arkadaşlarım genellikle Black Mirror’un bilmem kaçıncı bölümü diyorlar bunu anlatınca, Çin’de insanların sosyal skorlama sistemleri var. Orada skorunuz düşük olduğu için mesela size uçak bileti satmıyorlar. Senin skorun düşük, senin borcun var filan.

Kredi notu gibi bir şey.

Aynen. Ya da skorunuz yüksek olduğu için daha çabuk vize alıyorsunuz, daha iyi trene biniyorsunuz. Ya da işte Black Mirror’un o bölümündeki gibi, skorum düşmesin diye düşük skorlu arkadaşlarımla arkadaşlığımı kesiyorum. Ben bir-iki ay önce Çin’deydim. Sorun şu. Beş yüz milyon kişi bunun harika bir fikir olduğunu düşünüyor mesela. Ne güzel işte iyi vatandaşlara yüksek skor bundan iyisi can sağlığı yaşasın filan.

Bu yetişkinlere karne vermek gibi bir şey.

Bir de orada devletin bu gibi işlere karışması, vatandaşların ciğerine kadar bilmesi şimdi bize geldiği kadar itici gelmiyor insanlara. Onlar alışmış zaten o olaya. Böyle hakikaten total, kırılması çok zor bir kontrol kurulabilir insanlar üzerinde. Sonsuza kadar süren diktatörlük gibi bir şey kurulabilir. Hoş hiçbir şey sonsuza kadar sürmez de, bu teknoloji ilk defa olarak böyle bir olanağı, yani kişi bazında onun ne düşündüğünü anlama olanağını devlete veriyor. Ama bir kez bu anlaşılırsa da insanlar öyle ulu orta like etmezler herhalde diye düşünüyorum.

Yapay zekanın endüstride, ekonomi ve istihdamda etkilerine bakacak olursak…

Endüstride pek çok işi artık robotların yapması bekleniyor. Hamburger köftesini çeviren kol yaptılar. İnsanlara ihtiyaç kalmayacak. Bu konuda ne diyorsunuz?

Demin de dediğim gibi bir işi sadece insan yapabilir diye bir şey yok. O işi yapan bilgisayarı, robotu, şunu bunu yapabiliriz. İlla ki yapabiliriz, maalesef bu konuda tartışma yok. Ama kaça gelir? Bangladeş’te muhakkak o işi daha ucuza yapacak insanlar vardır. Eğer onlardan bile daha ucuza yapıyorsa, o zaman gerçekten çok sayıda insanın ekonomik olarak hiçbir değerinin olmadığı, onlara ihtiyaç olmayan bir duruma gelinebilir. Buna el vermek istiyor muyuz, ya da Bangladeş hükümeti buna el vermek istiyor mu, ya da buna karşı ne yapacak? Sanayi 4.0’la birlikte Siyaset 4.0 da gelmeli diyorlar ya. Asıl siyasetçilerin bu konuları düşünüp bir karar vermesi gerekiyor.

Sırf gelişmekte olan ülkelerde değil, gelişmiş ülkelerde de çok sıkıntı olacak diyorlar.

O konuda iki görüş var, birincisi teknolojik devrimlerde tarihte hep bir takım işler ortadan kaybolmuş ama onun yerine o devrimin ruhuna uygun daha fazla iş çıkmış diyenler var. Ama bir de o geçiş süreci içinde ne olacak diyenler var. Onu televizyonda da söylemiş olmalıyım. Irak ordusu pat diye bir gecede terhis ediliyor mesela. Belli bir yaş aralığında eli silah tutan erkekler bir anda işsiz kalıyor. Bu bütün taksicilerin bir gün sürücüsüz araba yüzünden işsiz kalması gibi bir şey. İyi sonuç vermeyeceği besbelli ortada olan bir şey. O geçişin programlanması lazım. Hesaplanması lazım. Bir yandan da geçilmesi lazım çünkü sürücüsüz araba kesinlikle, hesap çok ortada, ölümleri inanılmaz azaltacak. Anneler ben çocuğumu sürücülü arabaya bindirmem diyecek. O daha güvenli bir şey. Öyle bir sıkıntı var.

Ama işte siyasi olarak nasıl yapılacak bu?

Macron mesela diyor ki, şoförler korkmasın çünkü demin anlattığım gibi şoför orada günah keçisi pozisyonunda yine duracak, hiçbir şey yapmayacak ama kaza olursa biz ondan soracağız. O yüzden maaş alacak adam. Sorumluluk işi için insan istihdam edeceğiz diyor.

Huzur hakkı derler ona işyerlerinde.

Boy gösterme bedeli, öyle bir şey herhalde.

Savunmada sizce ne rol oynayacak yapay zeka?

Yapay zekanın, hele de eski moda yapay zekanın ilk uygulamalarından biri savunmayla ilgili. Tarihine bakarsak 1956’da Amerika’da bir grup insan biz yapay zeka yapacağız diye çıkmışlar, o sırada da soğuk savaş olduğu için hükümetten bol bol para almışlar. Sovyetlere karşı bizim elimizi güçlendirir falan diye ve de vaatlerinin hiçbirini gerçekleştirememişler. Yaklaşık bir otuz yıl boyunca tamamen fos çıkmış. Biraz fazla uçmuşlar. Beş yıla kadar dünya satranç şampiyonunu yeneriz, üç yıla kadar Rusça-İngilizce mükemmel çeviri yaparız falan diye. Onlar olmamış. Neyse, sonra 1991’de Körfez Savaşı sırasında Almanya’dan Arabistan’a binlerce Amerikan silahı, teçhizatı, tankı falan taşınması gerekince, o işi bir de yapay zekaya planlattıralım, bizim elemanlar planladı ama bir de yapay zekaya planlattıralım demişler. Yapay zeka öyle bir planlamış ki, o kadar yıl boyunca batırdığını sandıkları bütün paradan daha fazlasını sırf o işten tasarruf ettiği paradan kazanmışlar. Mesela bu bir askeri uygulaması.

En çok korkulanı tabii bu yüz tanımayla da birleştirilmiş, drone’larla da birleştirilmiş, Internette de görmüşsünüzdür, el kadar drone’lar uçuyor, geziyor mesela Kanyon’da, öldürmeye programlandığı insanları bulup onları öldürüyor, ötekilere dokunmuyor. Ya da mesela sadece zencileri, derisinin rengine bakarak öldürüyor. Sadece belli bir grubu. Bunun olmaması için, önümüzdeki beş-on sene içinde bunun olmaması için hiçbir teknolojik neden yok. Özellikle gözü kör etmek için tasarlanmış lazer silahlarına karşı uluslararası bir anlaşma var mesela, onun gibi bir uluslararası anlaşma imzalayalım, Amerika, Rusya filan bunu yapmayacağına söz versin, engellesin, yoksa birisi yaparsa öbürleri otomatikman yapar diye bayağı çok sayıda yapay zeka araştırmacısı bir çağrı yapmış durumda. Öldürme yetkisinin tamamen insanın elinden çıktığı sistemlere karşı böyle bir alerji var. Ama öldürme yetkisi insanın elindeyse, o zaman zaten bu şu anda çok aktif olarak kullanılıyor.

Afganistan’da, Talibanları öldüren drone’ları Amerika’da bir yerde bir adam joy stick’le yönetiyor. O anlamda yapay zeka değil o aslında. Uzaktan kumanda olduğunda ben ona yapay zeka demiyorum. Eğer siz bir askeri kuruluşsanız, bağımsızlık iddiası olan bir ülkenin Deniz Kuvvetleri’yseniz mesela, insansız hava araçlarını, işletim sistemi de dahil olmak üzere, sizin üretmeniz lazım. Windows kullanmamanız lazım mesela. Çünkü onların hepsi günün birinde onu üreten ya da onun detayını sizden iyi bilen başka birisi tarafından çalışmaz hale getirilebilir. Ya da sizin oturduğunuz yerden başka bir ülkeye sizin sesinizi göndermek için kullanılabilir. Aynı şey Whatsapp’ından her şeyine kadar geçerli. Özellikle bizim ülkemize cep telefonu girdikten sonra, tüm bu Balyoz Malyoz döneminden önce Silahlı Kuvvetler’den pek çok ses kaydı sızıp bir yerlerde yayınlanmaya başladı. O disipline kavuşamadan o teknolojiyi kullanmaya başladıkları için.

Uzaktan müdahale ederek mi yapıyorlar o ses kayıtlarını?

Eskiden cep telefonu diye bir şey yoktu, bir anda, bir yıl falan içinde herkesin cep telefonu oldu. Ve ondan sonra insanlar ceplerinde telefonlarla askeri toplantılara girmeye başladı. Bunu algılayamadılar. Bu bir kere olunca, bu bir ülkenin en gizli olması gereken yerinde olunca, ondan sonra zaten ipin ucu kaçtı. Herkesin masasının üstünde bilgisayar var, onun bir işletim sistemi var. O işletim sistemini kim yazmış? Ben yazmadım. İçinde ne olduğunu asla bilemem.

Snowden filminde anlatıldığı gibi.

Evet. Yapay zekadan öte, siz askerseniz ya da o tip bir şeyseniz, başkasının bilmesini istemediğiniz bir şeyseniz, maalesef bunun tek yolu bunu kendinizin yapmanız. Açık Internet üzerinden hiçbir şey yapmamanız, yapacaksanız kendi Internetinizi kurmanız. Kendi hattınızı çekmeniz. Bunun başka yolu yok.

Şu anda halihazırda risklere açık durumdayız herhalde…

Bizim ülkemizde, tarihini hatırlamıyorum on yıldan fazla oldu herhalde, memurlara bir ek ödeme mi yapılacaktı, vaktiyle toplanmış bir para geri mi verilecekti, neyse, Resmi Gazete’de “bakın kimlik numarası şu olan memurlara paraları geri veriyoruz,” diye yayınladılar. Online olarak. Ben web’de gördüm onu. Dehşet içinde. Türkiye’deki bütün memurların TC kimlik numaralarını Türk devleti web’e koydu. Daha söylenecek bir şey yok.

Şifreler 1-2-3-4’tür…

Burada doğal zekaya ihtiyaç var. Akıllı olan, olmayan bütün silah sistemleri, bu gibi başkasına açık olmasını istemediğiniz bütün sistemleriniz için önce sizin bu bilince sahip olmanız lazım. Bir zahmet de parayı verip mühendisleri yetiştirip bunları sizin kendiniz üretip kendiniz çalıştırmanız lazım. İkinci bir yolu yok. Bağımsız ülke olmanın başka bir yolu yok.

Bu konuda bu bilinç var mı? Mesela seçim döneminde hükümet bir Teknoloji Buluşması düzenleyip yerli uçakları gösterdi.

Milli gemi diye bir şey var, 1990’lardan beri vardı, onu yapanları Balyoz’la falan hedef alarak o işi bombalamaya çalıştılar. Şimdi bu insansız hava araçlarına büyük ilgi var. Yok diyemem, var da, “frame of mind”ın bu hale getirilmesi lazım. Herkesin bu konuda bilinçlenmesi lazım.

Peki yeterince yazılımcı var mı bizde bunları yapabilecek?

Hem var, hem de onu üretmek o kadar zor değil. Şu anda sıkıntımız bu gibi insanları kaçırıyor olmamız. Bu gibi insanlar bizim ülkemizden kaçsın diyen bir ortam var şimdi bizim ülkemizde. İnşallah yakında değişir.

Mesela Google’ı yapan adamlar Türkiye’de yapsalardı ne olurdu? Türkiye’de yazılımcıları, icat çıkaran insanları kaçıran ekstra bir sürtünme faktörü var. Anlatması uzun malum nedenlerden ötürü. Öyle bir kafa yapısına geçebilirsek aslında bizim nüfusumuz da uygun, Hindistan’dan mükemmel çıkabilen bir şey bu, Türkiye’den de gayet güzel çıkar. Türkiye’den iki tane Türk gencinin, 30’lu yaşlarındaki insanın kurduğu oyun şirketi çeyrek milyar dolara başka bir oyun şirketine satıldı. Daha geçtiğimiz ay içinde olan bir olay bu. Yazılım aslında çok kolay öğrenilen bir şey. Yazılımcı üretmek roket bilimcisi üretmekten çok daha kolay bir şey aslında. O açıdan sıkıntı o değil. Sıkıntı onları burada tutmak.

Özel okullarda, ilkokulda hatta anaokulu seviyesinde bile robotik, kodlama dersleri verilmeye başlandı. Bir faydası var mı bunun acaba?

Scratch diye bir şey var belki görmüşsünüzdür. Internetten bağlanabildiğiniz bir sitede bire bir öğrenip kullanabildiğiniz görsel bir programlama dili. Sanırım 7-8-9 yaşındaki çocuklar bile başlayabilir ona. O tam bir programlama dili mesela ve bence de çok güzel öğretiyor. Keşke benim gençliğimde de olsaydı dedirtecek kadar iyi öğreten bir şey. O yaşta çocuğa programlama öğretirseniz kesinlikle bir zararı olmaz. Demin anlattığım nedenlerden ötürü, nasıl dört işlemi herkese öğretiyoruz, çağımızda programlamanın da öyle bir şey olması lazım.

Bunu yapmak için önce şunu şunu şunu yapıp, şu durumla karşılaşırsan böyle, bu durumla karşılaşırsan böyle diye dallanıp, ondan sonra durumları böyle toparlaman lazım diye birbirimize algoritmaları çok fazla bunalmadan anlatabilecek kadar algoritma bilgisine sahip olsak bence hayat daha kolay olacak, öyle diyeyim size.

Lisede türev-integral hesabıyla ilgili teoriler olurdu, bize ispat yazdırırlardı, onun gibi bir şey mi? Hiç bilmediğim için soruyorum.

Programlama şöyle, bir tür talimatname düşünün. Mesela şimdi seçim olacak, gözetmenlik yapacak insanların ne yapması gerektiğine dair onlara eğitim veriyorlar ya. “Sabah altıda git, şöyle olursa böyle yap.” Programlama aynen böyle bir şey. Bilgisayara belli bir işi yapması için, o her şey olabilir, ne yapması gerektiğini adım adım adım anlatıyorsunuz. Bilgisayar da o durumla karşılaştığında onu yapıyor. Yeni yapay öğrenmenin enteresanlığı da bu. Siz anlatmıyorsunuz, defalarca “bu durumda şu yapıldı bu durumda bu yapıldı” gibi örnekler veriyorsunuz. Onun yapılacağını kendisi çıkarsayıp ona göre kendi programını kendi üretiyor.

Her durumda da işe yaramıyor.

Yapay öğrenmede, öğrenme dediğimiz kavram aslında felsefi olarak çok enteresan bir şey, size sonlu sayıda örnek veriliyor, daha sonra hem onları daha sonra gördüğünüzde o eğitim sırasında gördüğünüz cevabı vereceksiniz, hem de daha önce hiç görmediğiniz bir şey, ama onlara benzeyen bir şey geldiğinde, bir genelleme yapıp doğru cevabın ne olduğunu tahmin edip doğru cevabı vereceksiniz.

Öğrenme kavramında genellemenin mecbur olduğu bir durum var. Mesela ben görüntü tanıma üzerinden örnek vereyim. Mesela Facebook’a ben on tane resim yüklüyorum. Bu benim amcam, bu da benim amcam falan diye onları da etiketliyorum. Bir süre sonra Facebook benim amcamı tanımaya başlıyor ve daha önce hiç görmediği bir resimde amcam varsa, gömleği biraz değişik, biraz sakallı, biraz kafası dönmüş, bu bunun amcası diye anlıyor. Orada Facebook’un yaptığı şey genelleme. Kendisine verilen örnekleri bire bir ezberlemedi. Onlardan bir tür formül çıkarsadı ve onlardan biraz daha genel bir kümeye artık benim amcam diyecek şekilde bir tür varsayım yaptı. Bu yaptığınız varsayımın anlamlı olması için size verilen verilerden biraz daha fazlasını kapsayıcı bir şey yapmak zorunda olduğunuzdan, hata her zaman olabilir. Biraz fazla genişlettiyseniz o zaman başka bir adama da amca diyebilir. Demek istediğim o. Bu sistemlerin, ki zaten gerçek hayat da öyle bir şey, yüzde yüz hatasız çalışması beklemememiz gereken bir şey. Yapay öğrenme uygulamalarında bu iyice ortaya çıkıyor.

Eski moda yapay zekada biz bunu bu kadar dikkate almıyorduk. Gerçekten yüzde yüz hatasız girdi gelecek biz de ona ideal bir çıktıyı vereceğiz diye düşünüyorduk ama gerçek hayat öyle çalışmıyor. Mesela ben Türkçe için çalışan birçok bot yazdım vaktiyle 20-30 yıl önce, işte imla mükemmel de’ler da’lar düzgün ayrılmış filan. Hep öyle varsayıyorduk. Normalde hiç öyle olmuyor ki. Yeni yaklaşımda girdinin kalitesi biraz düşük olsa bile, programın çıktı kalitesinin yerlerde sürünmemesi, yine ne olduğunu anlayıp ona göre kendini kurtarabilmesi amaçlanıyor.

Siz Sarkaç’taki yazınızda diyorsunuz ki yapay zeka mahkeme salonlarında kullanılabilir. Hakimlerden birisi de bir bilgisayar olsun. Ya da aynı şekilde kanun yazımında, kanunların ne kadar mantıklı olduğunu kontrol etmek için de kullanılabilir diyorsunuz. Şu kadar kişi işsiz kalacak, biz bunları ne yapalım nereye yönlendirelim diye yapay zekaya mı soralım? Siyasete bile karışma ihtimali var. Diğer yandan UYAP ve SEÇSİS gibi programlara büyük bir güvensizlik var. Bunlarda mutlaka bir hile vardır şeklinde. Sizce ilerde hukukta ya da siyasette kullanılma ihtimali var mı?

Hukukta da, siyasette de, yasamada da, yargıda da, tıpkı tıpta olduğu gibi, demin de dedim ya, gerçekten birkaç yıl sonra bir hastanın haklarından biri olacak, “benim röntgenimi bir de bilgisayara gösterin, tamam siz baktınız ama,” diyebilecek.

Bir kere karar destek olarak, üç kişilik bir hakim ekibinin bir tanesinin de bunlardan olması kesinlikle iyi bir şey. Mesela satranç şampiyonunu yenen yapay zekaya insan başlı at diyorlar, centaur, süper bir yapay zeka programı, çok iyi satranç oynuyor, ama onu başka bir yapay zeka programı ve bir insandan oluşan bir ekiple oynattığınızda insanlı ekip onu yenebiliyor. İki tarafın da karşılıklı birbirlerinin eksikliklerini tamamlaması söz konusu olabilir. Bazı mantık zincirlerini kurup bir dakika burada bir saçmalık var, burada bir çelişki var saptamasını yapmak bilgisayarın doğasına çok uygun bir şey. Allah Allah iki kere iki dört eder ama burada beş yazıyor filan. Hataları bulmak onun için çok kolay. Öyle bir kontrolü muhakkak yaptırmak lazım. Türkiye Büyük Millet Meclisi’nde öyle bir ofis var zaten. Bir kanun yazıldığında bu kanun tekniğine uyuyor mu, bu tarihler tutuyor mu falan diye gerçekten birileri kontrol ediyor. Belki daha genel anlamda, bu akla mantığa uyuyor mu diye kontrol edilmeli. Orada yazılı örnek vermeye çalışmıştım, saat dilimini beş saat ileri alalım o zaman madem o kadar iyi bir şeyse. Genel dünya gerçekleriyle uyumlu mu filan diye değerlendirip eğer bir sorun varsa “bir dakika burada bir saçmalık var” diye bir mesaj üretmesi gündeme gelebilir.

Özellikle o davalar sırasında hakimleri gözleyerek çıkardığım derslerden bir tanesi, hakim portföyünün genişletilmesi gerektiğiydi. Bir kere hakimlerin birbirine benzememesi lazım. Hepsi Fetöcü, hepsi şucu filan o zaman iyi olmuyor. Biri robot, biri insan, biri tamamen normal hiçbir şey bilmeyen ama sokaktan seçilmiş birisi filan olsa, öylesi daha hayırlı olabilir. Birbirlerinin eksikliklerini tamamlayabilirler. Asimov’un öyle bir öyküsü var çok meşhur, Amerikan başkanlık seçimi bu öykünün anlatıldığı dönemde şöyle yapılıyor: Bir adama soruyorlar, bütün insanlar oylamıyor. Çok gelişmiş bir bilgisayar var, bu dönemde kimin başkan olacağını hangi seçmene soralım diye önce bir hesap yapıyor, o seçmeni seçiyor, o seçmene soruyorlar. Değişik bir input her zaman iyidir. Hele de önemli konularda. Zaten işin mantığı da öyle değil mi, bazı işler için 2/3 oy isteyen falan anayasal süreçler var. O gibi durumlarda sesleri biraz daha çoğaltmak iyidir.

Siyaseten buna razı olurlar mı siyasetçiler, ikincisi de dediğim gibi UYAP-SEÇSİS örneklerindeki gibi, böyle bir sistem insan müdahalesine ne kadar açık olur?

UYAP’ta da SEÇSİS’te de insanların kuşkulu olmasının sebebi onun içinin nasıl çalıştığını bilmiyorlar. İçini açıp baksalar bile anlamıyorlar.

Ama önyargı da var cemaatçi mühendisler yaptı bunu diye.

Çok doğru. O yüzden mesela önümüzdeki günlerde seçim var. Buna karşı tek çareyi bulmuş durumdayız aslında. SEÇSİS’in hakikaten kötü çalıştığını varsayarak bütün o datayı bir de başkaları toplayıp hesabı bir de onlar yapmalı.

CHP’de varmış galiba öyle bir sistem.

İşte adam bulabilirlerse yapacaklar, orada adam lazım. Ülkede çok önemli bir şey yapılacak, bütün her şey buna dayalı, biz bunu bu bilgisayara yaptıralım o ne derse o çıksın, hiç kimse bunu kabul etmez, ben de kabul etmem. Çünkü tamam ben açıp o programın içine bakabilirim de, bir programın içine özellikle bir sorun sokulmuş mu onu kontrol etmek çok zor bir şey. Hele hele sinir ağları, bu yeni moda yapay zekanın test edilmesi, daha doğrusu açılıp içinin bu ne düşünüyor, onun anlaşılması çok çok daha zor bir şey eski moda yapay zekaya oranla. Bir “black box” şeklinde içini normal insanların anlayamadığı bir sisteme böyle kararları verdirtirseniz insanların ona güvensiz olması çok normal. O yüzden de onun kararlarını gerekçelendirebilmesi lazım. “Ben bu kararı verdim çünkü…” diye, geçtiği bütün adımları gösterip, “isterseniz buyrun kontrol edin,” şeklinde de onu kontrole açabilmesi lazım. Gerekçelendirmek. Zaten şu anda bilimsel olarak da bu yeni yapay öğrenme sistemleri hakkındaki en önemli açık problem bu.

Avrupa Birliği’nin o konuda önemli fonları var. Kararlarını gerekçelendirebilen yapay zeka sistemlerinin üretilmesi. Yani pat, işte ben bu adamı işe almıyorum. İşe alma süreçlerinde çok kullanılıyor. On bin kişi başvuruyor, önce makine onu bir 100 kişiye indiriyor sonra o adayları insanlarla konuşturuyorlar. Tamam da niye işe almadın? Onu gerekçelendirmesi lazım. Tarihte o konuyla ilgili kötü örnekler var. Önceki iş başvurularını göstermişler bunları kabul ettik bunları kabul etmedik diye, sen buradan sistemi öğren, bundan sonrakileri buna göre ele diye makineye öğretmişler, ama önceki başvuruları değerlendiren adam ırkçı olduğundan makine de onun kararlarından ırkçılık öğrenmiş. Oysa onun anlatması lazım “çünkü bunun eğitimi bu işe uymuyor, bunun tecrübesi yeterli değil,” falan diye açıklayabilmesi lazım.

Belki o zaman örnekleme göre öğrenmesini beklemektense kural girilmesi lazım.

Ben kendi eğitimim itibariyle de eski moda yapay zeka tarafından geldiğim için, esas çarenin, kurtuluşun böyle adım adım bilgisayarın bütün her şeyini açıklayabildiği, aniden şapkadan tavşan çıktı kararım budur demekle yetinmeyeceği sistemler olduğunu düşünüyorum.

Böylece daha güvenilir de olacak…

Tabii. Onu kullanacak adam… “Şu hastalık senin hastalığın ve bu ilacı alman lazım,” dedi. Onu hemen içer misiniz yoksa “bir dakika bunu nereden çıkardın? Bana bunu benim anlayabileceğim şekilde anlat,” der misiniz? O çok önemli bir şey. Giderek önemli kararları onlara bırakacaksak bunu da istemek hakkımız.

Son olarak gene bu davalarla ilgili şeyi soracağım. Odatv’ye yazdığınız “Bunları bilmeden bugünü anlayamazsınız” başlıklı uzun yazıyı okudum. Bunlarla uğraşacağıma gideyim yurtdışına, ya da keşke yurtdışında doğsaydım dediğiniz oldu mu? Gerçi şimdi Amerika’da da Trump’a karşı bilim adamları bildiriler filan hazırlıyorlar. Türkiye’de kalmaya devam edecek misiniz ya da dışarıya gidenlere hak veriyor musunuz?

Ben eskiden dışarı gidenlere kızardım. Şimdi o konuda kafam değişti. Şimdi potansiyelini gerçekleştirebilmek için bir insanın dünyanın herhangi bir yerine gitmesi, gitmemesi, o işi öğrenmesi, öğrenmemesi, bunların hepsi onun hakkı, ona bir şey demiyorum. Ne eğitimimde ne daha sonra mesleki hayatımda gitmediğim için herhangi bir üzüntüm yok. Şimdi tekrar genç olsam ne yapardım bilmiyorum ama, yok. Dijital delillerle ilgili meselelere girdiğim için de, bunu bir zaman kaybı falan olarak görmedim hiç, tam tersine bu işle ilgili, o sahte delilleri üretenlere müteşekkirim çünkü son derece değerli ve başka türlü asla tanışamayacağım çok önemli, dünya çapında iyi, önemli insanlarla tanıştım bu işin sonunda. Hapisten çıkan insanların çoğunluğu zaten gerçekten çok çok değerli insanlar oldukları için hapse girmişler. O yüzden onlarla tanıştığım, onlara bir faydam oldu mu bilmiyorum da, en azından o tarihte doğru tarafta olup o sesi doğru zamanda çıkarabildiğim için kendimi çok şanslı hissediyorum.

Eklemek istediğiniz bir şey var mı?

Çok teşekkürler. -de’leri -da’ları doğru ayıran dergilerin yanındayız.

Reklamlar