Yapay zeka için bir uyarı daha: İnsanlığın sonu olabilir

Teknolojinin en heyecanlandıran ama aynı zamanda bir o kadar da korkutan ürünü yapay zekâ. İnsanlar gibi düşünebilen makinelerin insanlığın sonunu getirebileceği senaryosu yeni değil. Ancak teknoloji her gün seviye atladıkça senaryolar gerçekleşmeye bir adım daha yaklaşıyor. Dünyanın önde gelen üniversitelerinden Cambridge ve Oxford’dan 26 uzman bu konuyu araştırdı, kapsamlı bir rapor yazdı. “Yapay Zekânın Kötüye Kullanımı” isimli raporda sadece 10 yıl içerisinde yapay zekânın insanlığa getirebileceği tehlikeleri sıraladı.

Raporu kaleme alan isimlerden biri, Cambridge Üniversitesi Öğretim Üyesi Dr. Shahar Avin, o tehlikeleri Gazete Habertürk'ten Nalan Koçak'a anlattı, dahası yapay zekânın insanlığın sonunu getirebileceğini söyledi. İşte o bilimkurgu filmi senaryolarını aratmayan röportaj...

- Yapay zekâ nedir?

İnsan ve hayvanlar gibi zeki varlıkların yapabildiklerini bilgisayarlara yaptırabilme üzerine bir akademik alan. Mantık şu: Makinelerin insanlarla fonksiyonel olarak aynı işlevi yerine getirebilir hale gelmesi. Yani illa ki makinenin insana fiziksel olarak benzemesine gerek yok, insan gibi düşünebilmesi yeterli.

- Bu amaca giden yolda insanlık hangi noktada?

60’larda insanların yapmakta zorlandığı şeyleri makinelere yaptırabileceğimizi anladık. Mesela mantık, planlama... Fakat 10 yıl öncesine kadar makinelerin, insanların yaptığı şeyleri “anında” yapabilme kapasitesi yoktu. Örneğin etrafa bakıp “Bu bir bilgisayar, çiçek” diyebiliyoruz, artık bilgisayarlarda da bu teknoloji var. Bilgisayarlar, yüklenen milyonlarca fotoğraf ve veri sayesinde bilgiyi, görseli ayırt edebiliyor. Yani artık bir makinenin yüzde 99 doğruluk oranıyla kediyle köpek arasındaki farkı anlayabildiği bir noktadayız.

- Yapay zekâ en çok hangi alanlarda kullanılıyor?

Halihazırda güvenlik, tarım gibi alanlarda kullanılıyor. Mesela bir insansız hava aracına sağlıksız bir ağacın nasıl görüneceğini öğretebilirsiniz. Aracı binlerce hektarlık alanda uçurup nereleri ilaçlayacağınızı tespit edebilirsiniz. Ya da vücudunuzun belirli bölgelerini görüntüleyip, onu cilt kanseri imajlarıyla karşılaştırıp bir kişinin kanser olup olmadığını tespit edebilirsiniz. Ve yapay zekânın en önemli uygulama alanlarından biri de trafik olacak. Eğer bilgisayar sistemlerine trafiğin akışını, yayaların nereden geçtiğini, ışıkların kaç dakikada bir yeşile döndüğünü öğretebilirsek, sürücüsüz araçları trafiğe sokabiliriz.

- İstanbul trafiğini bilgisayara öğretmek zor olur ama...

(Gülüyor) Tabii ki bir insan için San Francisco trafiğine kıyasla İstanbul trafiğinde araç kullanmak daha zor. Ama bir makineye çevresinin haritasını çıkarma yeteneğini kazandırırsanız, yeni koşullara uyum sağlaması o kadar da zor olmaz. Sadece birkaç ayda bu meseleyi halletmek mümkün.

‘HER GÜVENLİK SİSTEMİNİN EN ZAYIF HALKASI İNSAN’

- Raporda yapay zekânın üç alanda tehlikelerini sıraladınız: Dijital, fiziksel ve siyasi. Bu noktalardaki tehlikeleri anlatır mısınız?

Dünyanız ne kadar basitse, makineleri o dünyada etkili kılmak daha mümkün. Dijital dünya tam da böyle. Her güvenlik sisteminin en zayıf yanı insan. Eğer bir kişiyi email şifresini vermesi için kandırırsanız, kurduğunuz tüm güvenlik duvarı çöker. Bu nedenle bütün hacker sistemleri sosyal mühendislik içeriyor. Mesela bir şirketin en gizli dosyalarına hep zayıf kişinin hesabı üzerinden erişirsiniz. Mesela biri size “Akrabanızın avukatıyım, başı belada, para gönderin” mail’i atabilir. Ama artık insanlar daha uyanık. Hacker’lar sosyal medya hesaplarınıza vs. bakarak bilgisayarlara daha gelişmiş avlanma yöntemleri öğretiyorlar. Yapay zekâ bir şirketteki önemli bir çalışanı internet üzerinden aylarca takip edip neler yaptığını tespit ediyor, bu bilgilere göre tuzağa düşürebiliyor.

- Fiziksel tehditler?

Mesela Facebook’un kullandığı yüz tanıma sistemini bir terörist kullanırsa ne olur? Ucuz bir İHA alabilir, üzerine ucuz bir kamera yerleştirebilir ve makineye öldürmek istediği kişinin yüzünü öğretebilir, İHA da hedefi bulup öldürebilir. Bu açıdan bakınca yapay zekâ korkunç görünüyor. Fakat bir yandan da çok yararlı tarafları var. Mesela aynı yüz tanıma sistemini sürücüsüz araçlara yüklediğiniz zaman daha güvenli sürüş teknikleri geliştirebilirsiniz. Ya da ev temizleyen robotlar... Fakat burada da bir başka tehlike ortaya çıkıyor, eğer bu robotların sistemlerini hack’lerseniz, o robotlara istediğiniz her şeyi yaptırabilirsiniz.

‘HACK’LEDİĞİNİZ ROBOTA İNSAN ÖLDÜRTEBİLİRSİNİZ’

- İnsan öldürmek gibi, değil mi?

Evet... Konuşmak için henüz erken ama teknoloji ağır sanayide, askeri alanlarda, sağlıkta daha çok kullanıldıkça bu tür saldırılar konusunda daha çok endişelenmemiz gerek. Öyle günler gelecek ki bir otomobil içinde sadece bilgisayar sistemi olan bir araca dönüşecek ya da bir hastanın tedavisi saatte bir ilaç enjekte eden makineler aracılığıyla yapılacak. Siber güvenlik açısından hazır olmalıyız.

- Raporunuzda “Yapay zekâ siyaseti de etkileyecek” diyorsunuz, nasıl?

Bir sene önce ABD’de bu yaşandı biliyorsunuz. Rus hacker’ların Amerikan kamuoyunu yönlendirmek için nasıl bot hesapları kullandığına dair pek çok haber çıktı. Yani bir ülke, diğer bir ülkenin kamuoyunu yönlendirmek için dijital bilgi enjekte edebilir, güvensizlik ve kutuplaşma yaratabilir, seçmenlerin kararlarını etkileyebilir. Şimdilik bunlar daha çok insanlar aracılığıyla yapılıyor. Bir binaya yüzlerce trol dolduruyorsunuz, onlar da sahte sosyal medya hesaplarından videolar paylaşıyor, yorumlar yapıyor. Fakat ileride bunu yapmak için de daha çok yapay zekâ kullanılacak. Yüzlerce trolün yaptığını, bir evde 4 kişi -yeterince teknik altyapısı varsa- becerebilir.

‘BİLGİ TOPLAYAN HÜKÜMETLER DAHA GÜÇLÜ OLACAK’

- Peki ya hükümetler vatandaşlarını izleme-takip etmede ne kadar yapay zekâ kullanacak? Çin’de şimdiden tehlikeli vatandaş profillerinin oluşturulduğuna dair haberler çıktı...

Bazı ülkelerde “vatandaş kredi sistemi” var bile. Yani geçmişteki davranışlarınıza göre puanlandığınız sistemler... Puanınıza göre ev kredisi veriyorlar mesela. Gelecekte hakkınızdaki tüm verilere erişebilen merkezi yapılar vatandaşları hakkında da kararlar verecek. Tüm dünyaya casusluk yapan, bir askeri üsten dünyanın diğer ucundaki yerleri bombalamaktan imtina etmeyen ülkeler tabii ki, yapay zekâ kullanarak size sağlık sigortası yapıp yapmayacağına da karar verecektir. Sadece hükümetler değil şirketler için de geçerli. Anlattıklarımın hepsi mahremiyeti, açık piyasayı, demokratik süreçleri olumsuz yönde etkileyecek. Çünkü bilgiye erişebilen daha güçlü olacak.

‘ŞİRKETLER FOTOĞRAFLARINIZA BAKARAK NE ZAMAN ÇOCUK DOĞURACAĞINIZI TAHMİN EDİYOR’ 

- Beni en çok korkutan şeylerden biri, sosyal medya şirketleri ve hükümet arasındaki işbirliği alanları. Çünkü tüm bilgilerinizi gönüllü olarak sosyal medya şirketlerine teslim ediyorsunuz. Alışveriş düzeninizden, o gün yemeğinizi nerede yediğinize kadar...

Geçtiğimiz günlerde ismini vermeyeceğim bir şirkete gittik ve bana şunu söylediler: “Facebook’ta beğendiğiniz şeylerden evli misiniz değil misiniz, cinsel tercihiniz ne, nelerden hoşlanırsınız... Tüm bunları tahmin edebiliriz. Çektiğiniz tüm fotoğrafların sadece yüzde 2’sini internete yüklüyorsunuz ama bizim için yeterli değil. Çünkü tüm tüketim alışkanlıklarınızı tespit etmek istiyoruz. Biz de telefonununa yerleştirebilceğimiz bir program geliştirdik, galerinizdeki tüm fotoğraflara erişebiliyoruz. Eğer kullanıcı izin verirse, fotoğraflardan bir analiz çıkarıp şirketlerle paylaşıyoruz.” Tabii ki şirketler de reklamlarda hedef tüketiciye nokta atışı yapıyor. Bebeğinizin olup olmayacağını 3 ay öncesinden tahmin edebiliyorlar. Hükümetlerin aynı teknolojiyi sizin suç işleyip işlemeyeceğinizi anlamak için kullandığını düşünün... Mesela “Telefonunuzda şu teröristle fotoğrafınız var” diye sizi sorguya çekebilirler.

- Sohbetimiz gittikçe bir “Black Mirror” bölümüne dönüştü. Anladığım kadarıyla hacker’lar ileride çok önemli bir rol oynayacak...

En iyi hacker’lar nerede diye bakacak olursam, tabii ki bir kısmı hükümetler için çalışıyor. Ama inanın en iyileri büyük teknoloji şirketlerinde ya da kendi danışmanlık şirketleri var.

‘TERÖRİZM HACKER’LIĞA DAHA ÇOK BAĞIMLI OLACAK’

- Yapay zekâ teröristlerin saldırı kapasitesini nasıl etkileyecek?

Tek söyleyebileceğim şu: Fiziksel güvenliğimiz artık bilgisayarlara bağımlı. Bu da teröristler gelecekte hacker’lara daha bağımlı olacak demek. Eğer bir elektrik santralı ya da barajın güvenlik sisteminde açık bulursam, bir fekalete neden olabilirim. Ya da hatta bir ülkenin güvenlik duvarlarını indirebilirim, emin olun roket atmaktan daha etkili. Bir de tabii ki roket pahalı, laptop daha ucuz...

‘GEZEGENİN KONTROLÜNÜ BİZLERİN ELİNDEN ALABİLİRLER’

- Yapay zekâ insanlığın sonunu getirebilir mi?

Evet. Eğer böyle bir tehdit görmeseydim “varoluşsal tehdit” üzerine çalışmazdım. Yapay zekânın amacı insanların yapabildiği şeyleri makinelere yaptırmak değil mi? Bunu başardığımızda kendimizden daha zeki makineler yaratabiliriz. Tabii ki onlar da bu gezegenin kontrolünü bizler ve hayvanların elinden alabilir.

Habertürk