Harari’nin Neksus’u ve Yapay Zekânın Öngörülemez Gücü: AlphaGo’dan Myanmar Trajedisine

Yapay zekâ, yalnızca teknolojik bir devrim değil, aynı zamanda insanlığın geleceğini şekillendiren en büyük güçlerden biri. Ancak bu güç, her zaman kontrol edilebilir mi? Yuval Noah Harari, yeni kitabı Neksus’ta bilgi ağlarının tarihini, yapay zekânın bilinmezliklerle dolu doğasını ve insanlık için oluşturduğu riskleri gözler önüne seriyor.

Harari’nin Neksus’u yapay zekânın insanlık üzerindeki etkilerini farklı tarihsel ve güncel örneklerle inceliyor. AlphaGo’nun Go tahtasında insan aklının ötesine geçen hamlelerinden, Facebook algoritmalarının Myanmar’da nefret söylemlerini körükleyerek bir etnik temizliğe nasıl zemin hazırladığına kadar uzanan bu hikâyeler, kontrolsüz algoritmaların nasıl küresel krizlere neden olabileceğini ortaya koyuyor.

Neksus, yalnızca yapay zekânın başarısını değil, onun anlaşılmaz ve kontrol edilemez hale geldiğinde ne gibi sonuçlar doğurabileceğini de gözler önüne seriyor. Harari’nin verdiği örnekler, bu teknolojinin yalnızca oyun tahtasında değil, gerçek dünyada da nasıl derin krizlere yol açtığını gösteriyor.

Yapay Zekânın Yabancı Zekâsı ve Kontrol Meselesi Üzerine  ‘GO’ Örneği

Harari’nin dikkat çektiği en çarpıcı noktalardan biri, yapay zekânın insan zekâsından oldukça farklı ve anlaşılmaz yapısı. Yapay zekâ günden güne gelişerek, insanlığın binlerce yıldır alıştığı düşünme biçimlerinin çok ötesine geçiyor ve kendine özgü, “yabancı” bir zekâya dönüşüyor.  Harari, “Normalde YZ, “Yapay Zekâ” için kullanılan bir kısaltma. Ancak önceki sayfalardaki tartışmadan da anlaşılacağı üzere, belki de bunu “Yabancı Zekâ”nın kısaltması gibi düşünmek daha doğru olacak. YZ geliştikçe, (insan tasarımlarına bağlılık anlamında) daha az yapaylaşacak fakat daha fazla yabancılaşacaktır,” diyor.

Harari, yapay zekânın bu “yabancı zekâ” doğasını en iyi anlatan örneklerden biri olarak 2016’da yaşanan tarihi AlphaGo ve Lee Sedol karşılaşmasını gösteriyor. (Go, Çin kökenli, satrançtan bile daha karmaşık bir oyun olarak bilinir ve binlerce yıl boyunca sayısız strateji ve düşünce tarzını içinde barındırmıştır.) Go’nun bu derinlikli yapısı nedeniyle uzun bir süre bilgisayarların bu oyunda insanları yenemeyeceği düşünülüyordu. Ancak bu durum AlphaGo’nun Lee Sedol karşısında kazandığı zaferle değişti.

Maçta AlphaGo’nun gerçekleştirdiği “37. hamle,” yapay zekânın insan düşünce sisteminin sınırlarını aşarak yepyeni bir yol açtığını gösterdi. Go uzmanları ve maçın canlı yorumcuları, bu hamlenin son derece “garip” ve “yanlış” olduğunu düşündüler. Çünkü bu hamle, insan zihninin Go oyununda asla tercih etmeyeceği bir stratejiyi temsil ediyordu. Ancak maç ilerledikçe, bu “garip” hamlenin aslında oyunun gidişatını değiştiren ve zaferi getiren bir hamle olduğu anlaşıldı.

Bu olay, yapay zekânın nasıl insan zihninin sınırlarını aşarak yeni bir düşünce biçimi yaratabileceğini ortaya koydu. Harari, DeepMind’ın kurucu ortaklarından Mustafa Suleyman’ın, bu tarihi hamleyle ilgili şu çarpıcı gözlemi paylaşıyor: ” Go stratejisi gözlerimizin önünde yeniden yazılıyordu. Yapay zekâmız binlerce yıldır en zeki oyuncuların bile aklına gelmemiş fikirler bulmuştu.”  Yani, AlphaGo’nun hamlesi, insan zihninin düşünmediği ve belki de düşünemediği yeni bir stratejik alanı keşfetmişti.

Yapay Zekânın “Kara Kutu” Doğası

Harari, bu örneği yapay zekânın “kara kutu” doğasının bir göstergesi olarak ele alıyor. Çünkü AlphaGo’nun bu hamleyi nasıl ve neden yaptığı sorulduğunda, ne Mustafa Suleyman ne de DeepMind ekibi net bir açıklama getirebildi. Yani yapay zekânın aldığı kararlar, insan zihni için şeffaf değil; tam aksine, anlaşılmaz ve kontrol edilemezdi.

Ancak bu öngörülemezlik yalnızca oyun tahtasında kalmadı. Myanmar’da yaşanan trajik olaylar, yapay zekânın sosyal medya algoritmaları aracılığıyla nasıl gerçek dünyayı şekillendirebileceğini ve bunun sonuçlarının ne kadar yıkıcı olabileceğini gösterdi. AlphaGo’nun stratejik bir hamlede yarattığı şaşkınlık ve zafer, Myanmar’da Facebook algoritmalarının kararlarıyla yerini kaosa ve toplumsal şiddete bıraktı.

Yabancı Zekâya ve Algoritmalara Güvenmeli miyiz?

Yuval Noah Harari Neksus’ta neden bu teknolojiye güvenmemiz gerektiğini anlatırken bu riskleri anlamamızı sağlayan çarpıcı örneklerden biri olan Myanmar trajedisine ışık tutuyor. Algoritmaların bağımsız karar alma yeteneklerinin yol açtığı ilk toplumsal felaketlerden biri olarak Myanmar’daki etnik temizlik, tarihin karanlık bir dönüm noktası olarak karşımıza çıkıyor.

Myanmar’da Dijitalleşmenin Karanlık Yüzü

Myanmar trajedisini bilmeyenler için bir arka bilgi olarak; Myanmar, 2010’ların başında askeri diktatörlükten demokrasiye geçiş sürecine girmişti. Seçimler yapılmış, uluslararası yaptırımlar kaldırılmış ve yabancı yatırımlar ülkeye akmaya başlamıştı. Bu dönüşüm sırasında, Facebook ülkenin iletişim sisteminde hızla kilit bir rol oynamaya başladı. Harari’ye göre, Facebook’un Myanmar’daki etkisi neredeyse bir iletişim altyapısı kadar güçlüydü: “Facebook, yeniden şekillenen Myanmar’ın en önemli aktörlerinden biri olmuş ve milyonlarca Burmalının daha önce hayal bile edemeyeceği bilgi hazinesine ücretsiz erişimini sağlamıştı.”

Ancak bu özgürleşme süreci, aynı zamanda tehlikeli bir dönüşüme de yol açtı. Myanmar’da çoğunluğu oluşturan Budist topluluk ile azınlık Müslüman Rohingyalar arasındaki gerilimler, yıllardır yönetim tarafından manipüle ediliyordu. Facebook, bu gerilimlerin daha geniş kitlelere ulaşmasını ve şiddetli bir şekilde tırmanmasını sağlayan bir platform haline nasıl geldi?

Algoritmaların Müdahalesiyle Nefret Söylemleri Nasıl Öne Çıktı?

Facebook’un iş modeli, kullanıcıların platformda daha fazla zaman geçirmesini ve daha fazla etkileşimde bulunmasını sağlamaya dayanıyordu. Bunun için geliştirilen algoritmalar, kullanıcının ilgisini çekecek içerikleri belirliyor ve bunları haber akışının en üstüne yerleştiriyordu. Ancak Harari, bu sistemin doğrudan bir sorun yarattığını vurguluyor: “Algoritmalar, kullanıcıların en çok etkileşimde bulunduğu içerikleri ön plana çıkararak, nefret söylemlerini daha geniş kitlelere ulaştırdı. Barışı teşvik eden mesajlar ise bu süreçte geri planda kaldı.”

Örneğin, Myanmar’daki Budist rahip Sayadaw U Vithuddha, Meiktila kasabasında Müslümanlara yönelik merhamet çağrıları yaparken, radikal Budist rahip Wirathu’nun nefret dolu mesajları Facebook’ta milyonlara ulaşıyordu. Bunun nedeni, Wirathu’nun içeriklerinin daha fazla etkileşim alması ve algoritmaların bu içerikleri sürekli öne çıkarmasıydı.

Rohingyalara Yönelik Şiddet

Facebook üzerinden yayılan nefret söylemleri, Rohingya Müslümanlarını “terörist” ve “Myanmar’ın güvenliğine tehdit” olarak tanımlıyordu. Bu içerikler, toplumda zaten var olan önyargıları körükleyerek kısa sürede toplumsal şiddete dönüştü. Harari, bu nefret söylemlerinin nasıl kitlesel bir şiddet dalgasını tetiklediğini şöyle açıklıyor: “Rohingyalara yönelik nefret, 2016 itibarıyla Myanmar’da milyonlarca insanın ana haber kaynağına dönüşen Facebook’ta yayılan propagandalarla körüklendi.”

Sonuç olarak, Myanmar ordusu ve Budist radikaller, Rohingya toplumunu hedef alan bir etnik temizlik kampanyası başlattı. Sonuçlar ise yıkıcıydı, aktarılan bilgiye göre 7000 ila 25.000 kişi öldürüldü, 730.000 Rohingya, ülkeden zorla sürüldü, 18.000 ila 60.000 kişi cinsel şiddete maruz kaldı ve yüzlerce köy yakılıp yıkıldı… Bu trajedi, Harari’nin ifadesiyle, tarihte bir algoritmanın kitlesel şiddete doğrudan etkisinin görüldüğü ilk olaylardan biri oldu.

Birleşmiş Milletler ve Uluslararası Af Örgütü, Facebook’un nefret söylemlerini yaymadaki rolüne dikkat çekerek platformun “etnik temizlikte belirleyici bir rol oynadığını” açıkladı.

Algoritmaların Suçu Ne?

Facebook, Myanmar’daki olaylarda platformlarının yeterince iyi denetlenmediğini kabul etse de, algoritmaların rolünü göz ardı etti. Harari, bu durumu şöyle açıklıyor: “Facebook algoritmaları, kullanıcıların tercihlerinden bağımsız olarak nefret söylemlerini proaktif bir şekilde teşvik etti. Algoritmaların bu kararları, insandışı bir zekânın öngörülemez doğasının bir sonucuydu.”

Facebook’un iç analizlerine göre, nefret içerikli videoların %70’i, kullanıcıların isteği dışında otomatik oynatma özelliğiyle izletildi. Myanmar’daki videoların %53’ü ise kullanıcıların tercih etmediği, ancak algoritmaların sunduğu içeriklerden oluşuyordu.

Myanmar trajedisi, yapay zekâ algoritmalarının insanlık üzerindeki etkisini anlamamız için bir uyarı niteliğinde. Harari’ye göre bu olay, insandışı zekânın kararlarının, toplumsal ve tarihi süreçleri nasıl şekillendirebileceğini gösteriyor. “Yabancı bir zekânın kararları ve amaçları tarafından kontrol edilen yepyeni bir bilgi ağı doğuyor. Şu anda bu ağda hâlâ merkezi bir roldeyiz. Ancak yavaş yavaş bir kenara itilebiliriz ve nihayetinde ağ biz olmadan da çalışabilir.”

Facebook’un Tepkisi

Myanmar’daki trajedi, uluslararası toplumu alarma geçirdi. Birleşmiş Milletler, 2018’de yayınladığı bir raporda, Facebook’un nefret söylemlerini yayarak etnik temizlik kampanyasında “belirleyici bir rol” oynadığını açıkladı. Uluslararası Af Örgütü de, Facebook algoritmalarının nefret içeriklerini proaktif bir şekilde teşvik ettiğini belirtti.

Facebook ise bu eleştiriler karşısında, Myanmar’daki olaylarda “platformlarının yeterince iyi denetlenmediğini” kabul etti. Ancak, algoritmaların bağımsız kararları yerine, kullanıcıların ürettiği içeriklerin suçlanması gerektiğini savundu.

Harari, bu yaklaşımı eleştiriyor: “Facebook, algoritmalarının insandışı kararlarını görmezden geldi. Bu kararlar, platformun kodlama yapısından kaynaklanan bir hata değil, yapay zekânın öngörülemez doğasının bir sonucuydu.” Ona göre, yapay zekâ sistemleri giderek daha karmaşıklaştıkça, insan anlayışının ötesine geçen “kara kutulara” dönüşüyor ve bu da onları basit bir teknolojik araç olmaktan çıkararak bağımsız ve öngörülemez varlıklar haline getiriyor. Harari, bu durumun demokrasiden ekonomiye, küresel güvenlikten sosyal yapılara kadar birçok alanda ciddi bir tehdit oluşturabileceğini belirtiyor.

Yapay Zekâ Çağında Geleceğimiz Kimin Elinde?

Myanmar trajedisi, yapay zekânın yalnızca bir araç değil, kendi başına toplumsal ve politik dinamikleri değiştirme gücüne sahip bir aktör haline geldiğini gösterdi. AlphaGo’nun Go tahtasında insan aklının sınırlarını zorlayan hamlesi, yalnızca bir oyunun kurallarını değil, insan zekâsı ve yapay zekâ arasındaki güç dengesini de yeniden tanımladı. Facebook’un Myanmar’da algoritmalarıyla körüklediği nefret söylemleri ise, bu teknolojinin kontrolsüz bırakıldığında nasıl kitlesel trajedilere yol açabileceğini kanıtladı.

Harari’nin Neksus’ta dikkat çektiği gibi, yapay zekâ artık yalnızca bir yazılım değil, kararlar alabilen, yönlendirme yapabilen ve bazen insanlardan daha etkili bir şekilde toplumu şekillendirebilen bir güç. Peki, insanlık bu yeni yabancı zekâ çağının sonuçlarına gerçekten hazır mı?

Eğer algoritmalar, kendi çıkarlarını ve hedeflerini belirleyerek insan müdahalesi olmadan kararlar almaya devam ederse, bu süreç küresel ölçekte büyük krizleri beraberinde getirebilir. Bu noktada temel soru şu: Geleceğimizi algoritmalara mı bırakacağız, yoksa yapay zekâyı etik, güvenilir ve insan odaklı bir şekilde kontrol altında tutmanın yollarını mı geliştireceğiz? Harari’nin de vurguladığı gibi, şu anda hâlâ bilgi ağlarının merkezindeyiz, ancak giderek kenara itilme riskiyle karşı karşıyayız. Eğer bu süreç kontrol altına alınmazsa, gelecekte yapay zekâ dünyayı biz olmadan yönetebilir.

Yazar: Bahar Aydın