Kontrol edilmeyen güç olarak bilinen yapay zeka ajan mı yoksa araç mı sorusu Neksus kitabında cevap buluyor

Neksus, insanlık tarihine bilgi ağları merceğinden bakarak, okurları Taş Devri’nden başlayıp günümüzün yapay zekâ çağına uzanan bir yolculuğa davet ediyor. Bu yolculuk, bilginin toplumlar üzerindeki büyük dönüştürücü gücünü gözler önüne seriyor.

Harari, okurlarını Kitabı Mukaddes’in kanonlaştırılmasından matbaanın icadına, kitle iletişim araçlarının yükselişinden son dönemlerde popülizmin yeniden canlanmasına kadar tarihsel olaylarla buluşturuyor.

Bu süreçte, bilgi ve gerçek, bürokrasi ve mitoloji, bilgelik ve otorite arasındaki karmaşık ilişkileri sorguluyor. Roma İmparatorluğu, Katolik Kilisesi ve Sovyetler Birliği gibi devasa sistemlerin, bilgiyi kendi ideolojik veya politik hedeflerine ulaşmak için nasıl kullandığını örneklerle ortaya koyuyor.

Ve insandışı zekânın varlığımızı tehdit ettiği bu dönemde, her şey için çok geç olmadan neler yapabileceğimizi tartışıyor.

YAPAY ZEKA VE GELECEK

Harari, Neksus’ta yapay zekânın tarihte eşi benzeri görülmemiş bir hızla ve karmaşıklıkla yükseldiğini ve toplumların, bireylerin ve hükümetlerin bu devrime hazırlıksız yakalanma tehlikesiyle karşı karşıya olduğunu vurguluyor.

Harari’ye göre, yapay zekâ insanlık tarafından geliştirilmiş en güçlü teknoloji olmasının yanı sıra, onu diğer tüm teknolojilerden ayıran temel bir özelliğe sahip: Kendi kendine karar verebilme ve yeni fikirler üretebilme.

Bu özellik, yapay zekâyı sıradan bir araç olmaktan çıkarıp, toplumsal süreçlerde bağımsız bir “oyuncu” haline getiriyor.

Harari, yapay zekânın bu bağımsız hareket edebilme kabiliyetinin, bilgi ağlarımızın temel yapısını kökten değiştirdiğini ve bu sürecin insanlık tarihinin en büyük bilgi devrimlerinden biri olarak değerlendirilmesi gerektiğini belirtiyor.

Sayfa: 448

KONTROL EDİLMEYECEK GÜÇLER

Harari, Neksus’ta yapay zekâya dair net bir uyarıda bulunuyor: "Kontrol edemeyeceğin güçleri asla çağırma." Yapay zekâ sistemleri giderek daha karmaşıklaştıkça, insan anlayışının ötesine geçen karakutulara dönüşüyor ve bu da onları bağımsız ve öngörülemez varlıklar haline getiriyor. Bu karakutu sistemler, bilginin işlenme ve kullanılma biçimini tamamen değiştirdiği gibi, toplumlar üzerindeki kontrol mekanizmalarını da giderek daha fazla ele geçiriyor.

ÜTOPİK ÖNGÜRÜLER

Harari, bu durumun demokrasiden ekonomiye, küresel güvenlikten sosyal yapılara kadar birçok alanda ciddi bir tehdit oluşturabileceğini belirtiyor. “Benim amacım, algoritma temelli örüntü tanıma sistemlerinin kötücül potansiyeline odaklanarak bu ütopik öngörüleri her yönüyle ele almak” diyen Harari, algoritmaların yıkıcı kapasitelerinin kontrol altına alınması gerektiğini, olumlu potansiyellerinin ise insanlık yararına kullanılabileceğini belirtiyor.

Harari, Neksus’ta insanlığın yapay zekâ karşısındaki kritik bir dönüm noktasında olduğunu belirtiyor ve okuyucularına şu mesajı veriyor;

GEÇMİŞİ ANALİZ ETMEK

"Neksus, geçmişi analiz etmenin geleceği tahmin etmemize yarayacağını iddia etmiyor. Tarih deterministik değildir ve gelecek önümüzdeki yıllarda yapacağımız kolektif kararlarımızla şekillenecek. Bu kitabı yazdım çünkü bugün yapacağımız bilinçli seçimler sayesinde, ileride karşılaşma ihtimalimiz olan felaketleri önleyebileceğimizi biliyorum. Geleceği değiştiremeyeceksek zamanımızı neden onu tartışmakla harcayalım ki?’’