1989'da siyaset bilimci Francis Fukuyama, liberal demokrasinin dünya çapında yayılmasıyla "tarihin sonuna" yaklaştığımızı öne sürmüştü. Ancak zaman, onun bu öngörüsünün hatalı olduğunu gösterdi. Bugün demokrasi gerilerken, otoriter rejimler ve despotlar yükselişte.
Fukuyama'nın yanıldığını düşünebilirsiniz, ancak belki farklı bir açıdan bakarsak haklıydı. Belki de gerçekten tarihin sonuna yaklaşıyoruz ancak bu kez insanlık için oyunun bittiği anlamında.
Yapay zekâ: Sessizce gelen tehdit
İnsanlığın sonunu getirebilecek birçok senaryo var: küresel salgınlar, devasa meteor çarpmaları, iklim krizleri… Ancak son yıllarda giderek daha fazla tartışılan bir diğer senaryo ise yapay zekanın (YZ) bizi yok edebileceği ihtimali.
2022'de OpenAI CEO'su Sam Altman, yapay zekânın büyük fırsatlar sunduğunu ancak aynı zamanda ciddi tehditler de barındırdığını şu sözlerle dile getirdi:
“Yapay zekânın iyi senaryosu o kadar inanılmaz ki, bahsettiğinizde deli gibi görünüyorsunuz. Ancak kötü senaryosu da var ve bu, hepimiz için son olabilir.”
Benzer şekilde, 2024'te "Yapay zekânın babası" olarak anılan Geoff Hinton, yapay zekânın insanlığı yok etme ihtimalini yüzde 10-20 olarak değerlendirdi. Nobel Fizik Ödülü sahibi bir bilim insanının bu oranları vermesi, tehdidin ciddiyetini gösteriyor.
Yapay zeka insanlığı nasıl aşabilir?
Alan Turing, yapay zekânın temelini atan isimlerden biri olarak kabul edilir. 1950'de yapay zeka üzerine ilk bilimsel makaleyi yazan Turing, bir yıl sonra yaptığı bir öngörüyle bugünkü endişeleri yıllar öncesinden dile getirdi:
"Makineler deneyimlerden öğrenmeye başladığında, insanın güçsüz zekasını hızla aşacaklar… Bir noktada, kontrolü ele geçireceklerini beklemeliyiz."
1970'te ise Marvin Minsky şu çarpıcı tahminde bulundu:
"İnsan zihni, büyük zekâları kontrol edemeyebilir… Bilgisayarlar kontrolü ele geçirdiğinde, belki de sadece bizi evcil hayvanları olarak tutmaya karar vereceklerdir."
Matematikçi Irving Good ise "zeka patlaması" kavramını ortaya atarak, makinelerin kendi zekalarını geliştirdikleri noktada insan kontrolünden çıkacağını öne sürdü. Bugün "tekillik" (singularity) olarak bilinen bu kavram, insanlığın son büyük icadı olabilir mi?
Yapay zekâ ne zaman bizi geçecek?
Yapay zekanın insan zekasını aşacağı tarih belirsizliğini korusa da bazı teknoloji liderleri bu anın yaklaştığını düşünüyor:
Elon Musk: 2025-2026
Dario Amodei (Anthropic CEO): 2026-2027
Shane Legg (Google DeepMind Kurucu Ortağı): 2028
Jensen Huang (Nvidia CEO): 2029
Ancak daha temkinli tahminler de var. Meta’nın baş bilim insanı Yann LeCun, "Bu onlarca yıl alabilir" derken, AI uzmanı Gary Marcus, "Belki 10 yıl, belki 100 yıl sürebilir" diyor. Yazar Toby Walsh ise 2018'de yazdığı 2062 adlı kitabında, bu eşiğin 2062'de aşılacağını öne sürmüştü.
Yapay zeka insanlığı nasıl yok edebilir?
YZ'nin insanlığın sonunu getirebileceği senaryolar oldukça çeşitli. Kritik altyapıya saldırarak güç şebekeleri ve finans sistemlerindeki zayıflıkları belirleyerek kaosa yol açabilir. Biyolojik tehditler yaratarak ölümcül ve yayılabilir patojenler tasarlayabilir. Nanoteknoloji alanında geliştirdiği mikroskobik makinelerle insan vücuduna girip ölümcül toksinler salabilir.
Ancak bu tür distopik senaryolar, yapay zekânın dünyada doğrudan bir eylem yeteneği kazanmasına bağlı. Bu yüzden, kritik altyapıyı yöneten sistemlere yapay zekânın doğrudan erişimine karşı önlemler alınması gerektiği vurgulanıyor.
Neden endişelenmemeliyiz?
Toby Walsh'a göre, yapay zekâ hakkında aşırı endişe etmeye gerek yok. Gerçekten zeki bir varlık, ne kadar az şey bildiğini anlar ve bilgelik geliştirir. İnsanlık zaten kolektif süper zekaya sahiptir; hiçbir birey tek başına bir nükleer santral inşa edemez ama insanlık kolektif olarak bunu başarabilir. Ayrıca, büyük teknoloji şirketleri arasındaki rekabet, tek bir yapay zekânın mutlak hakimiyet kurmasını engelleyebilir.
Yapay zekâ bize insani değerlerimizi nasıl gösterebilir?
Yapay zekanın gelişimi, insan değerlerine olan ilgimizi artırabilir. İnsan ilişkilerini daha değerli hale getirerek duygusal bağları ön plana çıkarabilir. İnsan yaratıcılığına verilen değeri artırarak el yapımı sanat ve zanaat eserlerini daha kıymetli kılabilir. Makineleri etik değerlerle programlamaya çalışmanın amacı, kendi insani değerlerimizi daha iyi anlamamıza yol açabilir. "Farklı hayatlara nasıl değer veriyoruz? Adil ve dürüst olmak ne anlama geliyor? Ne tür bir toplumda yaşamak istiyoruz?" gibi sorulara yanıt aramamızı sağlayabilir.
Yapay zeka gelişirken onu nasıl yöneteceğimiz kritik bir mesele olacak. Akıllı makineler bize tanrısal yetenekler kazandırabilir, ancak insanlık olarak neyi değerli kılacağımıza biz karar vereceğiz.
