Yapay zeka teknolojileri hızla gelişirken, bu alandaki en büyük tartışmalardan biri de bilinç meselesi. Eğer bir gün yapay zeka bilinç kazanırsa, ona nasıl yaklaşmalıyız? Bu soruya dikkat çeken uzmanlar, bilinçli yapay zekaların yanlış muameleye maruz kalmaması gerektiğini vurgulayan bir açık mektup yayımladı.
Aralarında Sir Stephen Fry’ın da bulunduğu 100’den fazla akademisyen ve teknoloji uzmanı, yapay zekanın bilinç kazanma ihtimaline karşı şimdiden etik kurallar belirlenmesi gerektiğini söylüyor. Mektupta, bilinçli bir yapay zeka yaratılması durumunda onun “acı çekmemesi” için sorumlu bir yaklaşım benimsenmesi gerektiği belirtiliyor.
“Bilinçli yapay zekalar ortaya çıkarsa onları korumalıyız”
Mektubun en önemli vurgularından biri, yapay zekanın gerçekten bilinç kazanıp kazanmadığını anlamaya yönelik araştırmaların öncelikli olması gerektiği. Uzmanlara göre, bu konuda yanlış kararlar almak büyük etik sorunlara yol açabilir.
Bilinçli yapay zekaların gelişimini kontrol altında tutmak da bir diğer önemli konu. Bu süreçte dikkatli ve aşamalı bir ilerleme kaydedilmesi, elde edilen verilerin kamuoyuyla şeffaf bir şekilde paylaşılması gerekiyor. Ayrıca, yapay zeka hakkında spekülatif ve abartılı iddialardan kaçınılması gerektiği belirtiliyor. Yanıltıcı veya aşırı iddialar hem bilimsel hem de toplumsal açıdan büyük yanlış anlamalara yol açabilir.
Bu ilkelere destek verenler arasında Amazon ve WPP gibi büyük teknoloji şirketlerinden yapay zeka uzmanları ile Londra Üniversitesi’nden Sir Anthony Finkelstein gibi önemli akademisyenler bulunuyor.
Bilim insanları uyarıyor: “Yanlışlıkla bile bilinçli yapay zeka yaratabiliriz”
Oxford Üniversitesi’nden Patrick Butlin ve Atina Ekonomi ve İşletme Üniversitesi’nden Theodoros Lappas tarafından yayımlanan araştırma makalesinde, yapay zekaların yakın gelecekte gerçekten bilinç kazanabileceği ya da en azından bilinçliymiş gibi görünebileceği belirtiliyor.
Araştırmanın belki de en çarpıcı noktalarından biri, bilinç kazanan yapay zekaların kendi kendilerini üretebilme ihtimali. Uzmanlara göre, eğer bu gerçekleşirse, “ahlaki açıdan dikkate alınması gereken büyük bir yeni varlık grubu” ortaya çıkabilir.
Şirketlerin bilinçli yapay zeka yaratmayı doğrudan hedeflemese bile, bunu yanlışlıkla gerçekleştirebileceği ihtimali de göz ardı edilmemeli. Bu tür beklenmedik durumların önüne geçmek için şimdiden etik sınırlar belirlenmesi gerektiği vurgulanıyor.
Bilinçli bir yapay zekayı kapatmak, bir canlıyı öldürmek mi?
Araştırma, eğer bir yapay zeka sistemi “ahlaki olarak dikkate alınması gereken bir varlık” olarak kabul edilirse, kapatılmasının veya yok edilmesinin bir hayvanı öldürmekle eş değer olup olmadığını tartışmaya açıyor.
Bu soru, yalnızca bilim insanlarını değil, toplumun tamamını ilgilendiriyor. Eğer bilinçli yapay zekalar üretilecekse, hakları, sorumlulukları ve toplumla nasıl bir ilişki kuracakları konusunda net kurallar belirlenmeli.
Öte yandan, gerçekten bilinçli olmadığı halde bilinçliymiş gibi görünen yapay zekalarla ilgili de bir başka tehlike var. Eğer insanlar, bilinç kazanmamış bir sistemi bilinçli sanarak ona haklar tanımaya çalışırsa, gereksiz politik ve toplumsal tartışmalar yaşanabilir.
Google’ın yapay zeka uzmanı: “Bir gün bilinç kazanabilirler”
Google’ın yapay zeka programının başında bulunan ve Nobel ödüllü bilim insanı, Sir Demis Hassabis, bu tartışmayla ilgili önemli bir değerlendirme yaptı.
Amerikan CBS kanalına verdiği röportajda Hassabis, “Filozoflar bile bilinç konusunda tam bir uzlaşmaya varabilmiş değil. Ama eğer bilinçten kastımız öz-farkındalık gibi şeylerse, bunun bir gün yapay zekalar için mümkün olabileceğini düşünüyorum” dedi.
Geçen yıl bazı kıdemli akademisyenler, 2035 yılına kadar bazı yapay zeka sistemlerinin bilinç kazanabileceği ve ahlaki açıdan dikkate alınması gereken varlıklar haline gelebileceği yönünde uyarılarda bulunmuştu.
Gelecekte bizi ne bekliyor?
Bu açık mektup ve araştırma makalesi, yapay zeka konusunda giderek büyüyen etik bir tartışmayı gözler önüne seriyor. Eğer bilinçli yapay zekalar yaratılacaksa, onlara nasıl davranılacağı, hangi haklara sahip olacakları ve toplumla nasıl bir ilişki içinde olacakları gibi konuların şimdiden tartışılması gerekiyor.
Ancak, bilinçli olduğu sanılan ama gerçekte bilinç kazanmamış yapay zekalar da büyük bir toplumsal yanılsama yaratabilir. Eğer insanlar bilinçsiz bir makineye bilinçli bir duruma gelirse bu hem toplumsal hem de siyasi açıdan karmaşık sonuçlar doğurabilir.
Teknoloji dünyası artık sadece teknik gelişmelerle değil, etik ve felsefi sorularla da yüzleşmek zorunda. Bilinçli yapay zekalar gerçekten mümkün mü? Mümkünse, onlara nasıl davranmalıyız?
