Yapay zekâya adapte olma ve yapay zekâyı iş akışına adapte etme problemleri, çoğu sektörde olduğu gibi sivil toplumda da gündemi fazlasıyla meşgul ediyor. Digital Democracy Initiative, AI and Civil Society: Threats and Obstacles to Deployment and Advocacy başlıklı raporunda şu üç soruya cevap arıyor: Yapay zekâ sivil topluma nasıl bir tehdit oluşturuyor? STK’lar yapay zekâ sistemlerini ne sıklıkla kullanıyor, kullanırken karşılaştıkları etik sorunların üstesinden nasıl geliyor? STK’ların yapay zekâ yönetişimiyle ilgili tartışmalarda daha etkili bir konuma gelmek için ne gibi zorlukları aşmaları gerekiyor?
Yapay zekâ kullanımının STK’lar üzerinde kurduğu baskı
Sektörden 293 katılımcıyla yapılan anket sonuçlarına göre STK çalışanlarının yapay zekâ ile ilgili en büyük çekincesi, YZ gözetleme sistemleri. Katılımcıların %57’si dijital mecrada, %50’si ise kamusal alanlarda kullanılan gözetleme sistemlerinin organizasyonları için bir tehlike arz ettiğini düşünüyor. Yüz tanıma sistemleri, casus yazılımlar, tahmin edici polislik algoritmaları gibi yapay zekâ ile güçlendirilmiş gözetim sistemleri, ifade ve hareket özgürlüğünü ciddi ölçüde kısıtlayabiliyor. Örneğin Libya’dan bir katılımcı, aktivistlerin fiziksel ve dijital hareketlerinin kolluk kuvvetleri ve çeşitli silahlı gruplar tarafından bu tarz sistemler aracılığıyla sürekli takip edildiğini ifade ediyor. Kurulan kitlesel gözetim rejimi, özellikle marjinalleştirilmiş grupların otosansür uygulamasına da sebebiyet veriyor.
Üretken yapay zekânın silahlaşması
Üretken yapay zekâ, spesifik şahsiyetleri hedef alan, şiddet veya cinsellik barındıran içerikler üretmeyi oldukça kolaylaştırıyor. Bu sebeple aktivistleri hedef alan dezenformasyon kampanyalarında sık kullanılan bir silah hâline geliyor. Örneğin pornografik deepfake içerikleri, özellikle kadın aktivistleri, politikacıları ve gazetecileri hedef alan bir çevrimiçi taciz biçimi. Üretken yapay zekânın “çıplaklaştırma” amacıyla kullanımının nasıl büyüyen bir fenomen hâline geldiğine daha önce Yapay Gündem’de değinmiştik.
İçerik moderasyonu algoritmaları
Kitlesel erişim adına elzem olan sosyal medya platformlarının içerik moderasyonu algoritmaları, STK’lara zaman zaman haksız bir sansür uygulayabiliyor. Bu sansür bazen algoritmalara içkin ön yargılardan kaynaklanıyor, örneğin farkındalık yaratmak için paylaşılan rahatsız edici gönderiler algoritmaya takılıp silinebiliyor, veya çevrimiçi kaynaklar bakımından sınırlı olan dillerde algoritma kötü çalışabiliyor. Bazen de bu sansür politik sebeplerle gerçekleşiyor. Rapora göre platformların hemen hepsi ABD merkezli bir sermayeye bağlı olduğu için algoritmaların davranışları, ABD politikalarıyla örtüşme eğiliminde. Örneğin, Meta’nın Tehlikeli Örgütler ve Kişiler (Dangerous Organizations and Individuals) politikası, ABD Dışişleri Bakanlığı'nın yabancı terör örgütleri listesini (FTO) baz alıyor. Araştırmacı Mahsa Alimardani ve Mona Elswah, Birleşmiş Milletler Güvenlik Konseyi’nin terörist listesi gibi küresel ve dini açıdan daha çeşitli dağılıma sahip listelerin aksine FTO’nun çoğunlukla İslamcı terör oluşumlarına yer verdiğini belirtiyor.
Sivil alanda üretilen bilgilendirici ve dayanışmacı içerikler kısıtlı bir ağın ötesine çıkamazken nefret söylemi barındıran veya polarize edici içerikler geniş kitlelere yayılabiliyor. Çünkü platformların öneri algoritmaları maddi gelir endeksli olduğu için sansasyonel içerikleri önceliklendiriyor.
STK’lar yapay zekâyı ne için kullanıyor?
Katılımcıların %21.5’i organizasyonlarının hiçbir yapay zekâ aracı kullanmadığını ifade ediyor. Organizasyonunun yapay zekâyı sadece kısıtlı bir alanda kullandığını ifade edenlerin oranı %40.6 iken %16.7’lik bir kesim ise yapay zekâyı geniş bir yelpazede çeşitli görevler için kullandıklarını söylüyor. Yapay zekânın kullanım amaçlarına baktığımızda araştırma ve bilgi edinme en yaygın kullanım alanı olarak öne çıkıyor. Bunu sırasıyla içerik üretme, veri toplama, ofis işlerini yönetme, veri işleme ve fon toplama alanları takip ediyor.
Organizasyonlar genellikle kullandıkları yapay zekâ araçlarını dışarıdan temin ediyor. Katılımcıların sadece %12.6’sı organizasyonunun kendi yapay zekâ çözümlerini geliştirdiğini söylüyor.
Yapay zekâ kullanımının önündeki engeller
Katılımcılara göre STK’ların yapay zekâ kullanımının önündeki en büyük iki etken, finansal kaynakların ve teknolojik kapasitenin yetersizliği. STK’ların hâlihazırda kısıtlı olan bütçelerini yapay zekâ teknolojileri için gerekli altyapıya, uzmanlığa, güvenilir veri setlerine ve teknik eğitime ayırmaları mümkün olmayabiliyor. Hazır bir şekilde kullanıma sunulan yapay zekâ modelleri ise Küresel Kuzeyin dışında kalan ülkelerde konuşulan dilleri ve yerel bağlamı bilmediği için etkili bir şekilde çalışmıyor.
İnsan hakları ve etik ihlalleri ile ilgili kaygılar, yapay zekâ teknolojilerinden yararlanmak isteyen STK’lar için önemli bir sorun. Bu kaygıların yoğunlaştığı konular ise gizlilik ihlalleri ve dezenformasyon yayma ihtimali. Katılımcılar, özellikle marjinalleştirilmiş grupları, aktivistleri ve gazetecileri zor durumda bırakacak hassas bilgilerin yapay zekâyla paylaşılmaması gerektiğini ifade ediyor. Yine yapay zekâ modellerinin bu tarz gruplara karşı dışlayıcı ön yargılara sahip olabileceğini ve bu ön yargıların yeniden üretilmesine sebebiyet vermemek için gerekli önlemlerin alınması gerektiğine dikkat çekiyorlar.
Bir diğer kaygı, yapay zekâ sistemlerindeki insan gözetimi ve hesap verilebilirliğin eksikliği ve bu eksikliğin toplumsal güvene verdiği zararla ilgili. Bu konu hakkında konuşan bir katılımcı, sivil toplumun marjinalleştirmiş gruplar için rolünün önemini vurguluyor. Bu rolün empatiyle, bağlamsal duyarlılıkla ve adaletsiz yapılara karşı çıkarak yerine getirildiğini ifade eden katılımcı, yapay zekânın bu konularda işlevsiz kaldığının altını çiziyor. Katılımcıların bahsettiği diğer çekinceler arasında ise algoritmik ön yargı, telifli işlerin haksız kullanımı, yapay zekâ teknolojilerinin çevreye olan zararı gibi konular mevcut.
STK’lar yapay zekânın getirdiği etik sorunlarla nasıl baş etmeye çalışıyor?
Yapay zekâ kullanan organizasyonlar arasında yapay zekânın getirdiği etik sorunları ve olası insan hakları ihlallerini dikkate alıp spesifik müdahalelerde bulunduğunu söyleyenlerin oranı %38.3. Bu organizasyonlar genelde veri gizliliği, ayrımcılığa karşı koruma, kapsayıcılık, hesap verilebilirlik gibi ilkelere dikkat çekiyorlar. Bazı STK’lar mevcut insan hakları yönergelerini kullanıyor. Raporda bahsi geçen kullanılan yönergelerden bazıları Afrika Birliği’nin yayınladığı Kıtasal Yapay Zekâ Stratejisi, OECD’nin Yapay Zekâ İlkeleri, ve UNESCO’nun Yapay Zekâ Etiği Tavsiyeleri.
Tüm bu ilkelerin yanında alınan pratik bazı önlemler de mevcut.
Kişisel verilerin korunması
Kişilerin gizliliğini korumak için kullanılan en sık önlem, hassas verileri yapay zekâ modellerine vermemek veya veriyi anonimleştirmek. Sunulan yapay zekâ servisinin kullanıcıdan isim gibi hassas herhangi bir bilgi toplamaması, şirket içi kullanılan modellere kısıtlı bir veri erişimi sağlanması, eğer bir veri seti hazırlanacaksa toplanan verinin anonimleştirilmesi, verisi kullanılan şahısların bilgilendirilmesi ve rızasının alınması bu konuda alınan önlemlerden.
Veri denetlemesi
STK’lar bir yapay zekâ modeli kullanırken veya kendi yapay zekâ sistemlerini geliştirirken ön yargı, veri gizliliği, güvenlik, dezenformasyon yayılımı, adillik gibi konular üzerine çeşitli etik denetlemeler yapıyorlar. Bu denetlemeler genelde modeli kullanmaya başlamadan önce veya modeli kullanırken belirli aralıklarda düzenli olarak yapılıyor. Bu denetlemenin içinde hazırlanan veri setlerinin kontrolü, veri toplama ve işleme konusunda çalışan personellere gerekli eğitimin sağlanması, algoritma denetimi için zaman zaman dışarıdan uzman yardımı alma gibi pratikler mevcut.
Şeffaflık ve hesap verilebilirlik
Katılımcılar, şeffaflığı sağlamanın yolu olarak modelin geliştirme sürecinin belgelenmesini, kullanıcılara modelin ne yaptığının açıkca ifade edilmesini ve taşıdığı potansiyel risklerin izah edilmesini gösteriyor. Modelin karar verme süreci ne kadar okunabilir olursa o kadar iyi.
Karar verme sürecindeki bir diğer önemli etken ise sistemin içerisinde insan gözetimini sağlamak. Bu gözetim, alınan kararların bir insan doğrulamasından geçmesi, geri dönüş mekanizmasının kurulması, yapay zekânın kullandığı kaynakların bir insan tarafından kontrol edilmesi gibi yollarla sağlanabilir.
Katılımın ve erişilebilirliğin sağlanması
Bazı katılımcılar paydaş katılımının önemini vurguluyor. Bu paydaşların arasında yapay zekâ etiğiyle ilgilenen uzmanlar da olabilir, STK’nın kullandığı yapay zekâ modeliyle ilişiği olan, bu modelden etkilenecek olan yerel topluluklar ve yönetimler de. Örneğin Ürdün’de bulunan açık kaynak yazılımlar ve dijital haklarla ilgili çalışmalar yapan JOSA’nın geliştirdiği Nuha, internetteki cinsiyetçi söylemleri tespit edip sınıflandıran açık kaynak bir yapay zekâ modeli. JOSA, geliştirme safhasında Ürdün’deki feminist organizasyonlarına ve insan hakları savunucularına düzenli olarak danışmış ve kullanılacak terminolojiyle sınıflandırmayı bu konuşmalar sonucunda birlikte düzenlemişler.
STK’lar yapay zekâ yönetişimi için savunuculuk yaparken ne gibi zorluklarla karşılaşıyorlar?
Katılımcıların yalnızca %17'si organizasyonlarının yapay zeka sistemlerinin geliştirilme, kullanılma ve düzenlenme süreçlerini etkilemeyi amaçladığını belirtiyor. Maddi kaynakların azlığı, hem yapay zekâ sistemlerini analiz etmek için gerekli teknik bilgi birikime erişmeyi, hem de yapay zekâ yönetişimi ve regülasyonuyla ilgili önemli konferanslara ve toplantılara katılmayı zorlaştırıyor. Bu da uzmanlara, politika yapıcılara ve diğer kilit paydaşlara ulaşmayı güçleştiriyor.
Hindistan’dan bir katılımcı, aslında yapay zekâ yönetişiminde fonun bol olduğunu ancak bu bolluğun sadece yapay zekâya pozitif çerçeveden yaklaşan projelere ayrıldığını ifade ediyor. Yapay zekâya eleştirel yaklaşan, yapay zekâyı kullanmamayı da değerlendiren perspektifler o bolluktan mahrum bırakılıyor.
Savunuculuk yapmayı zorlaştıran bir diğer etken ise yapay zekâ geliştiren şirketlerin ve yapay zekâyı kullanan devletin bu süreci kapalı kapılar ardında devam ettirmesi. Buna pek çok ülkede daralan sivil alan ve marjinal grupların üzerinde artan siyasi baskı da eklenince bazı STK’lar yapay zekâ savunuculuğuna girişmemeyi tercih edebiliyor.
Sonuç ve öneriler
Rapor, tüm bu kısıtlamalara karşın STK’ların yapay zekâ yönetişimiyle ilgili önemli kazanımlar edindiğinin altını çiziyor. Bu kazanımlara verdiği örnekler arasında Brezilya’da yapay zekâyı regüle etmek maksatlı sunulan ilk yasa tasarısı bulunuyor. Regülasyonu neredeyse komple şirketlere bırakan bu tasarıya karşı sivil toplum örgütleri ve akademik organizasyonlar çeşitli kampanyalar yürütmüş. Bu kampanyalar sonucunda demokratik değerlerle örtüşen çok daha kapsamlı yeni bir tasarı sunulmuş.
Sivil toplumun varlığı, büyük teknoloji şirketlerinin “Hızlı ilerle ve bir şeyleri kır” mottosuna alternatif olabilecek bir anlayışın hâlâ var olabileceğini göstermesi açısından değerli. Ancak STK’ların etik ve adil bir yapay zekâ geliştirmeye yardımcı olmak için hem maddi kaynağa hem de teknik kapasiteye ihtiyacı var. STK’lara gerekli teknik eğitimleri verecek ağlar, organizasyonlar veya girişimler bunu sağlayabilir, benzer şekilde STK’ların yapay zekâ geliştirirken ve kullanırken yararlanabilecekleri araçlar, rehberler veya şablonlar üretilebilir. Rapor son olarak türlü paydaşlara sahip daha geniş koalisyonlar kurulmasını ve bu tarz mevcut yapıların güçlendirilmesini öneriyor; yapay zekâ destekli sistemlerin boğduğu sivil alan ancak bu şekilde korunabilir.
