Üretken yapay zekâ, sosyal medyada ırkçı ve göçmen karşıtı dezenformasyon yayan hesaplar tarafından sıkça kullanılıyor. The Bureau of Investigative Journalism’in İslamofobik içerikler paylaşan bir sosyal medya hesabını konu alan dosyası, yapay zekâ modelleriyle dijital platformların sağladığı olanaklar sonucunda doğan çelişkileri gözler önüne seriyor.
Facebook’ta, Instagram’da ve TikTok’ta binlerce takipçisi olan Britain Today rumuzlu sayfa, çoğunluğu yapay zekâ ile üretilmiş göçmen ve İslam karşıtı içerikler paylaşıyormuş. The Bureau’nun haberinin ardından üç platformdan da kaldırılan sayfanın bazı içerikleri kaldırılmadan önce milyonlarca kez görüntülenmiş. The Bureau, zaman zaman paylaşımlarında Pakistanlılara hakaret de eden sayfanın arkasındaki kişinin Pakistan’da yaşayan hafız bir Müslüman olduğunu ortaya çıkardı.
İnfial ekonomisinin itici gücü olarak dezenformasyon
Pakistan’da yaşayan bir Müslümanın Birleşik Krallık’ta İslam karşıtı dezenformasyon yayması kulağa anormal bir vaka gibi gelebilir. Ancak düşük gelirli toplumlarda yaşayan insanların Batılı ülkelerdeki belirli demografik kesimleri hedef alan yanıltıcı içerikler üretip bu içerikler üzerinden para kazanması, sık karşılaştığımız bir durum. The Bureau, geçtiğimiz yıl yayınladığı haberinde Birleşik Krallık’taki sosyal medya kullanıcılarını hedef alan aldatıcı içeriklerle $300,000 kazandığını iddia eden Sri Lankalı içerik üreticisi Geeth Sooriyapura’yı mercek altına almıştı. Sooriyapura aynı zamanda “başarısının sırlarını” anlattığı çevrimiçi eğitimler satıyor ve öğrencileriyle birlikte toplamda 1.6 milyon takipçi sayısına ulaşan 128 adet Facebook sayfası ve grubu yönettiği düşünülüyor.
Dezenformasyon üreterek para kazanan sayfaların bu kadar yaygınlaşmasının sebebi platform ekonomisinin kullanıcı dikkatine göbekten bağlı olması. Sansasyonel, polarize edici ve yanıltıcı içerikler gerçek haberlere nazaran hem daha çok etkileşim alma hem de daha hızlı yayılma eğilimi gösteriyorlar. Bu da daha fazla reklam geliri demek oluyor. Kuzey Amerika’da ve Avrupa’da yaşayan kullanıcılardan gelen reklam geliri, dünyanın geri kalanından gelen gelire kıyasla çok daha fazla. Bu yüzden Batı toplumları daha sık hedef hâline geliyor. Sonuç olarak karşımıza çıkan ekosistem, ayrımcılığı körükleyen, nefret ve kutuplaşmadan beslenen “infial ekonomisinin” önemli atardamarlarından birini oluşturuyor.
Üretken yapay zekâyla infial ekosistemine girmek hiç olmadığı kadar kolay
Centre for Emerging Technology and Security’de görev yapan araştırmacı Sam Stockwell, üretken yapay zekânın infial ekosistemine giriş yapmak isteyenlerin önündeki bariyerleri bir bir ortadan kaldırdığını belirtiyor. Artık bir içerik üreticisinin grafik tasarlaması veya içerik fikri üzerine kafa yorması gerekmiyor, hatta içerikleriyle ulaşmayı hedeflediği ülkenin dilini bilmesine dahi gerek yok. The Bureau’nun açığa çıkardığı Pakistanlı içerik üreticisi de İngilizce bilmediğini ifade ediyor. Ürettiği içeriklerin her adımında yapay zekâ kullanıyormuş. Bu ekosistemin bir parçası olmak için gerekli yetkinlikleri benzer içerikler üreten diğer üreticilerin paylaştığı eğitim videolarından öğrenmiş.
AI slop ve kültürel şiddet
Tamamen yapay zekâ kullanılarak üretilen ve “AI slop” olarak adlandırılan içeriklerin bilgi ekosistemine etkisini incelerken gerçekçilik kriterine fazla odaklanmak bize kısıtlı bir analitik çerçeve sunuyor. Çünkü insanların sosyal medyada gördükleri içeriklere inanmaları, etkileşim vermeleri veya bu içerikleri başkalarıyla paylaşmalarının arkasında yatan sebepler içeriğin gerçekçi olup olmamasıyla açıklanamayacak kadar karmaşık. “Ucuz sahtekarlıklar” (cheap fake) olarak adlandırılan, basit montaj teknikleriyle üretilen ve deepfake’lere kıyasla inandırıcılığı zayıf olan içeriklerin gelişen yapay zekâ teknolojisine rağmen hâlâ etkinliğini korumasının sebebi de bundan.
AI slop’un belki de sosyal mecrada yarattığı en büyük zarar, özellikle azınlık grupları hedef alan kültürel şiddeti efektif bir şekilde yeniden üretmesi. Örneğin, The Bureau’nun analizine konu olan hesabın paylaştığı deepfake videolardan birinde cübbe ve sarık giyen bir Keir Starmer avatarı, Müslümanlara karşı aşağılayıcı söylemlerde bulunuyor. Parodik yapısından ötürü inandırıcılığı zayıf olan bu videonun etkisini insanları kandırma potansiyeli üzerinden ölçemeyiz. Bu videonun asıl zararı, Müslümanları kriminalleştiren İslamofobik dili yeniden üretmesi ve göçmen karşıtı propagandayı efektif bir şekilde yayabilmesinde yatıyor.
Sosyal problemler, teknolojinin sağladığı olanaklar
Sosyal medyada paylaşılan ve bilgi kirliliği oluşturan yapay zekâ üretimi içerikleri anlamlandırmaya çalışırken teknolojik belirlenimciliğe düşmemek gerekiyor, çünkü dezenformasyon teknolojik değil sosyal bir problem. Bağlamından koparılmış bir fotoğraf, basitçe montajlanmış bir video, hatta görsel barındırmayan 3-4 cümlelik bir tweet bile gerçekçi bir deepfake videodan daha büyük etki yaratabiliyor.
Tabii ki teknolojinin bu sosyal probleme olan etkisini göz ardı edemeyiz; yeni çıkan teknolojilerin sunduğu olanaklar mevcut problemin etrafında yeni pratiklerin şekillenmesine sebep oluyor. Britain Today hesabının arkasındaki şahsın Birleşik Krallık gündemine yabancı olmasına ve hatta İngilizce dahi bilmemesine rağmen gündemle ilgili kutuplaştırıcı içerikler üretip milyonlarca görüntülenme alabilmesi, yapay zekânın sağladığı bir olanak. Diğer yandan sosyal medya platformlarının sağladığı küresel erişim kolaylığı, etkileşim temelli gelir modeli ve sansasyonel içerikleri ön plana çıkaran algoritmalar bilgi ekosistemindeki mevcut düzensizlikleri mümkün kılan en belirleyici etmenler olarak öne çıkıyorlar. Bu sosyoteknik bütün, hafız bir Müslümanın İslam karşıtı propaganda hesabı yürütmesi gibi çelişkileri de içerisinde barındırabiliyor.
