Facebook’ta milyonlarca kez izlenen videolarda, gerçekte var olmayan asker ve polisler siyasi vaatlerde bulunuyor. Bu örnek, yapay zekâyla dezenformasyon üretmek için tanınmış birinin yüzünü taklit etmenin gerekmediğini gösteriyor. Bazen bir üniforma yeterli.

Ekranda üniformalı bir kişi beliriyor ve ülkenin siyasi geleceği hakkında güvenle konuşuyor. İzleyiciye, bir kamu görevlisinin açıklamasını dinlediği izlenimi veriliyor. Oysa konuşan kişi gerçekte yok, temsil ediyor gibi göründüğü kurum adına açıklama yapma yetkisi de bulunmuyor. Doğal olarak...

Bangladeş’te yayımlanan The Daily Star’ın 12 Kasım tarihli araştırması, yapay zekâyla oluşturulmuş asker ve polis karakterlerinin siyasi mesajlar yaymak için kullanıldığını ortaya koydu. Gazetenin ekim ayından itibaren topladığı 84 Facebook paylaşımı, toplam 11,8 milyondan fazla görüntülenmeye ulaştı.

Hayali görevliler, gerçek siyasi mesajlar

İncelenen paylaşımların 61’i eski başbakan Şeyh Hasina’nın ülkeye dönüşüyle ilgili anlatıları desteklerken, 11’i ordunun yönetime el koyabileceğini öne sürüyordu. Bazı videolarda kurmaca görevliler doğrudan kameraya konuşuyor, bazılarında ise yurttaşlarla sahnelenmiş diyaloglara giriyordu.

The Daily Star, incelenen videolarda görünür bir yapay zekâ etiketi bulunmadığını bildirdi. Bangladeş polisi de yapay zekâyla üretilen, polis üniforması taşıyan kişilerin açıklamalarının kurumun resmi görüşünü yansıtmadığını duyurdu. Ordunun iletişim birimi ise gazetenin yorum talebine yanıt vermedi.

Görüntülenme sayısı, bu mesajlara kaç kişinin inandığını ya da siyasi tutumunun değiştiğini göstermiyor. Ancak içeriklerin dolaşımının boyutunu ortaya koyuyor.

Taklit edilen yalnızca bir yüz değil, kurumsal otorite

Bu örneği önemli kılan, dezenformasyonun tanınmış bir kişinin kimliğine ihtiyaç duymaması. Yapay zekâyla üretilen yanıltıcı videoları çoğunlukla bir siyasetçinin söylemediği sözleri söylüyormuş gibi gösterilmesi üzerinden tartışıyoruz. Burada ise sıfırdan oluşturulan bir karakter, üniforması ve konuşma biçimi aracılığıyla bir kurumun otoritesini sahipleniyor.

Bu nedenle doğrulama sorusu yalnızca “Bu kişi gerçek mi?” olamaz. “Bu açıklama kurumun kendi kanallarında yer alıyor mu?” ve “Bu kişinin kurum adına konuşma yetkisi var mı?” soruları da aynı derecede önemli. Görüntünün inandırıcı olması, açıklamanın resmi olduğu anlamına gelmiyor. Ancak sıradan bir kullanıcı için bu oldukça tehlikeli ve kafa karıştırıcı bir hal alabilir.

Etiketin ötesinde bir platform sorumluluğu

Bir içeriğin yapay zekâyla üretildiğini belirtmek, izleyicinin onu değerlendirmesine yardımcı olabilir. Fakat üretim yöntemini açıklamak, içeriğin yarattığı bütün yanıltıcı izlenimleri ortadan kaldırmaz. Yapay bir karakter de gerçek bir kurum adına konuşuyormuş gibi sunulabilir.

Platformların değerlendirmesi bu yüzden görüntünün nasıl üretildiğinin yanında nasıl sunulduğunu da kapsamalı. Paylaşım, kurmaca olduğunu açıkça gösteriyor olmalı. Bir kamu kurumunun açıklaması izlenimi yaratmamalı. Hesabın kimliği ve paylaşımın bağlamı, bu izlenimi güçlendiriyorsa bunun önüne geçilmeli.

Bangladeş örneği, medya okuryazarlığı çalışmalarında da odağı genişletmek gerektiğini düşündürüyor. Parmaklara, dudak hareketlerine veya görüntü hatalarına bakmak tek başına yeterli değil. Açıklamanın kaynağını, yayımlandığı hesabı ve başka kanallardan doğrulanıp doğrulanamadığını araştırmak gerekiyor. Çünkü burada sorgulanması gereken, görüntünün gerçekliği kadar bize sunulan otoritenin gerçekliği.

Kaynak: Bu yazı, Abir Ayon’un The Daily Star’da yayımlanan yapay zekâyla üretilmiş asker ve polis videolarına ilişkin araştırmasına dayanıyor. Kurumsal otorite, platform sorumluluğu ve medya okuryazarlığına ilişkin değerlendirmeler Yapay Gündem’in yorumudur.

Bağlantı kopyalandı!