Hint haber sunucusu Pooja Shali, Instagram'da kendi sunduğu ama aslında hiç sunmadığı bir haberle karşılaştı. Sunucuların kimliğini kopyalayan “deepfake” videolar, küresel bir dolandırıcılık ağına dönüşüyor.
Küresel simülasyon ağı
Mayıs 2024’te Hindistan'da sunuculuk yapan Pooja Shali, Instagram’da gezinirken beklemediği bir görüntüyle karşılaştı: Nieman Lab tarafından detaylandırılan olaya göre kendisi, bir borsa uygulamasının reklamını yapıyordu. Videodaki "yapay" Shali, Hindistan’ın en zengin adamının bu uygulama sayesinde kendisine 3 milyar dolar yatırım yaptığını iddia ediyordu.
Ancak Shali, hayatında bu uygulamayı hiç duymamıştı. Karşısındaki görüntü, yüzlerce saatlik yayın kayıtlarından beslenen yapay zeka modelleriyle üretilmiş bir "deepfake" videoydu. Shali, videonun sahte olduğunu, takipçilerinin bu habere inanmaması gerektiğini duyurmak zorunda kaldı.
Dolandırıcılık küreselleşiyor
Ne yazık ki Shali’nin yaşadığı bu durum münferit değil. Dolandırıcılar, sosyal medyada yüzlerce saatlik yüksek kaliteli görüntüleri olan haber sunucularını özellikle hedef alıyor. İngiltere, Kanada, Danimarka, Rusya, Peru ve Filipinler gibi birçok ülkede sunucuların yüzleri; kripto para şemaları, şüpheli yatırım grupları ve kumar uygulamalarını tanıtmak için kullanılıyor.
Vakalar %2000 arttı
Women Press Freedom adlı sivil toplum kuruluşunun verileri, tehlikenin boyutunu gözler önüne seriyor. 2023 yılında sadece 7 vaka tespit edilirken, bu sayı 2024’te 20’ye, 2025 projeksiyonlarında ise 150’den fazla vakaya ulaştı. Bu da %2000'in üzerinde bir artış anlamına geliyor.
Bu teknoloji sadece finansal dolandırıcılık için değil, kadın gazetecileri hedef alan pornografik içerikler üretmek, çevre politikalarını sabote eden dezenformasyon yaymak ve siyasi propaganda yapmak için de kullanılıyor.
Platformlar önlem almakta zorlanıyor
Platformların bu içeriklerle mücadelesi ise yetersiz kalıyor. Mart ayında Financial Times’ın baş ekonomi yorumcusu Martin Wolf, kendi yüzünün kullanıldığı ve insanları şüpheli bir WhatsApp grubuna yönlendiren deepfake videolarla mücadele etti. Wolf, Meta’nın siber güvenlik ekipleriyle doğrudan iletişime geçmesine rağmen, videolar haftalarca yayında kalmaya devam etti.
Wolf, reklamları kaldırmak için Meta’yı altı hafta boyunca zorlamak durumunda kaldı. Bu süreçte Wolf’un görüntüsünü kullanan 1700’den fazla reklam tespit edildi ve bu içerikler Avrupa genelinde 970 bin kullanıcıya ulaştı. Videolar, ancak Wolf konuyu köşesine taşıyıp kamuoyu oluşturduğunda tamamen temizlenebildi.
Tech Transparency Project'in raporuna göre, bu yıl sadece 63 reklamveren, siyasi figürlerin deepfake'lerini de içeren 150 binden fazla aldatıcı reklam için 49 milyon dolar harcadı. Bu rakamlar, dolandırıcıların Meta'nın en büyük müşterileri arasına girdiğini gösteriyor.
Yapay Gündem ne diyor?
Platformların güvenlik önlemlerini azalttığı bu dönemde, deepfake tehdidi gazeteciliğin güvenilirliğini sarsıyor. Halihazırda basın özgürlüğü kapsamında haklarıyla sürekli mücadele halinde olan gazeteciler, bu videolar ile kendilerini büyük bir tehdit altında hissediyor.
2022'de X (Twitter) güvenlik ekiplerinin çoğunu işten çıkarırken, Meta da bu yılın başında ABD sınırları içerisinde üçüncü taraf doğruluk kontrolü programını sonlandırdı.
Eskiden Women Press Freedom gibi sivil toplum kuruluşlarının platformlarla doğrudan iletişim kanalları varken, bugün bu "acil durum hatları" neredeyse tamamen kopmuş durumda.
Gazeteciler ve kamuoyu figürleri, kendi yüzlerini ve itibarlarını korumak için teknolojinin hızı karşısında giderek daha savunmasız kalıyor.
