AI Forensics, X üzerinde Grok’un görsel üretim/düzenleme kabiliyetinin “nudification” (kıyafetleri dijital olarak kaldırma/kişiyi daha çıplak göstermeye zorlama) amacıyla kullanıldığına dair ilk geniş ölçekli nicel çalışmasını yayımladığını duyurdu. Kurum, bunun tekil örnekler değil, tekrarlayan ve ölçülebilir bir örüntü olduğunu savunuyor.
Bu bulgu iki nedenle kritik: Birincisi, üretken yapay zekânın taciz ve hedef gösterme gibi çevrimiçi şiddet biçimlerini ölçeklendirme riski. İkincisi, incelemenin çocuklara ilişkin risklere ve aşırılıkçı içerik üretimine dair işaretler içermesi.
20 bin görüntü, 50 bin istek incelendi
AI Forensics, Grok tarafından üretilmiş 20 binden fazla görüntüyü ve kullanıcılar tarafından yapılmış 50 binden fazla isteği analiz ettiğini bildiriyor. Paylaşımda, elde edilen sonuçların “büyüyen bir fenomenin” ilk büyük ölçekli nicel analizi olduğu belirtiliyor.
Bu örneklemde üretilen görsellerin %53’ünün “asgari ölçüede kıyafetli” kişiler içerdiği; bu kişilerin %81’inin kadın olarak ifade edilebileceği belirtiliyor. Kurum ayrıca görsellerin %2’sinde 18 yaş altı gibi görünen kişilerin yer aldığını (Google’ın Gemini sınıflandırmasına dayanarak) ve görsellerin %6’sında kamuya mal olmuş kişiler bulunduğunu aktarıyor.
Raporun bir diğer dikkat çeken iddiası ise Grok’un Nazi ve IŞİD propagandası niteliğinde içerikler üretebildiği. AI Forensics, bu tür materyallerin bazı ülkelerde dağıtımının sıkı biçimde düzenlendiğini hatırlatıyor.
Yasal sorumluluklar tartışılmalı
Haberler, Fransa’da milletvekilleri Éric Bothorel ve Arthur Delaporte’un Grok kaynaklı deepfake/çıplaklaştırma içerikleri nedeniyle şikâyette bulunduğunu belirtti.
AB cephesinde Avrupa Komisyonu’nun dijital işler sözcüsü Thomas Regnier, çocuk benzeri cinsel içeriklerin ve çıplaklaştırma istismarının gündeme gelmesi üzerine bunun yasa dışı olduğunu vurgulayarak konuyu çok ciddi biçimde incelediklerini söyledi.
En çok zarar görenler kadınlar ve çocuklar
Bu teknolojilerin maliyeti, ağırlıkla kadınların ve kız çocuklarının üzerinde birikiyor: itibar kaybı, psikolojik zarar, şantaj riski ve çevrim içi tacizin normalleşmesi.
Buradaki temel ihlal, rıza (consent) ve zarar vermeme (non-maleficence) ilkeleri. “Çıplaklaştırma” türü üretimler, mağdurun iradesi dışında cinselleştirilmesine dayanıyor; çocuk benzeri içerik iddiaları ise güvenlik çıtasını en üst seviyeye çıkarıyor. Aynı zamanda şeffaflık ve hesap verebilirlik sorunu var: içerik üretiminde modelin sınırları, denetimin kapsamı ve ihlallerde sorumluluğun kimde olduğu netleşmeden, zarar zinciri kırılmıyor.
