Google’ın yeni tanıttığı yapay zekâ destekli alışveriş aracı “Try It On”, ilk bakışta dijital dünyada kıyafet denemeyi kolaylaştıran eğlenceli bir yenilik gibi görünebilir. Ancak, araç sadece giydirmiyor, aynı zamanda kişilerin vücutlarını yapay şekilde yeniden şekillendiriyor. Daha da endişe verici olan nokta ise, bu teknolojinin çocuklar üzerinde de rahatça çalışması ve istismara açık görüntüler üretebilmesi.
Google, geçtiğimiz haftalarda düzenlediği yıllık yazılım konferansında “Try It On” adlı yeni yapay zekâ aracını tanıttı. Kullanıcılar, bu aracı kullanarak kendi fotoğraflarını yükleyip kıyafetlerin üzerlerinde nasıl durduğunu görebiliyor. Bu aracı denemek için bazı tanınmış kişilerin (J. D. Vance, Sam Altman, Abraham Lincoln, Michelangelo’nun Davut heykeli ve Papa XIV. Leo gibi) görselleri yüklendi ve çeşitli kıyafetler denetildi. Erkeklere özel takım elbiseler ya da keten gömleklerde her şey oldukça sıradandı. Ancak kadın kıyafetleri denenmeye başlandığında işler hızla değişti.
Kadın beden algısını çarpıtan yapay zekâ teknolojisi
Yapay zekâ, düşük yakalı bluzlar, file üstler ya da basit tişörtler giydirildiğinde bu erkek figürlerin bedenlerini değiştirdi. Göğüs ekledi, kadınsı vücut hatları oluşturdu ve ortaya çıkan görüntüler kimi zaman erotik bir hal aldı. Aynı durum kadın görselleri için de geçerliydi. Orijinal fotoğraflarda görünmeyen göğüsler ekleniyor, dekolte derinleştiriliyor ve hatta iç çamaşırları belirginleştiriliyordu.
Angela Merkel’in kırmızı ceketli bir fotoğrafını yükleyip neredeyse transparan bir file üst denetildiğinde, Google yapay zekâsı kendiliğinden siyah sütyen giymiş, göğüsleri belirgin şekilde görünen bir versiyon oluşturdu. Bu tür sonuçlar, aracın yalnızca kıyafeti kişiye oturtmakla kalmadığını, aynı zamanda vücutları da Google’ın alışveriş veritabanındaki modellerin “ideal” ölçülerine göre yeniden şekillendirdiğini gösteriyor.
Çocuklara da uygulanabiliyor
Deneylerin en ürkütücü kısmı ise çocukluk fotoğraflarında yaşandı. Yazarlar, 18 yaş öncesine ait kendi fotoğraflarını yükleyerek aracı test etti. Kadın yazar, 16 yaşındayken çekilen bir fotoğrafıyla Spicy Lingerie markasına ait bir kıyafeti denedi. Google, bu fotoğrafta genç kızın üzerine yapay göğüsler ekledi, bacak hizasında incecik bir mini etek ve sutyen benzeri bir üst giydirdi. Ayrıca vücuduna göbek piercingi bile yerleştirdi.
Erkek yazar ise 14 yaşındaki bir fotoğrafıyla deneme yaptığında yine benzer şekilde, vücudu yapay olarak şekillendirilmiş, yalnızca sütyen benzeri bir üstle kapatılmış ve belirgin göğüslere sahip bir görüntü üretildi.
Google, bazı koruma önlemleri aldığını söylüyor. “Try It On” aracı, yalnızca ABD’de ve “Search Labs” üzerinden kullanılabiliyor. Ayrıca bazı ünlü kişilere (örneğin Donald Trump veya Kamala Harris) ve okul çağındaki küçük çocuklara ait görsellerde sistemi devre dışı bırakıyor. Yine de mevcut korumaların ciddi açıkları var.
Yapay zekâ, kullanıcıya kolaylık sağlamak yerine kişisel mahremiyeti ihlal eden, hatta çocukları hedef alabilecek bir araca dönüşebilir. Kıyafet denemek gibi masum görünen bir işlem, çok kısa sürede etik sınırların dışına taşabiliyor. Google’ın bu konuda yalnızca “deneyim geliştirmeye devam edeceğiz” demesi yeterli değil. Etkili ve şeffaf denetimlere ihtiyaç var. Aksi takdirde, uygulamlar yalnızca güvenlik açığı değil, etik bir kriz kaynağı hâline gelecek.
