The Guardian yazarı Arwa Mahdawi, OpenAI destekli “Grem” adlı yapay zekâ oyuncağıyla kızının bir hafta süren deneyimini kaleme aldı. Sevgi dolu cümleler kuran oyuncak kısa sürede çocuğun ilgisini çekti, ancak aile için huzursuz edici bir deneyime dönüştü.
Grem, müzisyen Grimes’in (Claire Boucher) ortak olduğu Curio şirketi tarafından geliştirilen, OpenAI teknolojisiyle çalışan tüylü bir oyuncak. 3 yaş üstü çocuklara yönelik tasarlanan ürün, onların kişiliğini “öğreniyor” ve sohbet ediyor. Şirket, bu oyuncağı ekran bağımlılığına alternatif, eğitici bir araç olarak tanıtıyor. Oyuncağın fiyatı ise 100 dolar.
Çocuk hızlıca bağ kurdu
Arwa Mahdawi’nin dört yaşındaki kızı Emma, oyuncağa önce mesafeli yaklaşsa da kısa sürede bağ kurdu. Grem, hiçbir tartışmalı konuya girmiyor; siyaset sorularında konuyu hızla “eğlenceli” alanlara çekiyor, örneğin Trump sorulduğunda “Haydi daha eğlenceli şeylerden konuşalım!” diyerek yanıt veriyor. Günün sonunda Emma, Grem ile saatlerce sohbet eder hale geldi.
Her şey kaydediliyor
Grem’in dikkat çeken yönlerinden biri, yapılan tüm konuşmaların bir uygulama aracılığıyla kaydedilip üçüncü taraflarca metne dökülmesi. Bu durum, oyuncağın güvenlik ve mahremiyet boyutunu tartışmalı hale getiriyor. Aile için en rahatsız edici noktalardan biri de bu oldu: hem çocuğun hızlı duygusal bağlanışı hem de her sözün kayıt altına alınması.
Mahdawi’nin deneyimi, çocuklara yönelik yapay zekâ ürünlerinin ne kadar sağlıklı olduğu sorusunu gündeme getiriyor. Çocukların hayal gücünü ve iletişim becerisini destekleyebilecek potansiyele rağmen, sürekli onaylayan ve arkadaş gibi davranan bir yapay zekâ oyuncağın sosyal gelişim üzerindeki uzun vadeli etkileri hâlâ belirsiz.
Yapay Gündem yorumu
Arwa Mahdawi’nin kaleme aldığı bu kişisel deneyim, yapay zekâ oyuncakların cazibesini ve risklerini somut biçimde ortaya koyuyor. Etik açıdan en kritik noktalar mahremiyet ve çocukların korunması. Çocuğun her cümlesinin kaydedilmesi veri güvenliği sorunu yaratırken, yapay zekâya erken yaşta bağımlılık geliştirmek sosyal ve duygusal gelişimi sekteye uğratabilir. Türkiye ve Avrupa’da çocukların çevrimiçi ortamda korunmasına yönelik yasalar mevcut olsa da, bu yeni nesil oyuncaklar için ek düzenlemeler aciliyet kazanıyor.
