Geçtiğimiz bahar aylarında ABD ordusu içerisinde dolaşıma sokulan ve "halüsinasyon" içeren bir rapor dünyayı yeni bir savaşın eşiğine getirmiş.
CNN’in olayı bilen dört kaynağa dayandırdığı haberine göre rapor, Orta Doğu'da seyir halindeki bir Çin gemisinin bir nükleer silah programında kullanılabilecek parçalar taşıdığını ileri sürüyordu. Bunun üzerine gemiyi durdurmak için hazırlık başladı. Silahlı personel gemiye çıkmaya hazırlanırken askerî uçaklar da havalandı.
Operasyondan hemen önce yapılan ayrıntılı inceleme, iddianın bir özel harekât analistinin kullandığı yapay zekâ sohbet botundan kaynaklandığını ortaya çıkardı. Araç, açık kaynaklı veriler ile gizli sinyal istihbaratını bir araya getirerek geminin yükünü yanlış tanımlamıştı. Analist daha sonra yine yapay zekâ kullanarak bu sonucu standart bir istihbarat raporu biçimine sokmuş ve kurum içinde dolaşıma açmıştı.
CNN’e konuşan bir kaynak raporu “tamamen yanlış” diye nitelerken, olay için “neredeyse bir savaş başlatıyordu” dedi. Kullanılan aracın ticari bir ürün mü yoksa ABD hükümetine ait bir sistem mi olduğu ise açıklanmadı. Geminin gerçekte ne taşıdığı da bilinmiyor. Pentagon ve ABD Özel Harekât Komutanlığı Pasifik birimi CNN’in yorum talebine yanıt vermedi. Dolayısıyla olayın ayrıntıları henüz resmî makamlarca doğrulanmış değil.
Vaka, yapay zekânın yalnızca yanlış sonuç üretmesinin değil, bu sonucu kurumsal olarak güvenilir görünen bir belgeye dönüştürmesinin de riskini gösteriyor. ABD ordusu ve istihbarat kurumlarının farklı yapay zekâ sistemlerini farklı güvenlik ve doğrulama standartlarıyla kullandığı belirtiliyor. Ortak ve zorunlu bir doğrulama mekanizması ise bulunmuyor.
Buradaki sorun “insanın karar sürecinden tamamen çıkarılması” değil. İnsan denetimi sonunda yanlışlığı yakaladı fakat ancak silahlı birlikler harekete geçirildikten sonra. Yüksek riskli askeri kararlarda insan onayının tek başına yeterli olmadığı, kaynakların izlenebilmesi, bağımsız çapraz kontrol ve yapay zekâ kullanımının açıkça işaretlenmesi gerektiği görülüyor.
