Gelişen teknoloji ve yapay zeka araçları, kamu güvenliğini artırmak bahanesiyle bireysel hak ve özgürlükler üzerinde ciddi tehditler oluşturmaya başladı. Birleşik Krallık hükümetinin üzerinde çalıştığı "cinayet tahmini" projesi durumun çarpıcı örneklerinden biri. Henüz işlenmemiş suçlar üzerinden insanları "potansiyel katil" olarak fişlemek, toplumsal eşitsizlikleri derinleştirme ve temel hakları ihlal etme riskini de beraberinde getiriyor.
İngiltere hükümeti, kişisel veriler üzerinden insanların gelecekte cinayet işleyip işlemeyeceğini tahmin etmeye çalışan bir sistem geliştiriyor. Resmi adıyla "cinayet tahmin projesi" olarak başlayan ve daha sonra "veri paylaşımı yoluyla risk değerlendirmesini iyileştirme" olarak değiştirilen girişim, algoritmalar kullanarak binlerce insanın bilgilerini analiz etmeyi hedefliyor. Proje, insan hakları savunucuları ve sivil toplum kuruluşları tarafından "ürkütücü" ve "distopik" olarak nitelendiriliyor.
Projenin varlığı, baskı grubu Statewatch tarafından yapılan bir araştırma ve Bilgi Edinme Özgürlüğü talepleri sayesinde ortaya çıktı. Statewatch'un aktardığına göre, yalnızca hüküm giymiş kişilerin değil, aynı zamanda suça karışmamış mağdurların da kişisel verileri projede kullanılıyor. Bu veriler arasında kişinin kendine zarar verme geçmişi, aile içi şiddetle ilgili bilgiler ve polisle ilk temasa geçtikleri yaş gibi son derece hassas detaylar da yer alıyor.
Yetkililer bu iddiaları reddediyor ve yalnızca en az bir mahkumiyeti olan bireylerin verilerinin kullanıldığını savunuyor. Hükümet, projenin şimdilik sadece bir araştırma aşamasında olduğunu belirtse de, eleştirmenler, kullanılan verilerin yapısal ayrımcılığı daha da derinleştireceği konusunda uyarılarda bulunuyor.
Adalet Bakanlığı'nın açıklamasına göre proje, "cinayet işleme riskini artıran suçlu özelliklerini gözden geçirmek" ve "alternatif veri bilimi tekniklerini keşfetmek" amacıyla yürütülüyor. Amaçlarının, ciddi suçları önlemede daha etkili bir risk değerlendirme sistemi geliştirmek olduğunu iddia ediyorlar. Proje, Başbakanlık tarafından, Rishi Sunak döneminde başlatıldı ve çeşitli resmi kaynaklardan, özellikle 2015 öncesi Greater Manchester Polis Teşkilatı'ndan alınan verileri kullanıyor.
İşlenen veriler arasında isim, doğum tarihi, cinsiyet, etnik köken gibi bilgiler ile polis ulusal bilgisayar sisteminde kişilere atanmış kimlik numaraları da bulunuyor. Statewatch’un dikkat çektiği önemli bir nokta, paylaşılan veri kategorilerinin sadece suç kayıtlarından ibaret olmadığı. Mağduriyet bilgileri, sağlık durumu, bağımlılık geçmişi, intihar ve kendine zarar verme eğilimleri, hatta engellilik durumu gibi hassas veriler de sisteme dahil edilmiş durumda.
Statewatch araştırmacısı Sofia Lyall, projeye dair endişelerini şöyle dile getiriyor:
"Adalet Bakanlığı'nın cinayet tahmini sistemi geliştirme çabası, hükümetin sözde suç 'tahmini' sistemleri kurma yönündeki ürkütücü ve distopik eğiliminin en son örneği. Araştırmalar defalarca göstermiştir ki, suç tahmini algoritmaları yapısal ayrımcılığı büyütür. Bu model, kurumsal ırkçılıkla bilinen polis ve İçişleri Bakanlığı'nın verilerini kullanarak, zaten adaletsiz olan sistemi daha da derinleştirecek. Ruh sağlığı, bağımlılık ve engellilik gibi son derece hassas veriler üzerinden insanları potansiyel suçlu olarak sınıflandırmak derin bir insan hakları ihlalidir."
Adalet Bakanlığı yetkilileri ise projeyi savunarak, şu açıklamayı yaptı:
"Bu proje yalnızca araştırma amacıyla yürütülmektedir. Halihazırda Hapishane ve Denetimli Serbestlik Hizmetlerinde kullanılan risk değerlendirme araçlarının, yeni veri kaynaklarının eklenmesiyle iyileştirilip iyileştirilemeyeceği araştırılıyor. Elde edilen bulgular ilerleyen dönemde yayımlanacak."
Hükümet yetkilileri, hapishane ve denetimli serbestlik sisteminde zaten risk değerlendirme araçlarının kullanıldığını, bu çalışmanın ise daha etkili analiz yöntemleri geliştirmeyi hedeflediğini vurguluyor.
"Önleyici adalet" gibi kulağa masum gelen kavramlar, ayrımcılığı pekiştiren, dezavantajlı grupları daha da marjinalleştiren sistemlere dönüşme riskiyle karşı karşıya. Geleceği tahmin etmek için geçmiş travmaları, ruhsal sağlık sorunlarını ya da sosyoekonomik koşulları veri olarak kullanmak, bireyleri potansiyel suçlu olarak damgalamak, adil bir toplumun temellerine zarar verebilir.
