İspanya Yüksek Mahkemesi, sosyal yardım hakkını belirleyen BOSCO yazılımının kaynak kodunun kamuya açıklanmasına hükmetti. Karar, algoritmik şeffaflığı anayasal bir hak olarak tanımlayarak emsal oluşturdu.
Yedi yıllık hukuk mücadelesi
Şeffaflık odaklı sivil toplum kuruluşu Civio, 2018’den bu yana BOSCO adlı yazılımın kaynak kodunun paylaşılması için mücadele ediyordu. BOSCO, kimin sosyal yardım alacağını otomatik olarak belirleyen bir algoritma. İlk derece mahkemeleri ve Ulusal Yüksek Mahkeme, “ulusal güvenlik” ve “fikri mülkiyet” gerekçeleriyle talepleri reddetmişti. Ancak Yüksek Mahkeme, 18 Eylül 2025’te verdiği kararla bu gerekçeleri yetersiz buldu ve Civio’nun talebini kabul etti.
“Şeffaflık demokratik bir hak”
Mahkeme, kamu kurumlarının vatandaşları doğrudan etkileyen algoritmaların nasıl çalıştığını anlaşılır bir biçimde açıklamakla yükümlü olduğunu belirtti. Kaynak koduna erişimin, yalnızca teknik bir talep değil, demokratik denetimin temel bir parçası olduğunu vurguladı. Kararda şu ifadeye yer verildi:
“Algoritma veya kaynak kodunun gizlenmesi, demokratik hukuk devletiyle bağdaşmaz.”
Hükümet, kaynak kodunun açıklanmasının güvenlik açıkları yaratabileceğini ve fikri mülkiyet haklarını ihlal edebileceğini savunmuştu. Ancak mahkeme, bu gerekçeleri “varsayımsal ve belirsiz” buldu. Kaynak kodunun kamuya açılmasının, güvenliği zayıflatmak yerine artırabileceği; bağımsız uzmanların hataları tespit edip düzeltebileceği vurgulandı.
Mahkeme ayrıca, BOSCO’nun yalnızca “destekleyici” değil, bağlayıcı kararlar verdiğine dikkat çekti. Bir algoritma hatası, binlerce kişinin yardım hakkını kaybetmesine yol açabilir.
Dijital demokrasi için önemli karar
Karar, yalnızca BOSCO ile sınırlı değil. Bundan sonra tüm kamu kurumları, vatandaşların hak ve menfaatlerini etkileyen algoritmaların nasıl işlediğini açıklamakla yükümlü olacak. Yüksek Mahkeme, bunun dijital demokrasinin gereği olduğunu belirtti.
Yapay Gündem topluluğundan Ayşegül Güzel’in yorumu
"Bu, algoritmik hesap verebilirlik için dev bir adım.
Karar, kamu kararlarını şekillendiren algoritmalarda şeffaflığın anayasal bir hak olduğunu ortaya koyarak güçlü bir emsal teşkil ediyor. Mahkeme, ulusal güvenlik ya da fikri mülkiyet gerekçelerinin genel bir gizlilik kalkanı olarak kullanılamayacağını açıkça reddetti.
Bu neden önemli? AB genelinde hükümetler, vatandaşların hayatını doğrudan etkileyen kritik kararları giderek daha fazla algoritmalarla alıyor. AB’nin Yapay Zekâ Yasası bu sistemler için risk temelli bir çerçeve oluşturmayı hedefliyor; özellikle kamu sektöründe kullanılan yüksek riskli uygulamalara daha sıkı yükümlülükler getiriyor. Ancak özellikle kolluk kuvvetleri ve göç politikaları gibi alanlarda boşlukların kötüye kullanılabileceğine dair endişeler var.
Yıllardır araştırmacı gazeteciler bu “kara kutu” sistemleri aydınlatmaya çalışıyor; ancak hükümetler çoğunlukla kodlara veya kullanılan modellerin detaylarına erişimi reddediyordu. Bu şeffaflık eksikliği, önyargı ve hataları incelemeyi neredeyse imkânsız hale getiriyor.
İspanya Yüksek Mahkemesi’nin kararı bu gizlilik kültürüne doğrudan meydan okuyor. Mahkeme, bir algoritmanın verdiği kararların otomatik olması ve binlerce kişiyi aynı anda etkileyebilmesi nedeniyle nasıl çalıştığının kamuoyunca bilinmesinin “olağanüstü önem taşıdığını” kabul etti.
Bu dava, Avrupa genelinde benzer mücadelelerin önünü açabilir ve hükümetlerin teknolojiyle vatandaşları hakkında aldığı kararlarda daha fazla şeffaflık ve hesap verebilirlik için baskıyı artırabilir. ”
