Otomatik Karar Güvenceleri

Otomatik karar ile karar desteği arasındaki fark nedir?

Karar desteğinde sistem bilgi, risk puanı veya öneri üretir; hukuki kararı yetkili kişi verir. Tam otomatik kararda ise sistemin çıktısı doğrudan kişinin durumunu belirler. Bu ayrım anayasal açıdan önemlidir çünkü otomasyon arttıkça hatanın fark edilmeden kitlesel ölçekte tekrarlanma riski büyür. Madde 20 bu nedenle hiç kimsenin denetlenemeyen otomatik kararla temel hak, hizmet veya yargı yoluna erişimde dezavantajlı duruma düşürülemeyeceğini açıkça belirtir.

İnsan incelemesi gerçek olmalı mı?

Sistemin sonucunu ekranda görüp hiçbir değerlendirme yapmadan onaylayan kişi gerçek insan denetimi sağlamaz. Etkili inceleme için görevlinin ilgili veriye erişebilmesi, sistemin hangi ölçütle sonuca ulaştığını anlayabilmesi, istisnai durumu değerlendirebilmesi ve gerektiğinde sonucu değiştirme yetkisine sahip olması gerekir. Kurum performansı da memurun algoritmaya ne kadar sık uyduğuyla değil, kararların hukuka ve maddi gerçeğe uygunluğuyla ölçülmelidir.

Gerekçeli karar otomatik sistemde nasıl sağlanır?

Vatandaş yalnız “başvurunuz uygun bulunmamıştır” çıktısıyla karşılaşmamalıdır. Kararın dayandığı hukuki ölçüt, önemli olgular ve sistemin etkili olduğu temel değerlendirme anlaşılır biçimde açıklanmalıdır. Teknik modelin bütün ayrıntısını sunmak gerekmese de kişinin hatalı veriyi veya yanlış uygulanan ölçütü tespit edebileceği kadar bilgi verilmelidir. Aksi hâlde itiraz hakkı kâğıt üzerinde kalır.

Veri hatası kararın sonucunu nasıl etkiler?

Otomatik sistem doğru model kullansa bile yanlış, eski veya başka kişiye ait veriyle yanlış sonuç üretebilir. Bu nedenle veri kaynağı, güncellik ve eşleştirme güvenilirliği karar güvencesinin parçasıdır. Vatandaş kendi verisine erişebilmeli, hatalı kaydı düzeltebilmeli ve düzeltmenin karara yeniden uygulanmasını isteyebilmelidir. Kurumlar da veri değişikliklerinin kim tarafından, ne zaman ve hangi gerekçeyle yapıldığını kayda almalıdır.

Yüksek riskli kararlar neden daha sıkı korunmalıdır?

Her otomasyon aynı ağırlıkta değildir. Bir randevu saatinin önerilmesiyle sosyal yardımın kesilmesi, güvenlik risk puanı verilmesi veya yargı yoluna erişimin etkilenmesi aynı kategoride görülemez. Hak ve özgürlük üzerindeki etki arttıkça ön test, insan denetimi, açıklama, bağımsız inceleme ve kayıt yükümlülüğü de güçlenmelidir. Bazı karar türlerinde tam otomasyonun hiç kullanılmaması anayasal olarak gerekli olabilir.

İtiraz hakkı nasıl etkili hâle gelir?

İtiraz, aynı algoritmanın aynı veriyi tekrar çalıştırması değildir. Kişi yeni bilgi sunabilmeli, verinin yanlışlığını gösterebilmeli ve bağımsız bir insan incelemesi isteyebilmelidir. İtiraz süresi, başvuru kanalı ve karar mercii açık olmalı; otomatik kararın ağır ve geri dönülmez sonuç doğurduğu durumlarda inceleme tamamlanana kadar geçici koruma sağlanabilmelidir. Yargı yolu da teknik karmaşıklık nedeniyle fiilen erişilemez hâle gelmemelidir.

Ayrımcılık nasıl görünür hâle getirilir?

Tek tek kararlar makul görünse bile sistem belirli grupları sistematik olarak daha olumsuz etkileyebilir. Bu nedenle yalnız bireysel şikâyet beklemek yeterli değildir. Kurum, anonimleştirilmiş performans verileriyle farklı gruplardaki hata ve ret oranlarını incelemeli, ölçüsüz farklılıkları araştırmalıdır. Ancak bu denetim yapılırken yeni bir hassas veri havuzu ve genel gözetim sistemi yaratılmamalıdır.

Kayıt düzeni neden önemlidir?

Bir otomatik kararın aylar sonra denetlenebilmesi için hangi model sürümünün, hangi veriyle, hangi tarihte ve hangi kuralla çalıştığının bilinmesi gerekir. Güncelleme geçmişi, insan müdahalesi ve itiraz sonucu kayda alınmalıdır. Bu kayıtlar hem vatandaşın hakkını hem kamu görevlisinin sorumluluğunu korur. Denetlenebilirlik, sonradan yalnız ekran görüntüsü aramak değil, karar zincirini güvenilir biçimde yeniden kurabilmektir.

Otomasyon ne zaman durdurulmalıdır?

Sistem beklenmeyen hata üretiyor, ayrımcı etki gösteriyor, veri kaynağı güvenilmez hâle geliyor veya açıklanabilirliği kayboluyorsa kurum kullanımını sürdürmek zorunda değildir. Geçici durdurma, manuel sürece dönüş ve yeniden doğrulama planı önceden belirlenmelidir. Teknoloji yatırımı yapılmış olması hatalı sistemi devam ettirme gerekçesi olamaz. Kamu yararı, aracın korunmasından değil hukuka uygun hizmetin sürmesinden ibarettir.

Toplu hata fark edildiğinde ne yapılmalıdır?

Otomatik sistemde aynı yazılım binlerce kişiye aynı kuralı uygular; bu nedenle tek bir tasarım hatası geniş ölçekli hak kaybı yaratabilir. Kurum sistemik hata tespit ettiğinde yalnız şikâyet eden kişinin dosyasını düzeltmekle yetinmemelidir. Etkilenen karar kümesini belirlemeli, benzer dosyaları yeniden incelemeli, gerekiyorsa kişilere kendiliğinden bildirim yapmalı ve hak kaybını telafi etmelidir. Otomasyonun ölçeği, düzeltmenin de ölçekli olmasını gerektirir.

Acil durdurma mekanizması neden gereklidir?

Kritik hata, güvenlik olayı veya beklenmeyen ayrımcı etki ortaya çıktığında sistemi hemen manuel sürece döndürebilecek yetkili ve teknik mekanizma bulunmalıdır. “Sözleşme izin vermiyor” veya “sistem kapatılamıyor” gerekçesi kamu hizmetini hukuka aykırı biçimde sürdürmenin mazereti olamaz. Durdurma sonrasında hangi kararların etkilendiği, hangi dönemin yeniden inceleneceği ve hizmetin nasıl kesintisiz sürdürüleceği önceden hazırlanmış olay planında gösterilmelidir.

Otomatik kararın kapsamı vatandaşa açık olmalı mı?

Kurum, hangi işlemlerin bütünüyle otomatik, hangilerinin yalnız karar destekli olduğunu açık biçimde tanımlamalıdır. Vatandaş aynı hizmet içinde işlemin hangi aşamasında insan değerlendirmesi bulunduğunu bilmeli; yüksek etkili süreçlerde manuel inceleme talep edebilmelidir. Bu açıklık aynı zamanda kurumun sorumluluk zincirini belirginleştirir. Otomasyonun kapsamı belirsiz bırakılırsa hata olduğunda kararın kime ait olduğu da belirsizleşir; anayasal güvence tam da bu görünmez sorumluluk boşluğunu önlemeyi amaçlar.