Yapay Zekâ Denetimi

Yapay zekâ neden yalnız satın alınırken denetlenmez?

Model ilk kurulduğunda başarılı olabilir fakat veri, mevzuat, kullanıcı davranışı veya yazılım sürümü değiştikçe performansı bozulabilir. Bu nedenle tek seferlik kabul testi yeterli değildir. Madde 20 yapay zekâ sistemlerini etki analizi ve denetlenebilir kayıt düzenine tabi tutar. Denetim sistemin bütün yaşam döngüsünü kapsamalı; devreye alma, güncelleme, performans izleme, olay yönetimi ve kullanım sonlandırma aşamalarında devam etmelidir.

Etki analizi neyi sormalıdır?

Etki analizi “sistem faydalı mı?” sorusundan daha geniştir. Hangi kamu görevinde kullanılacağı, kimleri etkileyeceği, hangi veriye dayandığı, yanlış kararın sonucu, ayrımcılık riski, insan denetiminin nasıl işleyeceği ve daha az müdahaleci bir yöntemin bulunup bulunmadığı değerlendirilmelidir. Yüksek riskli kullanımda pilot çalışma ve bağımsız değerlendirme yapılmadan geniş ölçekli kullanıma geçilmemesi güvenliği artırır.

Bağımsız denetim ne anlama gelir?

Sistemi geliştiren birimin kendi modelini test etmesi gereklidir ama tek başına yeterli değildir. Denetleyenin karar süreçlerinden belirli ölçüde bağımsız olması, teknik belgeye ve gerekli kayıtlara erişebilmesi gerekir. Bağımsızlık kurum dışı özel şirket kullanmak anlamına gelmeyebilir; kurum içi ayrı denetim fonksiyonu, merkezî uzmanlık birimi, Sayıştay veya yargısal inceleme gibi farklı katmanlar birbirini tamamlayabilir.

Hangi performans göstergeleri izlenmelidir?

Genel doğruluk oranı çoğu zaman yanıltıcıdır. Denetim yanlış olumlu ve yanlış olumsuz sonuçları, farklı gruplardaki hata oranlarını, itiraz sonucunda değişen kararları, insan müdahalesi sıklığını ve sistemin açıklama üretme başarısını izlemelidir. Kamu hizmetinde önemli olan yalnız modelin istatistiksel performansı değil, hukuken doğru ve adil sonuç üretmesidir.

Model güncellemesi neden yeni risk yaratır?

Özel sağlayıcılar modellerini sık sık güncelleyebilir; kendi geliştiren kurum da veri veya parametre değiştirebilir. Küçük görünen bir sürüm değişikliği karar davranışını önemli ölçüde etkileyebilir. Bu nedenle hangi değişikliklerin yeniden test gerektirdiği önceden belirlenmeli, sürüm kayıtları tutulmalı ve kritik değişikliklerde etki analizi yenilenmelidir. “Aynı ürün adı” altında farklı model davranışının sessizce devreye girmesi engellenmelidir.

Denetim ticari sırla nasıl dengelenir?

Bir sağlayıcının fikrî mülkiyet hakkı korunabilir; fakat kamu gücü kullanan sistem denetlenemez bir kara kutuya dönüşemez. Kurum sözleşme aşamasında denetim, test, olay bildirimi ve gerekli teknik bilgiye erişim haklarını güvenceye almalıdır. Kamuya açıklanması gerekmeyen ayrıntılar yetkili denetçiye gizlilik altında sunulabilir. Ticari sır, vatandaşın hak etkileyen karar karşısında hiçbir açıklama alamamasının gerekçesi olamaz.

Şikâyetler denetim verisine nasıl dönüşür?

Bireysel itiraz yalnız tek bir kararın düzeltilmesi için değil, sistemik hatanın erken uyarısı için de değerlidir. Benzer şikâyetlerin kümelenmesi, belirli veri kaynağında veya kullanıcı grubunda sorun olduğunu gösterebilir. Denetim birimi itiraz sonuçlarını, iptal edilen kararları ve tekrar eden hata nedenlerini analiz etmeli; gerekli hâlde modelin kullanım kapsamını daraltmalı veya sistemi geçici olarak durdurmalıdır.

Yapay zekâ denetiminde siber güvenlik neden önemlidir?

Modelin doğru ve adil olması tek başına yeterli değildir. Eğitim verisine müdahale, kötü niyetli girdi, model çalma veya yetkisiz erişim kararların güvenilirliğini bozabilir. Denetim veri kaynağı bütünlüğünü, erişim yetkilerini, olay kayıtlarını ve tedarik zinciri güvenliğini de içermelidir. Özellikle kritik kamu hizmetlerinde siber olay sonrası model çıktılarının güvenilirliği yeniden doğrulanmadan normal kullanıma dönülmemelidir.

Denetimin sonucu kamuoyuna nasıl yansır?

Her teknik ayrıntının yayımlanması güvenlik veya kişisel veri riski yaratabilir; ancak toplum sistemin nerede kullanıldığını, hangi risk sınıfında olduğunu, temel denetim sonuçlarını ve önemli hatalar karşısında hangi önlemlerin alındığını bilmelidir. Şeffaf raporlama kurumları hesap vermeye, sağlayıcıları kaliteyi artırmaya ve vatandaşları bilinçli itiraz kullanmaya teşvik eder. Güven, teknolojinin kusursuz olduğu iddiasından değil, denetlenebilir olduğunun gösterilmesinden doğar.

Kamu yapay zekâ envanteri neden gereklidir?

Devlet hangi kurumun hangi yapay zekâ sistemini, hangi amaçla ve hangi risk düzeyinde kullandığını bilmiyorsa etkili denetim kuramaz. Bu nedenle sistem adı, görev alanı, sağlayıcı, model sürümü, kullanılan veri türleri, sorumlu birim, risk sınıfı ve son denetim tarihi gibi bilgileri içeren güncel bir kamu envanteri tutulmalıdır. Güvenlik nedeniyle açıklanamayacak ayrıntılar korunabilir; fakat sistemlerin görünmez biçimde yayılması önlenmelidir. Envanter aynı iş için mükerrer alımları ve denetimsiz pilotların kalıcılaşmasını da azaltır.

Denetçilerin teknik kapasitesi nasıl korunur?

Bağımsız denetim yalnız hukuki yetkiyle işlemez; denetçinin model testi, veri bilimi, siber güvenlik, ayrımcılık analizi ve kamu hukuku alanlarında yeterli kapasiteye sahip olması gerekir. Kamu, denetim birimlerini denetlenen sağlayıcının teknik açıklamasına bütünüyle bağımlı bırakmamalıdır. Uzman ekipler, güvenli test ortamları ve gerektiğinde üniversite veya bağımsız uzman desteği kullanılabilir. Denetim kapasitesi model teknolojisiyle birlikte sürekli güncellenmezse güçlü anayasal güvenceler uygulamada kâğıt üzerinde kalır.