Yapay Zekâ

Anayasa yapay zekâyı neden ayrıca düzenliyor?

Yapay zekâ klasik yazılımdan farklı olarak büyük veri kümelerinden örüntü çıkarabilir, tahmin üretebilir ve karar süreçlerini etkileyebilir. Kamu otoritesi bu araçları sosyal yardım, risk analizi, sağlık, vergi, denetim veya hizmet planlamasında kullandığında algoritmanın hatası yalnız teknik sonuç doğurmaz; kişinin hakkına, hizmete veya yargı yoluna erişimini etkileyebilir. Madde 20 bu nedenle yapay zekâyı genel teknoloji serbestisinin içinde bırakmayıp özel anayasal güvencelere bağlar.

Kamu yapay zekâsının meşru amacı ne olmalıdır?

Kamu yapay zekâsının amacı vatandaşı sınıflandırmak veya yönetimi görünmez hâle getirmek değil, kanunla belirlenmiş kamu hizmetini daha doğru ve etkili yürütmektir. Bir sistem ancak açık bir görevle ilişkilendirilmeli; “veri var, kullanalım” mantığıyla amaç genişletilmemelidir. Kullanılan veri, model ve çıktı kararın niteliğiyle orantılı olmalı; sistemin getirdiği fayda temel haklara ve eşitliğe yönelik risklerden ağır basmalıdır.

İnsan denetimi neden vazgeçilmezdir?

Madde 20 kamu hizmetlerinde yapay zekânın insan denetimi olmadan kullanılmasını kabul etmez. Bu, her algoritmik çıktının bir memur tarafından otomatik biçimde onaylanması demek değildir. İnsan denetimi, sorumlu kişinin sistemi anlayabilmesi, olağan dışı vakayı fark edebilmesi, algoritmik öneriyi reddedebilmesi ve kararın hukuki sorumluluğunu taşıması demektir. Özellikle hak kaybı doğuran kararlarda nihai sorumluluk “sistem böyle söyledi” gerekçesine bırakılamaz.

Açıklanabilirlik hangi düzeyde olmalıdır?

Her yapay zekâ modelinin bütün matematiksel ayrıntısını vatandaşa vermek ne mümkün ne de anlamlıdır. Açıklanabilirlik, kararın hangi temel veri ve ölçütlerden etkilendiğinin, sistemin rolünün ve kişinin sonucu nasıl itiraz edebileceğinin anlaşılır biçimde gösterilmesidir. Ticari sır veya güvenlik gerekçesi denetimi tamamen ortadan kaldıramaz. En azından yetkili denetim organı sistemin modelini, veri kaynağını, testlerini ve hata kayıtlarını inceleyebilmelidir.

Ayrımcılık riski nasıl yönetilir?

Yapay zekâ geçmiş veriden öğrenirken geçmişteki eşitsizlikleri de yeniden üretebilir. Ayrıca görünüşte tarafsız değişkenler yaş, bölge, gelir veya başka özelliklerle güçlü ilişki kurarak dolaylı ayrımcılık yaratabilir. Bu nedenle yalnız sisteme “hassas veri kullanma” demek yetmez. Farklı gruplarda hata oranı, yanlış pozitif ve yanlış negatif sonuçlar düzenli ölçülmeli; ayrımcı etki görülürse model düzeltilmeli veya kullanımdan kaldırılmalıdır.

Yapay zekâ kritik teknoloji olarak neden ayrıca önemlidir?

Madde 27 yapay zekâyı uzay, siber güvenlik ve biyoteknolojiyle birlikte kritik teknoloji alanı içinde görür. Bu yaklaşım yalnız risk yönetimi değil, millî kapasite geliştirme sorumluluğu da doğurur. Kamu, insan kaynağı, araştırma, hesaplama altyapısı, veri kalitesi ve yerli teknoloji ekosistemini geliştirmelidir. Ancak “millî teknoloji” hedefi rekabet, akademik özgürlük, insan onuru ve uluslararası hukuk sınırlarını ortadan kaldırmaz.

Kamu kurumları hazır bir modeli doğrudan kullanabilir mi?

Bir model başka ülkede veya özel sektörde başarılı olmuş olabilir; bu, kamu hizmetinde doğrudan uygun olduğu anlamına gelmez. Veri dağılımı, hukuk, dil, demografi ve hizmet süreçleri farklıdır. Kamu kurumu modeli kendi kullanım amacı için doğrulamalı, hata sınırını bilmeli ve güncellemelerin etkisini izlemelidir. Dış hizmet sağlayıcı modelini değiştirdiğinde kamu kararının niteliği değişiyorsa bu değişiklik de yeniden değerlendirilmelidir.

Yapay zekâ insan emeğinin yerine mi geçer?

Anayasal yaklaşım yapay zekâyı kamu görevlisinin sorumluluğunu ortadan kaldıran otomasyon olarak değil, karar desteği ve hizmet geliştirme aracı olarak görmelidir. Bazı rutin işlemler otomatikleşebilir; fakat vatandaşla iletişim, istisnai durumları değerlendirme, etik muhakeme ve hukuki sorumluluk insan unsurunu gerektirir. Personel dönüşümü de yalnız kadro azaltımı değil, yeni dijital yeterliklerin geliştirilmesi ve görevlerin yeniden tasarlanması olarak ele alınmalıdır.

Vatandaş yapay zekâ kullanıldığını bilmeli mi?

Kişinin sonucunu etkileyen önemli bir kamu işleminde yapay zekâ kullanılıyorsa bunun saklanması güveni zedeler. Vatandaş en azından sistemin karar sürecindeki rolünü, hangi tür verilerin kullanıldığını, insan incelemesi isteyip isteyemeyeceğini ve nereye itiraz edeceğini bilmelidir. Şeffaflık aynı zamanda kurumu da daha dikkatli sistem seçmeye zorlar. Güven, yapay zekânın hatasız olduğu iddiasından değil, hata olduğunda düzeltilebilmesinden doğar.

Yapay zekâ kullanan kamu kurumu sorumluluğu devredebilir mi?

Kamu kurumu sistemi dışarıdan satın almış olsa bile verdiği idari kararın sorumluluğunu yazılım şirketine devredemez. Sağlayıcının teknik kusuru ayrıca sorumluluk doğurabilir; fakat vatandaş karşısında hangi sistemin neden seçildiğini, nasıl doğrulandığını ve hangi insan denetimiyle kullanıldığını açıklamak kamu otoritesinin görevidir. Sözleşmeler de bu sorumluluğu destekleyecek şekilde test verisine, olay kayıtlarına, sürüm bilgisine ve bağımsız denetime erişim sağlamalıdır. Teknoloji tedariki kamu yetkisinin özelleştirilmesi anlamına gelmez.