Dijitalleşme ile birlikte birçok karar artık insanlar tarafından değil, algoritmalar tarafından verilmektedir. Kredi başvurularının değerlendirilmesi, işe alım süreçleri, sigorta risk analizleri, sosyal medya içerik filtreleme sistemleri ve kamu hizmetlerine erişim kararları giderek artan şekilde yapay zekâ ve algoritmik sistemler aracılığıyla belirlenmektedir.
Bu gelişme, hukuk açısından temel bir soruyu gündeme getirir: Algoritmik karar alma süreçlerinin hukuki niteliği nedir?
Bir algoritma tarafından verilen karar hukuken bağlayıcı mıdır? Bu kararın sorumluluğu kime aittir? Şeffaflık ve itiraz hakkı nasıl sağlanacaktır? Bu yazıda algoritmik karar süreçlerini Türk hukuku ve uluslararası düzenlemeler çerçevesinde kapsamlı biçimde ele alıyoruz.
Algoritmik Karar Alma Nedir?
Algoritmik karar alma, belirli veri girdileri üzerinden matematiksel modeller aracılığıyla otomatik sonuç üretilmesidir. Bu sonuçlar:
- Kabul / ret
- Risk skoru
- Öncelik sıralaması
- Profil oluşturma
- Tavsiye veya uyarı
şeklinde olabilir.Basit kurallara dayalı sistemlerden, makine öğrenmesi ve derin öğrenme tabanlı karmaşık modellere kadar geniş bir yelpazeyi kapsar.
Hukuki Sonuç Doğuran Karar Kavramı
Bir algoritmik sistemin hukuki niteliği, verdiği kararın birey üzerinde hukuki veya fiili etki yaratıp yaratmadığına bağlıdır.
Örneğin:
- Bankanın kredi başvurusunu reddetmesi
- İşverenin algoritmik performans skoruna göre işten çıkarma kararı vermesi
- Sigorta priminin otomatik belirlenmesi
Bu tür kararlar, kişilerin ekonomik ve sosyal haklarını doğrudan etkiler. Bu nedenle hukuki denetime tabidir.
Otomatik Karar Verme ve Veri Koruma Hukuku
Algoritmik karar süreçleri çoğu zaman kişisel verilerle çalışır. Türkiye’de bu alanı düzenleyen temel metin Kişisel Verilerin Korunması Kanunu’dır.
KVKK çerçevesinde:
- Veri işleme hukuka uygun olmalıdır
- İşleme amacı açık ve belirli olmalıdır
- Veri minimizasyonu uygulanmalıdır
- İlgili kişi aydınlatılmalıdır
Otomatik karar süreçlerinde özellikle “profil çıkarma” faaliyetleri önemlidir. Algoritma, bireyin davranışlarına göre risk veya performans skoru üretebilir. Bu durumda şeffaflık ve itiraz hakkı gündeme gelir.
Avrupa Birliği Perspektifi
General Data Protection Regulation (GDPR), otomatik karar verme konusunda açık hükümler içerir.
GDPR’ye göre bireyler:
- Sadece otomatik işleme dayalı kararlara tabi olmama hakkına sahiptir
- Kararın mantığını öğrenme hakkına sahiptir
- İnsan müdahalesi talep edebilir
Bu yaklaşım, algoritmik kararların mutlak bağlayıcı olmaması gerektiğini ortaya koyar.
Ayrıca Artificial Intelligence Act, istihdam ve finans gibi alanlardaki algoritmik sistemleri “yüksek riskli” olarak sınıflandırmıştır.
Algoritmik Kararların Hukuki Niteliği
Algoritmik kararlar hukuken üç farklı kategoride değerlendirilebilir:
1. Tavsiye Niteliğinde Kararlar
Algoritma yalnızca öneri sunar, son kararı insan verir.
Bu durumda hukuki sorumluluk insan karar vericidedir.
2. Yarı Otomatik Kararlar
Algoritma belirli çerçevede karar üretir, ancak insan onayı gerekir.
Burada sorumluluk paylaşılabilir.
3. Tam Otomatik Kararlar
İnsan müdahalesi olmadan bağlayıcı sonuç doğurur.
Bu durumda hukuki denetim ve şeffaflık zorunluluğu daha güçlüdür.
Sorumluluk Rejimi
Algoritma hukuki özne değildir. Bu nedenle kararın sorumluluğu:
- Yazılım geliştirici
- Sistemi kullanan şirket
- Kararı uygulayan kurum
arasında dağıtılır.
Türk Borçlar Kanunu kapsamında haksız fiil ve sözleşmeye aykırılık hükümleri uygulanabilir.Eğer algoritmik hata zarar doğurmuşsa, kusur ve öngörülebilirlik kriterleri değerlendirilir.
Ayrımcılık Riski
Algoritmalar, eğitim verisindeki önyargıları yansıtabilir. Bu durum özellikle:
- İşe alım
- Kredi değerlendirmesi
- Sigorta prim hesaplaması
gibi alanlarda eşitlik ilkesinin ihlaline yol açabilir.İş Kanunu eşit davranma yükümlülüğünü düzenler. Ayrımcı algoritmalar tazminat sorumluluğu doğurabilir.
Şeffaflık ve Açıklanabilirlik
Hukuki açıdan en kritik mesele, algoritmanın “black box” niteliğidir.
- Karar mantığı açıklanabilir mi?
- Veri kaynağı denetlenebilir mi?
- Yanlışlık durumunda düzeltme mekanizması var mı?
Açıklanabilirlik ilkesi, algoritmik kararların hukuka uygunluğu için temel kriterlerden biridir.
Kamu Hukuku Boyutu
Kamu kurumlarının algoritmik karar kullanması daha sıkı denetime tabidir.
İdari işlemlerin:
- Hukuka uygunluk
- Ölçülülük
- Eşitlik
- Gerekçelendirme
ilkelerine uygun olması gerekir.Bir kamu kurumu, tamamen algoritmik bir sistemle sosyal yardım başvurusunu reddederse; bu karar idari yargı denetimine tabi olabilir.
Ceza Hukuku Açısından
Algoritmik karar sonucu bir zarar doğmuşsa ve sistem bilerek hatalı yapılandırılmışsa; Türk Ceza Kanunu kapsamında sorumluluk gündeme gelebilir.
Örneğin:
- Bilinçli veri manipülasyonu
- Yanıltıcı algoritma tasarımı
- Kasten yanlış yönlendirme
cezai sorumluluk doğurabilir.
İnsan Gözetimi İlkesi
Modern düzenlemelerde temel yaklaşım, algoritmik sistemlerin insan gözetimi altında çalışmasıdır.
İnsan gözetimi:
- Nihai kararın insan tarafından verilmesi
- İtiraz ve düzeltme imkânı
- Risk analizinin yapılması
şeklinde uygulanabilir.Bu ilke, hukuki güvenliği artırır.
Dijital Çağda Karar Yetkisinin Dönüşümü
Algoritmik karar alma süreçleri, hukuki açıdan tamamen yasak değildir. Ancak sınırsız ve denetimsiz kullanımı ciddi hak ihlallerine yol açabilir.
Bugün itibarıyla:
- Algoritmalar hukuki özne değildir.
- Kararın sorumluluğu insanlara aittir.
- Otomatik kararlar denetime tabidir.
- Şeffaflık ve itiraz mekanizması gereklidir.
- Ayrımcılık riski hukuki yaptırım doğurur.
Hukuk sistemleri, algoritmik karar süreçlerini tamamen dışlamak yerine; insan merkezli ve denetlenebilir bir çerçeve içinde düzenlemeyi tercih etmektedir.Gelecekte algoritmik karar alma sistemleri daha yaygın hale geldikçe, sorumluluk, şeffaflık ve hesap verebilirlik ilkeleri daha da önem kazanacaktır. Bu alan, yapay zekâ hukukunun en dinamik ve gelişime açık başlıklarından biri olmaya devam etmektedir.
