Yapay zekâ sistemleri artık kredi onayından otonom araç sürüşüne, sağlık teşhisinden güvenlik analizine kadar birçok alanda karar vermektedir. Ancak bu sistemlerin hatalı kararları ciddi sonuçlar doğurabilmektedir.
Peki bir AI sisteminin verdiği yanlış veya hatalı karar ceza sorumluluğu doğurur mu?
Türk hukukunda yapay zekâya özgü bir ceza sorumluluğu rejimi bulunmamaktadır. Değerlendirme, mevcut ceza hukuku ilkeleri çerçevesinde yapılır. Temel düzenleme Türk Ceza Kanunu kapsamındadır.
Ceza Hukukunun Temel İlkesi: Fail İnsandır
Ceza hukuku insan merkezlidir. Suçun faili:
- Gerçek kişi olabilir
- Belirli durumlarda tüzel kişiler hakkında güvenlik tedbiri uygulanabilir
Ancak yapay zekâ sistemleri hukuki kişiliğe sahip değildir. Bu nedenle AI doğrudan cezai sorumluluk taşımaz. Hatalı kararın cezai sonuç doğurup doğurmayacağı, insan unsuruna bağlıdır.
Hatalı Karar Nedir?
AI sisteminin hatalı kararı şu şekillerde ortaya çıkabilir:
- Yanlış teşhis (sağlık alanında)
- Hatalı kredi reddi
- Yanlış hedef tespiti
- Otonom araç kazası
- Hatalı güvenlik alarmı
Bu kararın cezai sonuç doğurması için hukuka aykırı bir netice ve kusur unsuru bulunmalıdır.
1. Taksirli Suçlar Açısından Değerlendirme
TCK’ya göre taksir; dikkat ve özen yükümlülüğüne aykırılık sonucu istenmeyen neticenin meydana gelmesidir.
Eğer:
- Sistem yeterince test edilmemişse
- Güvenlik önlemleri alınmamışsa
- Risk bilindiği halde önlem alınmamışsa
taksirli suç gündeme gelebilir.
Örneğin bir otonom araç yazılım hatası nedeniyle kazaya sebep olmuşsa, geliştirici veya üretici hakkında taksirli yaralama veya ölüme sebebiyet suçları değerlendirilebilir.
2. Bilinçli Taksir
Eğer geliştirici:
- Riskin farkındaysa
- Ancak “nasıl olsa olmaz” düşüncesiyle sistemi piyasaya sürmüşse
bilinçli taksir söz konusu olabilir. Bu durumda ceza artırılabilir.
3. Kast Unsuru Var mı?
Ceza sorumluluğu için bazen kast gerekir.
Eğer:
- AI sistemi bilinçli şekilde zarara yol açacak biçimde tasarlanmışsa
- Manipülasyon amacı varsa
kasten işlenen suç gündeme gelebilir.
Ancak sistem hatası ile kasıtlı zarar arasında net ayrım yapılmalıdır.
4. Nedensellik Bağı
Ceza sorumluluğu için:
- Eylem ile sonuç arasında nedensellik bağı bulunmalıdır.
AI sisteminin hatalı kararı tek başına yeterli değildir. İnsan müdahalesi veya ihmal olup olmadığı incelenir.
Bilirkişi raporları bu noktada belirleyicidir.
5. Sorumlu Kimdir?
Hatalı AI kararı durumunda sorumluluk şu kişiler arasında değerlendirilebilir:
- Yazılım geliştirici
- Üretici firma
- Sistem operatörü
- Kullanıcı
Sorumluluk, kusurun kimde olduğuna göre belirlenir.
6. Şirket Yöneticilerinin Sorumluluğu
Eğer bir şirket:
- Bilinen bir yazılım hatasını düzeltmemişse
- Güvenlik testlerini yapmamışsa
- Risk analizini ihmal etmişse
yönetici konumundaki kişiler hakkında cezai değerlendirme yapılabilir.
7. Veri ve Karar Hataları
AI sistemleri çoğu zaman büyük veri setleriyle eğitilir.
Eğer:
- Eğitim verisi hatalıysa
- Sistem önyargılı veriyle çalışıyorsa
- Kontrol mekanizması yoksa
bu durum ihmal sorumluluğu doğurabilir. Ayrıca kişisel veri ihlali söz konusuysa Kişisel Verilerin Korunması Kanunu kapsamında idari yaptırım da gündeme gelebilir.
Uluslararası Eğilim
Artificial Intelligence Act, yüksek riskli AI sistemleri için risk yönetimi ve insan denetimi yükümlülüğü getirmiştir.
Bu düzenlemeler, hatalı karar riskini azaltmayı amaçlamaktadır.
Hukuki Değerlendirmede Temel Kriterler
Bir AI sisteminin hatalı kararı ceza doğurup doğurmayacağı değerlendirilirken:
- Kusur var mı?
- Taksir veya kast mevcut mu?
- Netice meydana geldi mi?
- Nedensellik bağı kurulabiliyor mu?
- Önlenebilirlik var mıydı?
soruları incelenir.
Güncel Hukuki Çerçeve
Bugün için temel sonuç şudur:
- AI sistemi doğrudan cezai sorumluluk taşımaz.
- Hatalı karar tek başına suç değildir.
- Kusur ve ihmal varsa ceza sorumluluğu doğabilir.
- Taksirli suç hükümleri uygulanır.
- İnsan denetimi kritik öneme sahiptir.
Yapay zekâ sistemlerinin yaygınlaşmasıyla birlikte “makine hatası” ile “insan ihmali” arasındaki sınır daha da önem kazanmıştır. Ceza hukuku açısından belirleyici olan, sistemin kendisi değil; sistemi tasarlayan, yöneten ve denetleyen insan unsurudur.
