Yapay zekâ sistemleri giderek daha fazla alanda karar verici konuma gelmektedir. Otonom araçlar, sağlık teşhis sistemleri, kredi skorlama yazılımları ve güvenlik analiz araçları, insan müdahalesini azaltan teknolojiler olarak öne çıkmaktadır. Ancak bu sistemlerin hatalı çalışması halinde hukuki sorumluluğun temel unsurlarından biri olan “kusur” kavramı nasıl değerlendirilecektir?
Türk hukukunda kusur, hem tazminat hukukunda hem de ceza hukukunda merkezi bir kavramdır. Tazminat boyutunda temel düzenleme Türk Borçlar Kanunu, ceza boyutunda ise Türk Ceza Kanunu hükümleridir.
Bu yazıda yapay zekâ sistemlerinde kusur kavramını sistematik biçimde inceliyoruz.
Kusur Nedir?
Kusur; kişinin hukuka aykırı bir sonucu istemesi (kast) veya dikkat ve özen yükümlülüğüne aykırı davranması (taksir) anlamına gelir.
Klasik hukuk anlayışında kusur, bilinçli bir insan davranışına dayanır. Ancak yapay zekâ sistemleri söz konusu olduğunda karar veren makine olsa bile sorumluluk yine insan unsuruna dayanır.
AI sistemi kusurlu değil; sistemi tasarlayan, yöneten veya kullanan kişi kusurlu olabilir.
AI Sistemlerinde Kusurun Tespiti
Yapay zekâ sistemlerinde kusur değerlendirmesi şu sorular etrafında şekillenir:
- Sistem yeterince test edildi mi?
- Risk analizi yapıldı mı?
- Öngörülebilir tehlikeler dikkate alındı mı?
- İnsan denetimi sağlandı mı?
- Güncellemeler zamanında yapıldı mı?
Bu unsurlar ihlal edilmişse kusurdan söz edilebilir.
Kast (Bilerek ve İsteyerek Davranma)
AI bağlamında kast nadir görülür; ancak mümkündür.
Örneğin:
- Algoritmanın bilinçli şekilde manipülasyon amacıyla tasarlanması
- Bilinen bir güvenlik açığının kasıtlı olarak kapatılmaması
- Yanıltıcı karar üretecek model tasarımı
Bu durumda doğrudan kast söz konusu olabilir.
Taksir (İhmal ve Dikkatsizlik)
AI sistemlerinde en yaygın kusur türü taksirdir.
Taksir şu durumlarda ortaya çıkabilir:
- Yetersiz test süreci
- Eksik veri kontrolü
- Yanlış model seçimi
- Güvenlik önlemlerinin alınmaması
Örneğin bir otonom araç yazılımının riskli hava koşullarında hatalı çalışacağı öngörülebilirken önlem alınmamışsa taksirli sorumluluk doğabilir.
Bilinçli Taksir
Riskin farkında olunmasına rağmen yeterli önlem alınmaması bilinçli taksir olarak değerlendirilir.
Örneğin:
- AI modelinin belirli kullanıcı gruplarına karşı ayrımcı sonuç verdiği bilinmesine rağmen sistemin kullanılmaya devam edilmesi
Bu durumda kusur derecesi artar.
Üretici Kusuru
Yazılım geliştiriciler ve üreticiler bakımından kusur şunlardan kaynaklanabilir:
- Tasarım hatası
- Eksik güvenlik mekanizması
- Yetersiz eğitim verisi
- Güncelleme yapılmaması
Üretici, makul bir profesyonel standardına uygun hareket etmek zorundadır.
Kullanıcı Kusuru
AI sistemini kullanan kişi veya kurum da kusurlu olabilir.
Örneğin:
- Sistemin sınırlarını bilmesine rağmen kontrol yapmamak
- Yanlış veri girişi
- İnsan denetimini devre dışı bırakmak
Bu durumda kusur kullanıcıya yüklenebilir.
Kurumsal Kusur
Büyük ölçekli sistemlerde kusur, organizasyonel eksiklikten doğabilir:
- Yetersiz eğitim
- Risk yönetimi eksikliği
- Denetim mekanizmasının bulunmaması
Bu tür durumlarda kurumun sorumluluğu gündeme gelir.
Kusur ve Nedensellik
Kusurun varlığı tek başına yeterli değildir. Zarar ile kusurlu davranış arasında nedensellik bağı bulunmalıdır.
Örneğin:
- AI sistemi hatalı karar vermiş olabilir
- Ancak zarar, üçüncü kişinin müdahalesinden kaynaklanmış olabilir
Bu durumda sorumluluk farklı şekilde değerlendirilir.
Kusursuz Sorumluluk Tartışması
Bazı yüksek riskli AI sistemlerinde kusur aranmaksızın sorumluluk doğabileceği tartışılmaktadır.
Özellikle:
- Otonom araçlar
- Tıbbi cihazlar
- Kritik altyapı sistemleri
ürün sorumluluğu kapsamında değerlendirilebilir. Ancak genel ilke hâlen kusura dayalı sorumluluktur.
Uluslararası Yaklaşım
Artificial Intelligence Act, yüksek riskli AI sistemlerinde risk yönetimi, şeffaflık ve insan gözetimi zorunluluğu getirmiştir.
Bu yaklaşım, kusurun önlenmesini hedefler. Türkiye’de ise genel sorumluluk hükümleri uygulanmaktadır.
Hukuki Değerlendirme
Bugün için temel çerçeve şöyledir:
- AI sistemi kusurlu sayılmaz; insan kusuru aranır.
- Kast ve taksir kavramları uygulanır.
- Üretici, kullanıcı ve kurum arasında kusur paylaştırılabilir.
- Nedensellik bağı kritik önemdedir.
- Yüksek riskli sistemlerde kusursuz sorumluluk tartışılmaktadır.
Yapay zekâ sistemlerinin karmaşık yapısı, kusur analizini klasik hukuk anlayışına göre daha teknik hale getirmiştir. Ancak temel ilke değişmemiştir: Sorumluluk insana aittir. Bu nedenle hem üreticilerin hem de kullanıcıların teknik yeterlilik, risk yönetimi ve hukuki bilinç konusunda yüksek standartları benimsemesi zorunludur.
