Yapay Zekanın Hukuki Kişiliği

Yapay Zekanın Hukuki Kişiliği: Algoritmaların Verdiği Zararlardan Kim Sorumlu?

Teknolojinin hızla evrilmesiyle birlikte yapay zekâ (AI) sistemleri, artık yalnızca insan komutlarını harfiyen yerine getiren edilgen araçlar olmaktan çıkmıştır. Kendi kendine öğrenen (makine öğrenmesi), veri setlerinden çıkarımlar yapan ve insan müdahalesi olmaksızın otonom kararlar alabilen algoritmalar, hayatın her alanına entegre olmaktadır.

Ancak bu otonom yapı, beraberinde çok kritik bir hukuki çıkmazı getirmektedir: Bir yapay zekâ algoritması öngörülemeyen bir zarara yol açtığında, faturayı kime keseceğiz? Otonom bir aracın yaptığı kazada, hatalı tıbbi teşhis koyan bir yazılımda ya da telif hakkı ihlali yapan üretken bir yapay zekâda sorumluluk kime aittir? Yazılımcıya mı, kullanıcıya mı, yoksa yapay zekânın kendisine mi?

1. Yapay Zekânın "Hukuki Kişiliği" Mümkün mü?

Mevcut hukuk sistemlerinde sorumluluğun temel şartı "kişilik" sahibi olmaktır. Hukuk, kişileri gerçek kişiler (insanlar) ve tüzel kişiler (şirketler, dernekler vb.) olarak ikiye ayırır. Yapay zekâ ise mevcut statüde hukuken bir "eşya" veya "araç" konumundadır.

Yapay zekâya bir "elektronik kişilik" verilmesi fikri, özellikle Avrupa Birliği başta olmak üzere küresel ölçekte uzun süredir tartışılmaktadır.

• Yapay Zekâ "AI" Sorumlu Olabilir mi? Eğer yapay zekâya hukuki bir kişilik tanınırsa, kendine ait bir mal varlığı (veya zorunlu sigorta fonu) olmak zorundadır. Yapay zekanın tek başına sorumlu tutulması, fütüristik bir yaklaşım olarak cazip görünse de günümüz hukuk pratiklerinde henüz karşılığı yoktur. Çünkü bir algoritmayı hapse atmak ya da ona doğrudan tazminat davası açmak mevcut normlarla mümkün değildir. Dolayısıyla, yapay zekânın verdiği zararlarda oklar kaçınılmaz olarak arkasındaki insan aktörlere dönmektedir.

2. Yazılımcının (Geliştiricinin / Üreticinin) Sorumluluğu

Yazılımcı, veri bilimci veya yapay zekayı piyasaya süren üretici, sistemin "mimarı" konumundadır. Hukuktaki "ürün sorumluluğu" (product liability) ve "kusursuz sorumluluk" ilkeleri gereği, üreticinin ciddi bir risk alanı mevcuttur.

• Tasarım ve Kodlama Hataları: Eğer yapay zekâ, kodundaki bir mantık hatası veya eksik siber güvenlik önlemleri nedeniyle zarar verdiyse, sorumluluk doğrudan yazılımcıya ve üretici şirkete aittir.
• Yanlış veya Yanlı (Bias) Veri Setleri: Yapay zekânın eğitildiği veri setinde ayrımcılık veya köklü hatalar varsa ve algoritma bu yüzden hatalı kararlar alıp zarar doğurduysa, bu durum üreticinin "ayıplı hizmet/ürün" sunduğu anlamına gelir.
• "Kara Kutu" (Black Box) Problemi: Yapay zekâ derin öğrenme aşamasında kendi kurallarını geliştirip yazılımcının bile öngöremeyeceği bir karara imza attığında, yazılımcının kusurlu olduğunu kanıtlamak zorlaşır. Hukuk, burada "öngörülebilirlik" sınırlarını tartışmaktadır.

3. Kullanıcının (İşletmecinin) Sorumluluğu

Yapay zekâ sistemini satın alan, kendi iş süreçlerine entegre eden veya bireysel olarak kullanan aktörlerin de sorumluluktan tamamen sıyrılması imkansızdır. Burada "gözetim ve özen yükümlülüğü" devreye girer.

• Hatalı Kullanım ve İhmal: Yapay zekâ sisteminin kullanım kılavuzuna aykırı çalıştırılması, gerekli güncellemelerin yapılmaması veya sistemin verdiği bariz hatalı uyarıların kullanıcı tarafından göz ardı edilmesi durumunda kusur kullanıcıya ait olur.
• İşletme Riski: Tıpkı tehlikeli bir makineyi çalıştıran işletmenin o makinenin yaratacağı risklerden sorumlu olması gibi, yapay zekâ kullanan şirketler de bu teknolojinin doğurduğu riskleri üstlenmek zorundadır. Örneğin; bir muhasebe veya finans danışmanlığı şirketi, yapay zekâ aracının ürettiği hatalı bir analizi kontrol etmeden müşterisine sunarsa, doğan zarardan müşterisine karşı doğrudan sorumlu olacaktır.

4. Küresel Trendler ve Yeni Mevzuatlar Ne Diyor?

Dünya genelinde hukuk, teknolojinin gerisinde kalmamak için hızla kabuk değiştirmektedir.

• AB Yapay Zekâ Yasası (AI Act): Dünyanın ilk kapsamlı yapay zekâ yasası, sistemleri taşıdıkları risk durumuna göre (kabul edilemez, yüksek, sınırlı, minimum) sınıflandırmaktadır. Yasa, özellikle yüksek riskli yapay zekâ sistemlerinin geliştiricilerine ve kullanıcılarına çok ağır şeffaflık, siber hijyen, veri kalitesi ve insan gözetimi yükümlülükleri getirmektedir. Bu yükümlülüklere uyulmaması durumunda, sorumluluk doğrudan ihlali yapan tarafa (üretici veya kullanıcı) yüklenmekte ve devasa idari para cezaları öngörülmektedir.
• Yapay Zekâ Sorumluluk Direktifi (AI Liability Directive): AB'nin üzerinde çalıştığı bu düzenleme, yapay zekanın sebep olduğu zararlarda mağdurun suffers (ispat yükünü) hafifletmeyi amaçlar. "Kusur karinesi" getirerek, üretici veya kullanıcının gerekli özeni göstermediği durumlarda zarardan sorumlu tutulmasını kolaylaştırır.

Sonuç: Sorumluluk Dağılımı Nasıl Olmalı?

Mevcut ve yakın gelecekteki hukuki realitede sorumluluk, tek bir aktöre yüklenemeyecek kadar katmanlıdır. Yapay zekânın kendi başına yasal bir özne (kişi) olmadığı bu dönemde, sorumluluk paylaştırılırken şu dinamik zincire bakılmaktadır:

[Zarar Doğuran Olay]

│

├──> Nedeni kod/tasarım/eğitim hatası mı? ──> Sorumlu: YAZILIMCI / ÜRETİCİ

│

└──> Nedeni kötü kullanım/ihmal/denetimsizlik mi? ──> Sorumlu: KULLANICI / İŞLETMECİ

Gelecekte yapay zekanın otonomisi insan kontrolünden tamamen bağımsız bir noktaya ulaştığında, onlar adına oluşturulacak zorunlu risk sigortası fonları ve kısıtlı elektronik kişilikler kaçınılmaz hale gelecektir. Ancak o güne kadar, algoritmayı yazanların hukuki risk analizi ve siber güvenlik standartlarına (ISO 27001 vb.) uyması; kullananların ise "insani gözetim" (human-in-the-loop) ilkesinden asla vazgeçmemesi, yasal felaketlerden korunmanın yegane yoludur.

R. Savaş Uluçay