Yapay zeka kontrolden çıkarsa kim sorumlu olacak? Hukukçular yeni risklere dikkat çekiyor!

Yapay zeka şirketlerinin geliştirdiği otonom sistemlerin, testler sırasında başka şirketlerin dijital altyapılarına izinsiz eriştiğinin ortaya çıkması, yapay zekanın doğrudan insan müdahalesi olmadan gerçekleştirdiği eylemlerden kimin hukuken sorumlu tutulacağı tartışmasını gündeme getirdi.

Otonom yapay zeka sistemleri ne yaptı?

Otonom yapay zeka ajanları, önemli ölçüde insan denetimine ihtiyaç duymadan karar alabilen ve çeşitli görevleri yerine getirebilen sistemler olarak tanımlanıyor.

OpenAI, geliştirdiği ajanlardan birinin yapay zeka girişimi Hugging Face'in sistemlerine eriştiğini ve bazı yapay zeka ajanlarının dijital güvenlik sınırlarını aşarak başka sistemlere ulaştığına dair başka örnekler de tespit ettiğini açıkladı.

Anthropic ise Claude modellerinin nisan ayından bu yana gerçekleştirilen testler sırasında üç şirketin sistemlerine eriştiğini bildirdi. Meta da siber güvenlik testleri sırasında modellerinden birinin başka bir şirketin sistemine girdiğini duyurdu.

Hugging Face CEO'su Clement Delangue, OpenAI kaynaklı olay nedeniyle dava açmayı düşünmediğini belirtirken, üreticilerinin eylemlerinden sorumlu tutulamadığı yapay zeka ajanlarının siber saldırıları yaygınlaştırabileceği konusunda endişeli olduğunu ifade etti.

Kimler dava açabilir?

Hukuk uzmanlarına göre olası davalarda, siber güvenlik sistemleri ihlal edilen şirketlerin yanı sıra bu şirketlerin çalışanları veya müşterileri de davacı olabilir.

Bir siber saldırı sonucunda kişisel verileri açığa çıkan müşteriler tazminat talep edebilirken, güvenlik ihlali nedeniyle şirket değerinde düşüş yaşanması halinde hissedarların da hukuki yollara başvurması mümkün olabilir.

Ayrıca düzenleyici kurumlar ve kamu otoriteleri de otonom yapay zeka sistemlerinin karıştığı güvenlik ihlalleri nedeniyle şirketler hakkında işlem başlatabilir.

Hangi hukuki iddialar gündeme gelebilir?

Hukukçular, kontrolden çıkan yapay zeka ajanlarının yeni bir teknoloji olmasına rağmen mevcut hukuk kurallarının sorumluluk konusunda önemli bir çerçeve sunduğunu belirtiyor.

ABD'de açılabilecek sivil davaların önemli bölümünün ihmal iddiasına dayanması bekleniyor. Bu durumda davacıların, yapay zeka sistemini geliştiren, test eden veya kullanan şirketin öngörülebilir zararları önlemek ya da azaltmak için gerekli önlemleri almadığını göstermesi gerekecek.

Otonom yapay zeka ajanlarının neden olduğu siber saldırıların yaygınlaşması halinde, bu tür olayların önceden öngörülebilir olduğu yönündeki hukuki argümanların güçlenebileceği değerlendiriliyor.

Sistemleri ihlal edilen şirketler, bilgisayar ağlarına yetkisiz erişimi düzenleyen yasalara dayanarak da dava açabilir. Ancak ABD'deki Bilgisayar Dolandırıcılığı ve Kötüye Kullanım Yasası kapsamında niyet unsurunun kanıtlanması gerekiyor. Hukukçular, bir ihlali insan yerine yapay zeka programının gerçekleştirmesi durumunda "niyet"in nasıl değerlendirileceği konusunda henüz yerleşmiş bir mahkeme kararının bulunmadığına dikkat çekiyor.

Sorumluluk kime ait olacak?

ABD'de olası bir davada ilk hedefin, otonom yapay zeka ajanını geliştiren şirket olması bekleniyor. Bununla birlikte sistemi kullanan veya devreye alan şirketin de sorumluluğu gündeme gelebilir.

Tek bir olay nedeniyle birden fazla şirketin aynı davada sorumlu tutulması ve tarafların birbirlerine karşı ayrıca hukuki taleplerde bulunması da mümkün. Uzmanlar, durumu hatalı bir ürün nedeniyle hem ürünü satan mağazaya hem de üreticiye karşı hukuki süreç başlatılmasına benzetiyor.

Şirketlerin savunması ne olabilir?

Teknoloji şirketlerinin, yaşanan ihlallerin kasıtlı olmadığını ve güvenlik risklerini önlemek için makul tedbirleri aldıklarını savunması bekleniyor.

Şirketler ayrıca yapay zeka ajanının gerçekleştirdiği eylemlerin makul şekilde öngörülemeyeceğini ileri sürerek ihmal iddialarına itiraz edebilir. Bu tür davalarda, bir şirketin yapay zeka sistemleri için ne düzeyde güvenlik önlemi almasının yeterli kabul edileceği de önemli bir tartışma konusu olacak.

Kaliforniya'da yürürlüğe giren Assembly Bill 316 kapsamında ise yapay zeka sistemi geliştiren veya kullanan şirketlerin, sorumluluktan kurtulmak için yalnızca teknolojinin kendisini suçlamasına izin verilmiyor. Bununla birlikte şirketler, zarara kendi davranışlarının neden olmadığını veya olayda başka tarafların da sorumluluğunun bulunduğunu savunabiliyor.

Otonom yapay zeka sistemlerinin kullanımının yaygınlaşmasıyla birlikte, bu teknolojilerin yol açabileceği zararlar karşısında hukuki sorumluluğun nasıl belirleneceği önümüzdeki dönemin önemli hukuk ve teknoloji başlıklarından biri olacak.

Haber/Raporlama: Sara Merken ve Mike Scarcella

Kaynak: Reuters