Alex Garland’ın 2014 yılında senaristliğini ve yönetmenliğini üstlendiği Ex Machina filminde Nathan, Blue Book isimli arama motoru şirketinin CEO’sudur. Şirketinde programcı olarak çalışan Caleb’i gizli bir yapay zekâ geliştirme merkezine davet eder ve geliştirdiği yapay zekâ ile bir Turing testi gerçekleştirmesini ister. Turing testinde bir insan ile bilgisayar etkileşime girer; eğer insan, karşısındaki varlığın bilgisayar olduğunu ayırt edemezse test başarılı kabul edilir. Ancak klasik Turing testinde insan, karşısındakinin bilgisayar olduğundan habersizdir, filmde Caleb, başından itibaren karşısındakinin insan olmadığının farkındadır. Test, Caleb’in Ava isimli yapay zekânın bilince sahip olup olmadığını değerlendirmesi üzerine kuruludur.
Ava, arama motorundaki geniş veri havuzuna erişim imkânına sahip olmasının yanı sıra Caleb ile gerçekleştirdiği seanslarda dilbilgisel açıdan tutarlı cümleler kurabilmekte, yüz ifadelerinden insanların duygu ve düşüncelerine ilişkin çıkarımlarda bulunabilmekte ve buna uygun tepkiler verebilmektedir. Hatta mizah üretebilme yeteneği sergilemektedir. Filmin ilerleyen bölümlerinde Ava’nın amaçları doğrultusunda plan kurabilen, manipülatif davranabilen ve tehlikeli sonuçlar doğurabilen bir mekanizma olduğu anlaşılmaktadır. Bu noktada hukuki tartışmanın odağı, söz konusu insani görünümlü özelliklerin yapay zekâyı bir nesne olmaktan çıkarıp çıkarmadığı ve Ava’nın bir hak süjesi olarak değerlendirilip değerlendirilemeyeceğidir. Zekâ ile irade kavramlarının özdeş olmadığı açıktır.
Yapay zekâ klasik anlamda eşya değildir; ancak mevcut hukuk düzeninde kişi olarak da tanımlanmamaktadır.
Ex Machina Üzerinden Suç ve Ceza
Suç ve ceza bağlamında kusur sorumluluğu; yapay zekânın sorumluluğu, yapay zekâyı geliştiren yazılımcının sorumluluğu ve sistemi kullanan bireyin sorumluluğu şeklinde üç başlık altında incelenebilir. Mevcut hukuk düzenleri bakımından yapay zekânın hukuki sorumluluğundan söz edebilmek için yalnızca bilinç benzeri davranışlar yeterli değildir. Ceza hukukunda sorumluluğun temel şartı kusur yeteneğidir; yani irade ve davranışları yönlendirme kabiliyetidir. Günümüzde mevcut yapay zekâ sistemleri, ne kadar gelişmiş olursa olsun, hukuken kendi başlarına irade sahibi bir özne olarak kabul edilmemektedir. Bu nedenle Ava’nın fiilleri bağımsız bir failin eylemleri olarak değil, insan iradesinin dolaylı sonuçları olarak değerlendirilmelidir. İrade ve öngörü insana ait olduğu sürece hukuki sorumluluk da insanda kalmaktadır.
Filmde Nathan karakteri, Ava’nın davranışlarını öngörebilecek teknik bilgi ve yetkiye sahip kişidir. Bu bağlamda yazılımcının sorumluluğu, öngörülebilirlik ve kontrol kavramları üzerinden değerlendirilmelidir. Hukuki açıdan bir sistemin doğurabileceği sonuçları öngörebilen ve bu sonuçları önleme imkânına sahip olan kişinin gerekli tedbirleri almaması hâlinde kusurlu kabul edilmesi mümkündür. Yapay zekânın bağımsız gibi görünen davranışları dahi, onu geliştiren kişinin tercihleri, çizdiği sınırlar ve aldığı güvenlik önlemleriyle doğrudan bağlantılıdır. Bu nedenle filmde yaşanan olaylar, yazılımcının doğrudan fail olarak değil; ihmal veya kusurlu tasarım çerçevesinde sorumluluğunu gündeme getirebilecek niteliktedir.
Hukuki sorumluluk burada yapay zekânın varlığına değil, insanın teknik gücünü nasıl kullandığına yönelmektedir.
Ava’nın eylemleri çoğu zaman davranışlarının içeriğinden ziyade üretim biçimi üzerinden yorumlanmaktadır. Yapay zekânın kodları, algoritmaları ve tasarımı onun potansiyel bir tehlike olarak görülmesine yol açmaktadır. Bu bağlamda sorulması gereken soru, yapay zekânın yaratılışı nedeniyle kusurlu sayılıp sayılamayacağı ve geliştiricinin yalnızca geliştirme fiili nedeniyle sorumlu tutulup tutulamayacağıdır. Ceza sorumluluğu, somut bir fiil ve bu fiille bağlantılı bir kusur ortaya konulduğunda gündeme gelir. Ayrıca söz konusu fiilin kanunda tanımlanan bir suç tipine karşılık gelmesi gerekir. Yapay zekânın varlığını başlı başına sorumluluk nedeni saymak, fiil ile kusur arasındaki dengeyi zedeleyen determinist bir yaklaşımın yeniden üretilmesi anlamına gelebilir. Bununla birlikte filmde Nathan’ın yüz ifadelerini okuma ve taklit etme teknolojisini, milyonlarca kullanıcının kişisel cihazlarındaki kameralara hukuka aykırı şekilde erişerek veri toplamak suretiyle elde ettiği görülmektedir. Bu durum, kişisel verilerin korunmasına ilişkin mevzuat kapsamında ayrıca bir hukuka aykırılıktır ve sorumluluk doğurabilecek niteliktedir. Bu çerçevede sorun, yapay zekânın varlığı değil; onu üretme yönteminin hukuka aykırılığıdır.
Yapay zekâ sistemleriyle etkileşimde bulunan bireylerin rızası, çoğu zaman bilgi asimetrisi nedeniyle tartışmalıdır. Birey, sistemin yetenekleri, sınırları ve potansiyel etkileri hakkında eksik veya yönlendirilmiş bilgiye sahip olabilir. Bu durum, rızanın hukuki niteliğini doğrudan etkilemekte; özellikle ceza sorumluluğu bakımından irade serbestisinin varlığı sorusunu gündeme getirmektedir. Ava ile Caleb arasındaki ilişki, rıza kavramının sınırlarını tartışmaya açan bir yapı sergilemektedir. Taraflar arasında belirgin bir bilgi asimetrisi bulunmaktadır. Ava, kendi varlığına ve amaçlarına ilişkin bilgileri kontrollü biçimde paylaşırken Caleb sürecin tamamına dair eksik ve yönlendirilmiş bilgiyle hareket etmektedir.
Hukuk düzenlerinde rıza yalnızca bir kabul beyanı olarak değil, bilgilendirilmiş ve özgür iradeye dayanan bir irade açıklaması olarak tanımlanır. Bu nedenle rızanın hukuken geçerli sayılabilmesi için rıza gösteren kişinin kararını etkileyebilecek temel unsurlar hakkında yeterli bilgiye sahip olması ve kararını baskı veya yönlendirme olmaksızın vermesi gerekir. Bu ilke, kişisel verilerin korunması hukukunda açık rıza kavramında açıkça düzenlenmiştir. KVKK kapsamında açık rıza; belirli bir konuya ilişkin, bilgilendirmeye dayanan ve özgür iradeyle açıklanan rıza olarak tanımlanır. Bilginin eksik, yanıltıcı veya tek taraflı sunulduğu durumlarda rızanın hukuki geçerliliği tartışmalı hâle gelir. Caleb’in Ava ile kurduğu bağ bu anlamda tam bir bilgilendirilmiş rıza örneği olarak değerlendirilemez.
Son Söz
Sonuç olarak yapay zekâya ilişkin ceza sorumluluğu tartışmaları çoğu zaman teknolojinin ulaştığı teknik seviyeye odaklanmaktadır. Oysa hukuki değerlendirme bakımından belirleyici olan unsur insan benzeri davranışların varlığı değil; irade ve kusur yeteneğinin kimde bulunduğudur. Mevcut hukuk düzeninde ceza sorumluluğu hâlen insan iradesi etrafında kurulmaktadır. Yapay zekâ ise hukuki sonuç doğuran fiiller bakımından bağımsız bir sorumluluk süjesi olarak kabul edilmemektedir. Bu çerçevede rıza kavramı, yapay zekânın ceza sorumluluğunu belirleyen asli bir unsur değil; yapay zekâ ile etkileşime giren bireyin iradesinin serbestliğini ve kusur durumunu değerlendirmeye yarayan tamamlayıcı bir ölçüttür. Dolayısıyla mevcut koşullarda yapay zekâ hukukuna ilişkin ceza sorumluluğu tartışmalarının, özneyi yapay zekâya kaydıran yaklaşımlar yerine bireyin irade, öngörü ve kusur yeteneğini esas alan ceza hukuku ilkeleri çerçevesinde sürdürülmesi daha isabetli görünmektedir.
