Teknoloji bir yandan hızla gelişirken toplumsal dönüşümleri de tetiklemeye devam ediyor. Bu gelişme bir yandan kazanımlar sağlarken diğer taraftan riskler doğuruyor. Bu da önceki yazılarda bahsettiğimiz üzere, devletler ve teknoloji şirketleriyle bir sınır çizme ve sınırları aşma mücadelesini doğuruyor. Dolayısıyla teknoloji konusunda son dönemin en popüler gündemlerinden biri bu mücadeleler. Daha önce bu alandaki başlıklardan, Twitter’daki dönüşüm sürecini ve Avrupa Birliği Dijital Hizmetler Yasası’nı ele almıştık. Bugün de yapay zeka teknolojisi temelindeki gelişmelerden bahsedelim.
Avrupa Birliği, teknoloji şirketlerine karşı en ciddi tedbirleri alan yapılardan birisi olarak yapay zeka konusunu da es geçmiş değil. Özellikle bu alandaki; etik sorunlar, gizlilik, kişisel veriler, birey hakları gibi temel başlıklar altında düzenleme gayretleri dikkat çekici. Bu temaya yönelik girişimlere baktığımızda AB’nin karar alma sürecinin durgun yapısıyla paralel ama konunun hassasiyetine de uygun olarak dört yıllık bir süreçten bahsedilebilir.
Öncelikle 19 Şubat 2020 tarihinde Avrupa Komisyonu Yapay Zeka Hakkında Tanıtım Belgesini yayınlamış, 21 Nisan 2021 tarihinde ise bir düzenleme olarak yapay zekaya yönelik tedbirler teklif haline getirilmiştir. Avrupa Konseyinin konuya ilişkin tutumu, Aralık 2022’de netleşmiş ve teklif Konseyden de destek almıştır. 14 Haziran 2023 tarihine gelindiğinde ise Avrupa Parlamentosunda yasal düzenlemeye ilişkin bir oylama gerçekleştirilmiş ve bu oylamadaki 499 kabul ve 28 ret oyuna mukabil olarak Avrupa Birliği Yapay Zeka Yasası (EU AI Act) onaylanmıştır. Ancak yasanın bazı maddeleri bu sene içerisinde, bazı hükümleri 2024, bazıları ise sonraki yıllarda yürürlüğe girecek şekilde düzenlenmiştir. Öte yandan yasanın içeriğinin bazı şirketler açısından şimdiden telaş uyandırdığını söylemek mümkün. Genel olarak bakıldığında optimistlerin gözünde dünyayı kurtaracak bir araç, pesimistlerin gözünde ise dünyanın sonunu getirecek bir canavar olan yapay zeka teknolojisine yönelik, meşru otoriteler olan devletler nezdindeki ilk düzenleme olan Avrupa Birliği Yapay Zeka Yasası ne tür düzenlemeler getiriyor?
Yasa temel olarak risk temelli bir yaklaşımla hazırlanmış ve Avrupa Birliği içerisinde ‘daha güvenli’, ‘haklara daha saygılı’ ve ‘kurallara uygun’ bir yapay zeka sistemi oluşturulmasını amaçlıyor. Düzenleme çerçevesinde makine öğrenimi gerçekleştirebilme, veriye dayalı olarak kendi kendine çıktılar üretebilme, yine verilere ve istatistiklere dayalı olarak iyileştirme, öngörü, optimizasyon süreçlerinde kullanılabilme gibi özellikler yapay zeka nitelikleri olarak tanımlanıyor. Buradan hareketle kapasiteler temelinde dört temel risk düzeyi belirlenmiş, yapay zeka uygulamaları bu kategorilere uygun olarak sınıflanmış ve kullanım kapasiteleri bu düzeylere uygun olarak sınırlandırılmıştır.
En düşük düzeyli risk temeline bakıldığında öneri ve tavsiyeler içeren, geliştirici düzeyde ve destekleyici bir içeriğe sahip yapay zeka uygulamalarına yönelik herhangi bir kısıtlama getirilmemiş, bu alan daha özgür bırakılmıştır. İstenmeyen e-posta, kısa mesaj ya da haberleşme aygıtlarındaki diğer filtreleme özellikleri gibi uygulamalar bu kategoride değerlendirilmiştir.
İkinci aşamaya bakıldığında düşük düzeyli bir etkileşimin olduğu, kullanıcı ve yapay zekanın sınırlı düzeyde iletişim kurduğu, daha çok bilgilendirme ya da otomatik yönlendirme temelli uygulamalar bu kapsamda değerlendirilmiştir. Örneğin; kurumların ya da şirketlerin chatbotları yani müşteri ilişkileri merkezleri adına kullandıkları otomatik yanıt ve yönlendirme sistemleri bu sınıfta değerlendirilmiş ve ilgili uygulamaların, kullanıcıları uygulamanın yetkileri ve yapısına karşı bilgilendirmesi gerekliliğine yönelik düzenlemeler öngörülmüştür.
Üçüncü aşama yüksek risk olarak tanımlanmıştır. Bu aşamadaki uygulamalara bakıldığında otonom cihazların varlığı, robotik teknolojiler, otomasyona dayalı tek başına karar alma sistemleri dikkat çekmektedir. Bu alandaki uygulamaların ancak insan gözetiminde ve gerekli, zorunlu veri kullanımına dayalı olarak işletilmesi, sınırlar dâhilinde kullanılması amaçlanmıştır. Üçüncü seviye risk barındıran yapay zeka sistemlerinin, teknolojilerinin, uygulamaların denetimine yönelik ciddi bir yaklaşım sergilenmiş, yasada en çok dikkat edilecek başlıklar olarak yer verilmiştir. Bu denetimlerden biri iç sistemde yer alacak risk yönetim sistemidir. Bu sistemin riskleri tanımlaması, gerektiğinde riskleri azaltması ya da ortadan kaldırması, süreçlere dair bilgi sunabilmesi, gerekli teknik tedbirleri alabilmesi zorunludur. Bu kapsamda teknik kayıtların tutulması ve saklanması, şeffaflığın sağlanması, yapay zeka uygulamalarında insan gözetiminin sağlanması, siber güvenlik tedbirlerinin alınması gibi zorunluluklardan bahsedilebilir.
Son aşama ise kabul edilemez risk olarak tanımlanmıştır. Bu sınıftaki uygulamaların kullanımı, geliştirilmesi kesin bir şekilde yasaklanmıştır. Bireylerin davranışlarını etkileme kapasitesine sahip, bilinç altı ve ötesi kullanım sağlayan, bireyin kendisine ya da başkalarına zarar verecek şekilde yönlendirebilir uygulamalar; çocukları olumsuz etkileyecek, onların zihinsel bütünlüklerine zarar verebilecek uygulamalar; belirli ortak özelliklere sahip bireyleri sınıflayan ya da bir toplumsal grubu hedef alan, bu gruplara yönelik olarak olumsuz sonuç ya da değerlendirmelere neden olan uygulamalar bu minvalde.
Bu şekilde sayıldığında doğrudan canlanma olmasa da ticaret şirketleri eliyle pazarlama amaçlı kullanımlar ya da yapay zeka temelli video oyunları, oyunlaştırma tabanlı mobil uygulamalar gibi bazı kullanımlar bu düzenlemeler kapsamına girebilir. Aynı şekilde daha önce defaten gündeme gelen seçim sonuçlarına yönelik kullanımlar da bu açıdan değerlendirilebilir. Zaten bu nedenle yasayla birlikte, AB nüfusunun %10’undan fazla kullanıcısı olan sosyal medya platformları yüksek riskli kategoride değerlendirilerek ciddi bir incelemeye tabi tutulmaya çalışılmıştır.
Bu yasadan etkilenecek bir diğer grup dil temelli gelişim sağlayan ChatGPT gibi uygulamalar olacak. Çünkü bu uygulamaların ürettikleri içeriklerin, yapay zeka temelli olduğunu açıkça ortaya koyması gerekecektir ki bu durum kullanım kapasitesini sınırlayıcı bir etken olabilir. Tabi bu tarz uygulamaların son zamanlarda karşılaştığı telif ihlalleri gibi meseleler de ayrıca ilgi çekici. Dolayısıyla AB Yapay Zeka Yasası’nın üstünde durduğu en önemli hususlardan bir diğeri telif hakları ve telif ihlalleri. Çünkü yapay zekaların geliştirilmesi amacıyla kullanılan içeriklerin pek çoğu telif haklarıyla korunuyor(du). Yine yasa açısından dikkat çekici bir diğer husus deepfake uygulamalarına yönelik tedbirler. Sahte içerikler ve sahte gerçeklikler üretimine karşı da tedbirler öngörülmüş. Aynı şekilde biyometrik verilerin korunması hususu da dikkat çekici bir diğer başlık. Bu konuda da sınırlar çizilmeye çalışılmış.
Öte yandan bu sınırların teknolojik gelişime yönelik kısıtlayıcı etkisini dindirmek amacıyla yasa eliyle bu alandaki inovasyonu destekleyici düzenlemeler öngörülmüştür. Şirketlerin büyüklüğüne göre daha az düzenleyici tedbirle muhatap olma ya da destekleyici teknoloji merkezler aracılığıyla yeni şirketlerin teşviki gibi hususlar bu kapsamda sayılabilir.
Tabii bu destekleyici düzenlemelere rağmen, 160’tan fazla şirket yöneticisinin imzaladığı bir açık mektupla yapay zeka yasası eleştirilmiş, yasayla birlikte Avrupa Birliği’nin bu alandaki teknolojik gelişime ket vuracağı ve Birliğin kendi rekabet gücüne zarar vereceği ifade edilmiştir. Hatta ChatGPT uygulamasının sahibi OpenAI şirketi, uygulamayı Avrupa’dan kaldırma tehdidinde bulunmuştur. Yalnızca teknoloji şirketleri değil; otomotiv, havacılık, kimya, gıda gibi farklı sektörlerden şirketlerin şikayetlenmelerine rağmen yasa onaylanmıştır.
Görüldüğü üzere teknoloji alanındaki çift taraflı adımlar devam etmekte. Sosyal medya, sanal pazarlar, e-ticaret şirketleri ve yapay zeka önemli başlıklardan. Avrupa Birliği de son yıllarda bu alanlara yönelik hukuki sınırlarda düzenlemelere devam ediyor. Tabii yasaların yürürlüğe girmesi kadar, denetim aşamaları ve şirketlerin alacağı cezalar da süreçte önemli başlıklar olacak. Bundan sonraki adım uygulamalar, denetimler, yaptırımlar ve sonuçlar.
Böyle devam edersek bu kazan daha çok su kaldıracak…
[Sabah 9 Eylül 2023]
