Giriş
Avrupa Birliği’nin (AB) yapay zekâ ile ilgili uyumlaştırılmış kurallara ilişkin düzenleme teklifi[1], Avrupa Komisyonu tarafından Nisan 2021’de yayımlanmış ve Avrupa Birliği’nin İşleyişi Hakkında Antlaşma’nın 294. maddesi uyarınca olağan yasama prosedürü başlatılmıştır.
AB Yapay Zekâ Yasası, yapay zekânın düzenlenmesine yönelik ilk girişim değildir. Birtakım düzenleyici girişimlere ve yapay zekâ ilkelerine ilişkin çok sayıda çalışmaya ek olarak, Avrupa Konseyi uluslararası bazda uygulanabilirliği değerlendirmek adına 2019 yılında Yapay Zekâ Geçici Komitesi’ni (Ad-Hoc Committee on Artificial Intelligence -CAHAI) kurmuş, Komite’nin 2021 yılında görevini tamamlamasını takiben Yapay Zekâ Komitesi (Committee on Artificial Intelligence – CAI) yerleşik hale gelmiştir. Bununla birlikte, AB Yapay Zekâ Yasası, “Brüksel Etkisi” ve AB’nin veri koruma kapsamında ortaya koymuş olduğu Genel Veri Koruma Yönetmeliği’ne (General Data Protection Regulation – GDPR) benzer şekilde yapay zekâ kapsamında da bir AB Yapay Zekâ Yasası oluşturma niyeti gibi faktörler sebebiyle yapay zekaya ilişkin düzenlemeler noktasında öncü yasal araç olarak ortaya çıkmıştır.
Bu yazıda ilk olarak Yapay Zekâ Kanunu’nun mevcut durumunu incelenecek, daha sonra, yasanın genel yapısı kısaca açıklanacaktır. Son olarak, ilgili hukuki düzenlemenin AB üyesi olmayan ülkelerdeki yapay zekâ sistemleri üzerindeki etkileri dikkate alınarak düzenlemenin pratik sonuçları değerlendirilecektir.
AB Yapay Zekâ Yasası’nın yasalaştırma süreci
AB Yapay Zekâ Yasası bir tüzük olarak tasarlanmıştır. Yani, kabul edilmesi halinde, ek ulusal mevzuata gerek kalmadan tüm AB üye devletleri için otomatik olarak bağlayıcı hale gelecektir. Ancak henüz bağlayıcı nitelikte değildir.
AB Yapay Zekâ Yasası, bu yazının kaleme alındığı sıralarda, AB’nin olağan yasama prosedürünün son aşamalarından geçmektedir. Dijital alanla ilgili diğer birçok önemli yasama çalışmasında olduğu gibi, Yapay Zekâ Yasası da Komisyon’un moderatörlüğünde diğer AB yasa koyucularının -AB Konseyi ve Avrupa Parlamentosu- katılımıyla kapsamlı bir “trilogue” prosedüründen geçmiştir. Nihayetinde Konsey ve Parlamento arasında 9 Aralık 2023 tarihinde siyasi bir anlaşmaya varılmış[2]; siyasi anlaşmaya uygun çerçevede hazırlanan taslak, 2 Şubat 2024 tarihinde AB Daimî Temsilciler Konseyi, 13 Şubat tarihinde ise Avrupa Parlamentosu IMCO-LIBO komitelerinde onaylanmıştır. Son olarak 13 Mart 2024’te Avrupa Parlamentosu genel kurul oturumunda onaylanan metin, dil düzeltmelerini takiben Nisan ayında önce tekrar Avrupa Parlamentosu taradından ve sonra nihayet AB Konseyi tarafından oylanacaktır. Metnin yasalaşma sürecinin Mayıs ayı sonunda sona ermesi ve Yapay Zekâ Yasası’nın Haziran ayında yapılması planlanan Avrupa Parlamento seçimlerinden önce kabul edilerek AB Resmî Gazetesinde yayınlanması beklenmektedir.
Bu yazının geri kalan bölümlerinde, AB Daimî Temsilciler Komitesi tarafından onaylanan en son metne atıfta bulunulmuştur.[3]
AB Yapay Zekâ Yasası neler getirmektedir?
Yapay Zekâ Yasasının temel konusu yapay zekâ sistemleridir. Yasa, yapay zekâ sistemini “değişen seviyelerde özerklikle çalışmak üzere tasarlanmış ve konuşlandırıldıktan sonra uyarlanabilirlik gösterebilen ve açık veya örtük hedefler için, aldığı girdiden, fiziksel veya sanal ortamları etkileyebilecek tahminler, içerik, öneriler veya kararlar gibi çıktıların nasıl üretileceğini çıkaran makine tabanlı bir sistem” olarak tanımlamaktadır. Tanımlama oldukça geniş tutulmuş olup belirli bir sistemin, ilgili yasanın amaçları doğrultusunda yapılan değerlendirme sonucu bir yapay zekâ sistemi olarak kabul edilip edilmeyeceği hususu yoruma açık bırakılmıştır. Aşağıda açıklanacağı üzere, yasa kapsamına girecek olan yapay zekâ sistemleri, teknik gerekliliklerin yanı sıra birtakım katı yasal düzenlemelere de tabi tutulabilecektir. Bu nedenle, yapay zekaya ilişkin bir envanter oluşturmak ve yapay zekâ sistem tanımlamasının doğru bir şekilde yapılması, sistem geliştiricileri, firmalar ve kullanıcılar için oldukça önem taşımaktadır.
AB Yapay Zekâ Yasası, risk temelli bir yaklaşım benimsemekte ve yapay zekâ sistemlerini risk seviyelerine göre sınıflandırmaktadır. Bazı yapay zekâ uygulamalarının kabul edilemeyecek derecede risk barındırdığı gerekçesiyle birtakım manipülatif kullanımlar, kişilerin sosyal olarak puanlandığı yapay zekâ sistemleri gibi bazı kullanımlar yasaklanmaktadır. Buna ek olarak, Yasa, bazı yapay zekâ sistemlerini de bir dizi sıkı teknik gereklilik ve yasal yükümlülüklere tabi olan yüksek riskli yapay zekâ sistemleri olarak sınıflandırmaktadır. Yüksek riskli yapay zekâ sistemleri (high-risk AI systems – HRAI) arasında yapay zekâ destekli CV izleme sistemleri ve biyometrik tanımlama sistemleri gibi oldukça yaygın kullanıma sahip yapay zekâ sistemlerinin de bulunduğu unutulmamalıdır. Yasa, geri kalan sistemlerin asgari düzeyde risk oluşturduğunu varsaymakta ve herhangi bir gereklilik şartı öngörmemektedir.
Risk temelli yaklaşıma ek olarak, Yasa, iki yapay zekâ sistemi sınıfını daha düzenlemektedir. İlk olarak, Yasa, gerçek kişilerle etkileşime giren yapay zekâ sistemlerinin sağlayıcıları veya dağıtıcıları için bir dizi şeffaflık yükümlülüğü getirmektedir. İkincisi, genel amaçlı yapay zekâ (general purpose AI – GPAI) modelleri olarak adlandırılan ve çeşitli görevler ve alt uygulamalar için kullanılabilen yapay zekâ modelleri için de iki katmanlı risk tabanlı bir sınıflandırma getirilmiştir. İleri dil modelleri veya görüntü oluşturma modelleri GPAI modellerine örnek olarak gösterilebilir. Bunlar arasında, GPAI modelini çalıştırmak için kullanılan hesaplama seviyesine bağlı olarak, Yasa bazı modelleri “sistemik etkiye sahip GPAI modelleri” olarak sınıflandırmakta ve bu modellerin sağlayıcıları için daha katı yükümlülükler öngörmektedir. Şu anda çok az model bu eşiği aşmakta olup bunların en popülerleri OpenAI’ın GPT-4 modeli ve Google’ın Gemini modelidir.
Yapay Zekâ Yasası nasıl uygulanacak?
AB Yapay Zekâ Yasası, farklı sınıflandırmalar, teknik gereklilikler, uygunluk değerlendirme prosedürleri, izleme yükümlülükleri ve 35 milyon Avro’ya varan ağır para cezaları içeren oldukça karmaşık bir mevzuattır. GDPR’da olduğu gibi, yalnızca yapay zekâ sistemleri geliştiren, dağıtan ve kullanan gerçek ve tüzel kişiler değil, aynı zamanda üye devletler ve yürütme organlarının da Yasaya fiilen uymak için zamana ihtiyaçları vardır.Bu ihtiyaç doğrultusunda Tüzük, kademeli bir uygulama zaman çizelgesi ve yasanın yürürlüğe girmesinden itibaren 2 yıl geçerli olacak genel bir ödemesiz dönem imkânı sağlamaktadır. Bu genel sürenin istisnaları da bulunmaktadır. Yasaklara ilişkin hükümler kapsamında 6 aylık bir ödemesiz süre imkânı sunulmuşken, onaylanmış kuruluşlar, GPAI’ler ve cezalara ilişkin hükümler 12 aylık bir ödemesiz süreye tabi tutulmuştur. Öte yandan, Ek II’de listelenen Birlik uyum mevzuatına istinaden HRAI’lar için öngörülen gerekliliklere ilişkin hükümler, Yasa’nın yürürlüğe girmesinden 36 ay sonra uygulanabilir hale gelecektir.
Yasa’nın yürürlüğe girmesi de tıpkı uygulama sürecinde olduğu gibi kademeli şekilde ve yasanın uygulanmasından önce gerçekleşecektir. Komisyon, Yapay Zekâ Paktı (AI Pact)[4] adı verilen bir program kapsamında sektörün de katılımıyla Yapay Zekâ Yasası’nın kural ve ilkelerine gönüllü bağlılığın teşvikini amaçlamaktadır. Aslında uygulama adımları çoktan atılmaya başlanmış; Komisyon, Yasa kapsamında belirli görevlerin devredildiği yapay zekâ ofisini, Yasa’nın resmi olarak kabul edilmesinden önce, 24 Ocak 2024 tarihinde halihazırda kurmuştur.[5]
Yapay Zekâ Yasasının AB üyesi olmayan ülkelerdeki yapay zeka operatörleri ve kullanıcıları için önemi nedir?
Yapay Zekâ Yasası bir Avrupa mevzuatı olsa da iki ana nedenden dolayı küresel bir etkiye sahiptir. İlk olarak, Yapay Zekâ Yasası, yapay zekâ sistemlerinin AB içerisinde piyasaya sürülmesi veya hizmete sunulması veya sistem çıktılarının AB’de kullanılması hallerinde, AB dışında bulunan sistem sağlayıcılarını da kapsayacağından, sınırötesi bir etkiye sahip olacaktır. İkinci olarak, yasanın yapay zekâ düzenlemesi kapsamında altın standart olarak ortaya çıkması ve diğer düzenleme girişimlerini etkilemesi beklenmektedir.
Son olarak, Yapay Zekâ Yasası gibi karmaşık yasal düzenlemelere uyumun zaman alacağı unutulmamalıdır. Yasanın kabulü ve erken taahhüt programlarının eli kulağında olduğu göz önüne alındığında, Yapay Zekâ Yasası ve icrasına ilişkin tartışmaların giderek yaygınlaşması ve yakın gelecekte mevzuata ilişkin çeşitli soruların ortaya çıkması beklenen bir tablodur. Bu çerçevede yapay zekâ sistemleri geliştiren, kullanan veya tedarik zincirine başka bir şekilde dahil olan tüm şirketlerin uyum çalışmalarına bir an önce başlamaları ve bu alandaki gelişmeleri yakından takip etmeleri önem taşımaktadır.
—–
[1] Avrupa Komisyonu, “Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts” (COM/2021/206 final, Document 52021PC0206) <https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206>.
[2] Avrupa Parlamentosu, “Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI” (Basın Bülteni, 9 Aralık 2023) <https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai>.
[3] Avrupa Birliği Konseyi, ST 5662 2024 INIT, Note (26 Ocak 2024) <https://data.consilium.europa.eu/doc/document/ST-5662-2024-INIT/en/pdf>.
[4]Avrupa Komisyonu, ‘AI Pact’ <https://digital-strategy.ec.europa.eu/en/policies/ai-pact>
[5] Avrupa Komisyonu, “Commission Decision Establishing the European AI Office” (Policy and Legislation, 24 Ocak 2024) <https://digital-strategy.ec.europa.eu/en/library/commission-decision-establishing-european-ai-office#:~:text=A%20European%20Artificial%20Intelligence%20Office,to%20its%20annual%20management%20plan>.
