Yapay zeka özellikle son yıllarda dünya gündeminde adından sıkça söz ettiren konulardan biri haline geldi. Avrupa Birliği tarafından yapay zekanın geliştirilmesi ve kullanılması konusunda büyük etkisi olacak Yasa Tasarısı’nın yasalaştırılması küresel anlamda yeni gelişmeleri de beraberinde getirecek. Türkiye henüz yapay zeka alanında taslak bir yasa metnine sahip olmasa da Avrupa Birliği’nin bu alanda yapacağı atılımlardan hem kısa hem uzun vadede etkileneceği çok açık.

Avrupa Birliği tarafından hazırlanan Yapay Zeka Yasa Tasarısı (“Yasa Tasarısı”) 11 Mayıs 2023 tarihinde Avrupa Parlamentosu (“Parlamento”) Sivil Özgürlükler ve İç Pazar komiteleri üyelerinin büyük çoğunluğuyla kabul edildi. Sırada Parlamento tarafından genel olarak kabul edilmesi yer alıyor.
Yasa Tasarısı, Avrupa’da yapay zekanın geliştirilmesi ve kullanımı üzerinde büyük etkisi olacak önemli bir mevzuat parçası olarak yapay zekâ sistemleri için şeffaflık, insan gözetimi, sağlamlık, güvenlik ve doğruluk dahil olmak üzere bir dizi gerekliliği ortaya koyuyor. Bu gereklilikler, yapay zeka sistemlerinin güvenli ve şeffaf bir biçimde geliştirilmesini ve kullanılmasını sağlamak üzere tasarlanıyor.

Bu Düzenleme Neler Getiriyor?

Yasa Tasarısı ile yapay zeka sistemleri açısından birçok konu yasal çerçeve kapsamına alınıyor. Bu konulardan bazıları şu şekilde karşımıza çıkıyor:

•    Yapay Zekaya Risk Temelli Yaklaşım – Yasaklanmış Yapay Zeka Uygulamaları

Yasa Tasarısı, yapay zeka sistemlerini risk seviyelerine göre kabul edilemez risk, yüksek risk, sınırlı risk ve minimum risk olmak üzere dört kategoriye ayırıyor. Bu sınıflandırmaya göre Yasa Tasarısı yapay zeka faaliyetlerine ilişkin farklı kuralları uygulayabiliyor. Örneğin; kasıtlı olarak manipülatif teknikler kullanan, insanların hassas noktalarını istismar eden ve insanları sosyal davranışlarına, sosyo-ekonomik durumlarına ve kişisel özelliklerine göre sınıflandıran sistemler insanların güvenliği için kabul edilemez risk olarak değerlendiriliyor ve bu yapay zeka sistemlerinin kullanımı yasaklanıyor. Bu sistemler Yasa Tasarısı içerisinde şu şekilde gösteriliyor;

-    Halka açık kamusal alanlarda “gerçek zamanlı” uzaktan biyometrik tanımlama sistemleri.
-    Hassas özellikleri (örneğin cinsiyet, ırk, etnik köken, vatandaşlık durumu, din, siyasi yönelim) kullanan biyometrik kategorizasyon sistemleri.
-    Tahmine dayalı olarak kolluk tarafından yapay zeka ile oluşturulan profil çıkarma, konum ve geçmiş suç davranışlarına dayalı sistemler.
-    Kolluk kuvvetleri, sınır yönetimi, iş yeri ve eğitim kurumlarında kullanılan duygu temelli tanıma sistemleri.
-    Sosyal medya veya CCTV kameralar aracılığıyla gelişigüzel bir biçimde biyometrik toplayan sistemler.

Parlamento üyeleri, 11 Mayıs’ta gerçekleştirdikleri toplantı neticesinde, Yasa Tasarısında belirtilen yüksek risk içeren yapay zeka sistemlerini; insanların sağlığını, güvenliğini, temel haklarını ve çevreye verilen zararları da içerecek şekilde genişletti. Üyeler buna ek olarak, seçmenleri siyasi kampanyalarda etkilemek için üretilen ve kullanılan yapay zeka sistemlerini ve bu süreçte sosyal medya platformları tarafından kullanılan programları da yüksek risk listesine ekledi.

•    Genel Amaçlı Yapay Zeka Sistemleri

Yasa Tasarısı’nın orijinal versiyonunda genel amaçlı yapay zeka sistemlerine yer verilmemişti. Ancak “ChatGPT”, “Bard” ve diğer büyük dil sistemlerinin evrensel olarak başarılı olması sonrasında Yasa Tasarısı içerisinde genel amaçlı yapay zeka sistemlerinin de düzenlenmesi yoluna gidildi. Genel amaçlı yapay zekalar çeşitli alanlarda kullanılan ve çeşitli görevleri yerine getirebilen yapay zeka sistemlerini ifade ediyor. Bu yapay zeka sistemleri; karmaşık verileri analiz etme, kararlar verme, problem çözme ve belirli görevleri otomatikleştirme gibi işlevleri yerine getiriyor. Bu sistemler derin öğrenme, makine öğrenimi ve doğal dil işleme gibi teknikleri kullanarak çalışıyor. Yasa Tasarısı ile genel amaçlı yapay zeka sistemlerine temel hakların, sağlık ve güvenliğin, çevrenin, demokrasi ve hukukun üstünlüğünün güçlü bir biçimde korunması amacıyla birtakım yükümlülükler de getirildi. Örneğin; bu sistemler, olası riskleri değerlendirmeli ve değerlendirme sonucunda bu riskleri azaltmalı; ayrıca Avrupa Birliği veri tabanına kaydolmalıdır.

•    İnovasyonun Desteklenmesi ve Vatandaşların Haklarının Korunması

Yasa Tasarısı’nda faaliyetlerin temel haklara ve geçerli Avrupa Birliği yasalarına saygı gösterilerek yürütülmesi koşuluyla, bir yapay zeka sisteminin piyasaya sürülmesinden veya hizmete alınmasından önce bu sistemle ilgili araştırma, test ve geliştirme faaliyetleri hakkında yasanın uygulanmayacağı hüküm altına alınıyor. Burada uygulanan muafiyetlerin temel amacı inovasyonun desteklenmesi olarak karşımıza çıkıyor.

•    Avrupa Yapay Zeka Kurulu 

Yasa Tasarısı içerisinde her bir üye devletin yasanın uygulanması ve bunun gözetimi açısından yerel bir otorite belirleyeceği belirtiliyor. Bu yerel otoritelerin yanı sıra ayrıca Avrupa Birliği nezdinde Avrupa Yapay Zeka Kurulu (“Kurul”) oluşturulacağı da açıklanıyor. Kurul’un görevleri arasında yerel otoritelerle iş birliğinin ve hukuka uygun işleyişin sağlanması gösteriliyor.

Kimleri Nasıl Etkiliyor?

Yasa Tasarısı’nın yasalaştıktan sonra yapay zeka alanında birçok paydaşı yakından etkileyen bir düzenleme olacak. Bu paydaşların en başında yapay zeka sistemleri geliştiren veya kullanan şirketler yer alıyor. Bu şirketlerin risk değerlendirmesi yapması ve değerlendirme sonucu belirlenen risklerin azaltılması için adımlar atması gerekiyor. Ayrıca sistemlerinin şeffaf ve hesap verebilir olmasını sağlamak da yaptırımlara maruz kalınmaması adına büyük önem arz ediyor. Yasadan etkilenebilecek diğer paydaşlar ise yapay zeka sistemi kullanıcıları, sivil toplum örgütleri, kamu yetkilileri ve araştırmacılar olarak karşımıza çıkıyor.

Türkiye’yi ve Avrupa Birliği Dışındaki Ülkeleri Nasıl Etkileyecek?

Yasa Tasarısı’nın yasalaşmasıyla Avrupa’daki yapay zeka sistemleri için yeni bir düzenleyici ortam ortaya çıkacak. Bu durumla birlikte Avrupa Birliği dışındaki şirketlerin Avrupa Birliği pazarında yapay zeka sistemi satabilmesi için sistemlerini ilgili yasaya göre uyumlanması gerekecek. Yasa ile ayrıca yapay zeka sistemlerinin düzenlenmesi adına küresel bir standart belirlenecek. Bu da diğer ülkelerin yapay zeka alanında benzer düzenlemeleri benimsemesini daha olası hale getirecek. Yasanın bir diğer faydası ise yapay zeka sistemlerinin riskleri ve faydaları konusunda farkındalık yaratacak olmasıdır. Böylece sistemler faaliyetlerini güvenli ve hukuka uygun bir biçimde yürütecekler.
Türkiye’de henüz yapay zeka alanında bir hukuki düzenleme bulunmuyor. Ancak 20.08.2021 tarihinde Resmi Gazete’de Türkiye’nin 2021-2025 yılları arasında Ulusal Yapay Zeka Stratejisi kapsamında çalışmalar yürüteceği, ilgili kurum ve kuruluşların da her türlü destek ve yardımı sağlayacağı açıklanmıştı.

Yürürlüğe Giriş Tarihi

Yasa Tasarısı’nın Sivil Özgürlükler ve İç Pazar Komiteleri tarafından kabul edilmesinin ardından Haziran 2023 tarihinde Parlamento’da genel olarak kabul edilmesi bekleniyor. Böylelikle Yasa Tasarısı, yasama sürecinin son aşamasına girecek, Avrupa Birliği Konseyi ve Avrupa Komisyonu’nda üçlemeler olarak adlandırılan müzakerelerin ardından Yasa haline gelecek.
Yaptırımlar
Yasa Tasarısı içerisinde yapay zeka alanında hukuki yükümlülüklere uymamanın yaptırımları üç ana konuya ayrılıyor. İlgili maddeler;

• Yasaya uyulmaması halinde bir önceki mali yıla ait dünya çapındaki toplam yıllık cironun %6’sına veya 30 milyon Avro’ya kadar,
• Yasa tarafından öngörülen yükümlülüklerin yerine getirilmemesi halinde bir önceki mali yıla ait dünya çapındaki toplam yıllık cironun %4’üne veya 20 milyon Avro’ya kadar,
• Yetkililere yanlış, eksik veya yanıltıcı bilgi verilmesi halinde bir önceki mali yıla ait dünya çapındaki toplam yıllık cironun %2’sine veya 10 milyon Avro’ya kadar
• idari para cezası öngörüyor.

Bu idari yaptırımların uygulanması hakkında Avrupa Birliği nezdinde merkezi bir kurum bulunmuyor. Yasa Tasarısı içerisinde idari yaptırımların, yetkili mahkemeler veya diğer yetkili kurumlar nezdinde uygulanıp uygulanmayacağının ulusal hukuki düzenlemelere bağlı olacağı belirtiliyor.