Yapay Zekâ Düzenlemelerinde Tarihi Adım!

Avrupa Konseyi Basın Açıklaması – 21.05.2024[1]

Yapay Zekâ (“YZ”) Yasası Avrupa Konseyi onayından geçti. Konsey, YZ ile ilgili ilk dünya çapındaki kurallara nihai onayı verdi.

Avrupa Konseyi, yapay zekâ kurallarını uyumlu hale getirmeyi amaçlayan çığır açıcı bir yasayı onayladı. Yapay zekâ yasası olarak adlandırılan bu yasa, ‘risk temelli’ bir yaklaşımı takip etmektedir, yani topluma zarar verme riski ne kadar yüksekse, uygulanacak kurallar da o kadar sıkı olacaktır. Bu yasa, yapay zekâ alanında dünyada türünün ilk örneği olup, yapay zekâ düzenlemeleri bakımından küresel bir standart oluşturması beklenmektedir.

Yeni yasa, hem özel hem de kamu aktörleri tarafından AB pazarında güvenli ve güvenilir YZ sistemlerinin geliştirilmesini ve benimsenmesini teşvik etmeyi amaçlamaktadır. Aynı zamanda, AB vatandaşlarının temel haklarına saygıyı sağlamayı ve Avrupa'da yapay zekâ üzerine yapılan yatırım ve yenilikleri teşvik etmeyi amaçlamaktadır. YZ yasası, yalnızca AB yasaları kapsamında olan alanlara uygulanmakta olup, askeri ve savunma amaçlı olarak kullanılan sistemler ile araştırma amaçlı kullanılan sistemlere belli bazı istisnalar getirmektedir.

“..YZ yasasının kabulü, Avrupa Birliği için önemli bir dönüm noktasıdır. Dünyada türünün ilk örneği olan bu tarihi yasa, küresel bir teknolojik meydan okumayı ele alırken, aynı zamanda toplumlarımıza ve ekonomilerimize fırsatlar yaratmaktadır. YZ yasası ile Avrupa, yeni teknolojilerle ilgilenirken güven, şeffaflık ve hesap verebilirliğin önemini vurgulamakta ve bu hızla değişen teknolojinin gelişmesini ve Avrupa inovasyonunu artırmasını sağlamaktadır..” -Mathieu Michel, Belçika Dijitalleşme, İdari Basitleştirme, Gizlilik Koruma Ve Yapı Düzenlemelerinden Sorumlu Devlet Sekreteri.

Yeni yasa, farklı yapay zekâ türlerini risk düzeylerine göre kategorize ediyor.  

Kabul edilen yasa uyarınca; yalnızca sınırlı risk taşıyan YZ sistemleri çok hafif şeffaflık yükümlülüklerine tabi olacakken, yüksek riskli YZ sistemleri AB pazarına erişim sağlamak için bir dizi gereklilik ve yükümlülüklere tabi olarak yetkilendirilecektir. Örneğin, bilişsel-davranışsal manipülasyon ve sosyal puanlama gibi YZ sistemleri, riskleri kabul edilemez olarak değerlendirildiğinden AB'de yasaklanacaktır. Yasa ayrıca, profilleme yoluyla öngörücü polislik için YZ kullanımını ve biyometrik verileri kullanarak insanları ırk, din veya cinsel yönelim gibi belirli kategorilere göre sınıflandıran sistemlerin kullanımını da yasaklamaktadır.

Genel amaçlı YZ modelleri için “Şeffaflık” yükümlülüğü getirilmektedir.  

YZ yasası, genel amaçlı yapay zekâ (GPAI) modellerinin kullanımını da ele almaktadır. Sistemik riskler taşımayan GPAI modelleri, örneğin şeffaflık ile ilgili bazı sınırlı gerekliliklere tabi olacakken, sistemik riskler taşıyanlar daha sıkı kurallara uymak zorunda kalacaktır.

Yeni yönetim mimarisi ile YZ yasasının uygulanması denetlenecek.

YZ yasasının doğru şekilde uygulanması amacıyla Avrupa Komisyonu nezdinde birtakım yönetim organları kurulmuştur:  

1. AB genelinde ortak kuralları uygulamak için Komisyon bünyesinde bir YZ Ofisi,

2. Uygulama faaliyetlerini desteklemek için bağımsız uzmanlardan oluşan bir bilimsel panel,

3. YZ Yasası'nın tutarlı ve etkili uygulanması konusunda Komisyon ve üye devletlere tavsiyede bulunmak ve yardımcı olmak için üye devletlerin temsilcilerinden oluşan bir YZ Kurulu,

4.  YZ Kurulu ve Komisyona teknik uzmanlık sağlamak için paydaşlara yönelik bir danışma forumu.

Kanuna aykırılık halinde çeşitli yaptırımlar uygulanacak.

YZ yasasına aykırılık durumunda uygulanacak para cezaları, ilgili Şirketin bir önceki mali yıldaki küresel yıllık cirosunun belli bir yüzdesi (%1,5 ile %7 arasında değişen oranlar) veya önceden belirlenmiş sabit bir tutar (7,5 Milyon Euro ile 35 Milyon Euro arasında değişen tutarlar) olarak belirlenecektir. Söz konusu tutarlardan hangisi daha yüksekse, o ceza uygulanacaktır. KOBİ’ler ve yeni girişimler daha orantılı para cezalarına tabi tutulacaktır.

Şeffaflığın sağlanması ve temel hakların korunması önceliklendirilecek.

Bazı kamu hizmetleri sağlayan kuruluşlar tarafından yüksek riskli bir YZ sistemi kullanıma sunulmadan önce, temel haklar üzerindeki etkisi değerlendirilmelidir. Düzenleme ayrıca, yüksek riskli YZ sistemlerinin geliştirilmesi ve kullanımı konusunda artan şeffaflık sağlamaktadır. Yüksek riskli YZ sistemleri ve bu sistemleri kullanan bazı kamu kuruluşları, yüksek riskli YZ sistemleri için oluşturulan AB veri tabanına kaydedilmelidir. Duygu tanıma sistemleri kullanıcıları, bu tür bir sisteme maruz kalan kişileri bilgilendirmek zorundadır.

İnovasyonu destekleyen tedbirler alınacak.

YZ yasası, inovasyon dostu bir yasal çerçeve sunmakta ve kanıta dayalı düzenleyici öğrenmeyi teşvik etmeyi amaçlamaktadır. Yeni yasa, yenilikçi YZ sistemlerinin geliştirilmesi, test edilmesi ve doğrulanması için kontrollü bir ortam sağlayan YZ düzenleyici sandıklarının, yenilikçi YZ sistemlerinin gerçek dünya koşullarında test edilmesine de izin vermesi gerektiğini öngörmektedir.

Sonraki adımlar ve yürürlük:

Avrupa Parlamentosu ve Konsey başkanları tarafından imzalandıktan sonra, yasal düzenleme önümüzdeki günlerde AB Resmi Gazetesi’nde yayımlanacak ve bu yayından 20 gün sonra yürürlüğe girecektir. Yürürlük tarihinden itibaren ilgili risk gruplarına göre belli süreler tanımlanıyor. Yeni düzenleme, yürürlüğe girmesinden 2 yıl sonra, bazı özel hükümler için istisnalarla uygulanacaktır.

[1] 21.05.2024 tarihli EU Council Press Release metninden, CHAT GPT-4o modeli kullanılarak çevrilmiştir.

*Hazırlayan: Av. Nihan Şefkatlıoğlu