AB Yapay Zeka Yasası Kimleri Etkiliyor

AB Yapay Zeka Yasası'nın (YZY) yayınlanmasına az kala bence en önemli soru, yasadan kimler etkileniyor. Yasa özünde pazar denetimi yapıyor; yapay zeka ürünlerinin AB ortak pazarına arz şartlarını belirliyor. Peki kısıtlamalar kimleri etkiliyor, inceleyelim.

Yasa ürünleri 3 başlıkta kısıtlıyor; az sayıdaki tamamen yasaklı uygulamalar, yüksek riskli YZ sistemleri ve genel maksatlı YZ modelleri (GPAI). Bu başlıkların her birini ayrı ayrı değerlendirmek lazım.

Yasaklı Uygulamalar

Yasaklı uygulamalar, NATO'nun meşhur 5. maddesini hatırlatacak şekilde, aynı isimli maddede tanımlanıyor. Subliminal tekniklerle bireylerin karar verme mekanizmalarını etkilemekten, bireylerin yaş ya da özel sosyal durumlarından kaynaklı zafiyetlerinden faydalanmak gibi, kimsenin savunamayacağı uygulamalar bu kategoride.

Yasaklı uygulamalar bunlarla kısıtlı değil. Basına sıkça, üstelik çoğu kez olumlu yansıyan bazı uygulamalar da yasaklanıyor: sosyal puanlama, uzaktan biyometrik tanımlama, genel yüz tanıma, duygu tanıma gibi sistemlerin kamusal alanda kullanımı genel olarak yasaklanıyor. Tabii istisnalar var, hem de bolca. Bir takım özel şartlar ve ihtiyaçlar altında kolluk kuvvetlerine, durumun aciliyet taşıması, sonrasında izin almak ve sadece hedefli olmak şartıyla uzaktan biyometrik tanımlama teknolojilerini kullanma izni veriliyor. Kolluk kuvvetlerinin dışında kullanımı haliyle yasak. AB, vatandaşlarının temel haklarının yapay zekalı teknolojilerle kısıtlanmasına izin vermeye pek niyetli değil.

Diğer taraftan madde 2.2, özellikle sadece askeri, savunma ve milli güvenlik amaçlarıyla kullanılan YZ sistemlerini bu yasanın kapsamı dışında tutuyor. Bireylerin temel haklarına ve özgürlüklerine halel gelmesin diye de not düşülmüş, ama yasak yok. Yasa, haliyle AB hukukunun kapsamı dışında kalan alanlara karışmıyor, ancak bu yasayla yasaklanmış uygulamaların AB'de kurulu şirketlerce başka ülkelerde kullanılmasına da mani olan bir madde göremedim. Neyse, bu başka bir yazının konusu.

Yasaklı sistemler madde 5'te dedik. Geri kalan 83 madde ise ağırlıklı olarak genel maksatlı YZ modelleri ve yüksek riskli sistemler için. On kadar eki de unutmayalım.

Belirtmek lazım ki, yüksek riskli sistemlerle genel maksatlı modellerin tedarikçilerine getirdiği sorumluluklar farklı. Bu yazının amacı, tedarikçilerin karşılaması gereken isterlerden ziyade hangi tedarikçilerin bu yasa kapsamına girdiğini belirlemek. Yani AB YZY hangi yapay zekayı yüksek riskli ve hangisini genel maksatlı buluyor, bunun belirlenmesi. AB siz de buyurun diyor, ama bu kapsamda olmayanların şartları yerine getirmesi zorunda değil.

Genel maksatlı YZ modelleri

Madde 3(44b) genel maksatlı YZ modellerini, çok miktarda veriyle büyük ölçüde denetimsiz (kendi-kendine denetimli) öğrenen, genellik sergileyebilen, kullanıma sunuluş şeklinden bağımsız olarak geniş çerçevede farklı işleri başarıyla gerçekleştirme becerisine sahip ve başka sistemlere ve uygulamalara entegre olabilen YZ modeli olarak tanımlıyor. Tüzük, madde 52a ile büyük etki kapasitesine sahip modelleri ayrıca sistematik risk teşkil eden genel maksatlı yapay zeka modelleri olarak ayrıştırıyor. Her iki kategori için yasada farklı zorunluluklar tanımlanmış durumda.

Yüksek riskli sistemler

Yüksek riskli YZ sistemleri en kısa tanımla aşağıdakilerden oluşuyor:

1. Ek II'de yer alıp, bir ürünün emniyet bileşeni ya da kendisi bir ürün olarak kullanılan ve üçüncü taraflarca uygunluk değerlendirmesine tabi olan ürünler ve
2. Ek III'te yer alan yapay zeka sistemleri

yüksek riskli kabul ediliyor.

Peki ne var bu eklerde?

Ek II, harmonize AB yasalarından oluşuyor. 1. Kısımda yeni yasama çerçevesine (New Legislative Framework) uygun yasalar var. Kısım bir ve ikinin detay isterlerinde farklar göze çarpıyor, bu sebeple geliştirdiğiniz YZ'nin hangi kısımda olduğunu bilmek önemli.

Ek II Kısım 1 Bölüm A

1. Makine emniyet direktifi (2006/42/EC) ya da yeni haliyle makine emniyet tüzüğü, yani Tüzük 2023/1230. Henüz Türkiye'de yasalaşmadı, hazırlıkları ilgili bakanlıkta devam ediyor olmalı. YZ'yi bir makinenin emniyet bileşeni (safety component) olarak ya da makinenin davranışını değiştirebilecek kapasitede kullanmayı planlıyorsanız yeni tüzüğe tabisiniz. Makine üreticileri ve makine emniyet bileşenleri üreticileri doğrudan etkileniyor. Makinelerle entegre yazılımların YZ bileşenleri varsa yazılım geliştiricilerin de dikkatli olmasında fayda var.
2. 2009/48/EC Oyuncak güvenliği direktifi ya da Türkiye'de Oyuncak Güvenliği Yönetmeliği olarak yürürlükte olan mevzuata tabi oyuncak üreticileri.
3. Gezi Tekneleri ve Kişisel Deniz Taşıtları Yönetmeliği, ya da 2013/53/EU sayılı direktife tabi üreticiler.
4. 2014/33/EU sayılı asansör yönetmeliği, asansörler ve asansörlere ait güvenlik aksamlarının karşılaması gereken temel sağlık ve güvenlik gereklerini tanımlıyor. Yönetmelik genel olarak bina ve inşaatlarda kalıcı olarak hizmet veren ve insan taşımaya yönelik asansörleri kapsıyor.
5. 2014/34/EU yani Atex 114 yönetmeliğine tabi ekipmanların üreticileri.
6. Directive 2014/53/EU ya da BTK tarafından Telsiz Ekipmanları (TE) Yönetmeliği olarak yerelleştirilen Radio Equipment Directive (RED) kapsamındaki ürünlerin üreticileri.
7. 2014/68/EU sayılı Basınçlı Ekipmanlar Yönetmeliği kapsamına giren ekipmanların üreticileri.
8. (EU) 2016/424 Kablolu Taşıma Tesisatı Yönetmeliğinde yer alan ekipmanların üreticileri. Nedir bu derseniz, teleferik vb taşıma araçlarını kapsıyor ve sadece insan taşıma maksadıyla kurulmuş ekipmanlar için geçerli.
9. (EU) 2016/425 Kişisel Koruyucu Donanım (KKD) Yönetmeliği kapsamındaki ürünlerin üreticilerini kapsıyor.
10. (EU) 2016/426 Gaz Yakan Cihazlara Dair Yönetmelik; yemek pişirme, soğutma, iklimlendirme, ortamı ısıtma, sıcak su elde etme, aydınlatma veya yıkama amacıyla kullanılan gaz yakan cihazları ve ayrıca cebri üflemeli brülörleri ve bu brülörler ile teçhiz edilen ısıtma elemanlarını kapsamaktadır. Ocak, fırın, kombi vb ev gereçlerinin üreticileri, ürünlerine -özellikle emniyet bileşeni olarak- yapay zeka ekledikleri durumda bu yönetmelik kapsamında YZY'nın da kapsamına giriyor olabilirler. Yönetmelik endüstriyel gereçleri kapsamıyor.
11. (EU) 2017/745 Tıbbi Cihaz Tüzüğü
12. EU) 2017/746 İn Vitro Tanı Tıbbi Cihazlarına Dair Yönetmelik. Bu yönetmelik in vitro'nun ne olduğunu açıklamıyor. Bilen bilir esasına göre hazırlandığını düşünmekten başka bir şey gelmiyor akla. İnternetten anladığım kadarıyla yaşayan organizmanın dışında, "laboratuvar ortamında" gibi bir anlamı var. Böyle bir cihaz geliştiriyorsanız, ve yapay zekanın hatasından dolayı laboratuvardan kaçan mikrop yeni bir salgına yol açabilecekse, bir regülasyona tabi olmanızda fayda vardır, değil mi?

Ek II Kısım 2 Bölüm B

1. (EC) No 300/2008 Sivil havacılık yönetmeliği
2. (EU) No 168/2013, İki veya Üç Tekerlekli Motorlu Araçların ve Dört Tekerlekli Motosikletler Hakkında Yönetmelik
3. (EU) No 167/2013, Tarım ve Orman Araçları Hakkında Yönetmelik, ürünlerinde YZ kullanacak traktör üreticileri ve bu araçlar için ek ekipman geliştirecek tarım teknolojileri girişimlerini etkileyecek.
4. 2014/90/EU sayılı deniz ekipmanlarına ilişkin yönetmelik
5. (EU) 2016/797 demiryolu sistemlerinin AB bünyesinde karşılıklı işletilebilirliği (interoperability)
6. (EU) 2018/858 Motorlu araçlar hakkında yönetmelik. Aslında ismi uzun, ben kısalttım, yönetmeliğin tam adı "Motorlu Araçlar ve Römorkları ile Bunların Aksam, Sistem ve Ayrı Teknik Ünitelerinin Tip Onayı ve Piyasa Gözetimi ve Denetimi Hakkında Yönetmelik". Yönetmelik amacının, kapsamındaki bütün yeni araç, sistem, aksam ve ayrı teknik ünitelerin tip onayı ve piyasaya arzı ile münferit araçların onayına ilişkin idari ve teknik şartları belirlemek olarak açıklıyor. Yani, 5-7. maddelerdeki istisnalar hariç, karayollarında görülen tüm motorlu araçlar ile araçlara ait zorunlu sistemlerin doğru çalışması açısından ciddi risk teşkil eden parça ve ekipmanların piyasaya arzı ve hizmete girmesi bu yönetmeliğe tabi.
7. (EU) 2018/1139 Sivil havacılık ile ilgili düzenlemelere dair yönetmelik

Görüleceği üzere, birlik, henüz yasalarında yer almasa bile tip muayenesine tabi bir çok ürün için tehlikeli sınıfta yapay zeka kullanımını şimdiden YZ yasasının kapsamına alarak pazara sürülecek ürünlerde YZ kullanımını kontrol altına almayı hedeflemiş durumda. Bu başlıklardan bazılarında yapay zeka kullanımına dair insanın aklına örnek bile gelmezken birliğin bunların yasama kapsamına alması, YZ'nın yakın zamanda pazarda ne kadar yaygınlaşacağının iyi bir örneği.

Tabii bir çok harmonize yönetmelik henüz YZ maddeleri içermiyor. İçerdiği durumda YZ yasası kendi şartlarının eksiltilmemesi şartıyla ilgili yasanın tip muayene usullerini kabul ediyor. Ancak mevcut yönetmeliklere henüz YZ ile ilgili hükümler eklenmemişse YZ yasasının koşulları geçerli. İzlenecek yordam ve koşullar için her bir yasanın ilgilileri tarafından detaylı incelenmesi gerektiği aşikar.

Henüz listenin sonuna gelmedik. Yüksek riskli sistemlere dair detaylı bir başlık daha bulunuyor.

Ek III Madde 6(2)'de Tanımlanan Yüksek Riskli YZ Sistemleri

Bu başlık altında yapay zekayı emniyet unsuru olarak kullanan ürünlerin yerini, doğrudan yapay zeka sistemleri ve bunları kullanan yazılımlar alıyor. Bu çerçevede bu yazılımları geliştiren tedarikçiler doğrudan bu yasanın ilgi alanına girmiş oluyorlar.

1. Birlik ya da ulusal yasalarla izin verilen biyometrik sistemlerden (a) uzaktan biyometrik tanımlama sistemler, (aa) biyometrik kategorizasyon sistemleri, (ab) duygu tanıma maksatlı kullanılan YZ sistemleri,
2. Kritik altyapıların emniyet bileşenleri olarak kullanılan YZ sistemleri,
3. Öğrenim ve mesleki eğitim kapsamında, (a) gerçek kişilerin tüm seviyelerdeki eğitim ve öğretim kurumlarına erişim ve kabulünü belirleyen, (b) gerçek kişilerin eğitim sonuçlarını değerlendiren, (ba) gerçek kişilerin almaları gereken eğitim için seviye belirleyen, ve (bb) gerçek kişilerin sınavlardaki uygunsuz davranışlarını izleyen ve tespit eden sistemler,
4. İstihdam, çalışan yönetimi ve serbest meslek için, (a) gerçek kişilerin işe alımı, seçimi, iş başvurularının analizi ve elenmesi ve adayların değerlendirilmesi maksadıyla, ve (b) iş ilişkisinin şartlarını belirlemek, terfi ya da iş akdinin feshi, kişisel davranışlara, özellik ve niteliklere istinaden görevlendirme, bireylerin iş ilişkisi bağlamında izlenmesi ve performans değerlendirmesini yapan sistemler,
5. (a) Kamu tarafından ya da kamu adına kullanılıp, bireylerin sağlık hizmetleri, bağışlar, indirimler vb temel özel ve kamusal hizmet ve menfaatlere erişimine karar veren sistemler, (b) dolandırıcılık hariç, bireylerin kredi skorunu belirleyen sistemler, (c) gerçek kişilerin acil çağrılarına cevap veren ve acil hizmetleri yönlendiren sistemler, (ca) bireylerin hayat ve sağlık sigortası primlerini belirleyen sistemler,
6. Birlik ve ulusal yasalarca izin verilen kolluk uygulamaları,
7. Birlik ve ulusal yasalarca izin verilen göç, iltica ve sınır kontrol sistemleri,
8. Hukuki ve demokratik süreçlerin idaresi.

Yukarıdaki alanlarda geliştirilen ve kullanılan sistemlerin tümü yüksek riskli yapay zeka sistemleri olarak tanımlanarak, tedarikçileri, ithalat ve dağıtıcıları ile uygulayıcıları, yasaca belirlenmiş kurallara uymakla yükümlüdür. Finans, sigortacılık, İK, kamu ve belediyecilik yazılımları geliştiren, eğitim uygulamaları ile kamunun kolluk kuvvetlerine çözüm geliştiren tedarikçilerin yapay zeka kullanımlarında YZY'nı göz önünde bulundurması kaçınılmaz gözüküyor. Yasanın sadece tedarikçileri değil, satıcı, ithalatçı ve operatör sıfatı ile kullanan işletmeleri de bağladığı da unutulmamalı.

Geliştirici, satıcı ya da uygulayıcı olarak bu alanlardan birinde, bahsi geçen şartları karşılayan yapay zeka kullanıyorsanız yasanın sizin için ne gibi kurallar koyduğuna bakmanızı öneririm.

Türkiye'de durum ne olacak?

Dünyanın neresinde yerleşik olursa olsun, çözümlerini AB ortak pazarına sunmayı düşünen tüm üreticiler AB yapay zeka yasasına tabiler. Ancak Türkiye'nin de içinde bulunduğu az sayıda ülke için durum biraz daha karışık. Avrupa Birliği ile Türkiye Cumhuriyeti arasında yürürlükte olan gümrük birliği, sanayi ürünlerinin ticaretindeki engellerin kaldırılmasını emretmektedir. Bu kapsamda Türkiye CE işaretli ürünler konusunda AB teknik mevzuatına uymaktadır.

Yapay zekaya sahip ürünlerin Avrupa pazarına sunulurken CE işaretine uyumunu tanımlayan yasanın da uyum çalışmaları kapsamında yerlileştirilmesi kaçınılmazdır. Uzun lafın kısası, Türkiye Cumhuriyeti çok uzak olmayan bir gelecekte, pazara sunulacak yapay zeka ürünleri ile ilgili, AB YZY ile uyumlu bir tüzük yayınlayacaktır. Bu sebeple yerli yapay zeka üreticileri ve ithalatçıları, AB'ye ihracat düşünmese bile iç pazar açısından yasanın getirdiklerini inceleyerek hazırlıklarını buna uygun yürütmelidir.