Yapay Zekânın Dört Riski
Yapay zekâ işimizi elimizden alacak mı? Dünyayı ele geçirecek mi? İnsanlığın sonunu getirecek mi? Konu ne zaman yapay zekâdan açılsa söz dönüp dolaşıp riskler kısmına geliyor. Hele ki üretken yapay zekânın bu kadar popüler olduğu bir dönemde bu konuyu konuşmadığımız muhabbet yok sanırım.
Yapay zekânın riskleri var mı? Elbette var. Her yeni nesil, gelişmekte olan teknolojide olduğu gibi fırsatların yanı sıra riskler de söz konusu. Ancak yapay zekâ öyle bir potansiyele sahip ve öylesine bir ivmeyle büyüyor ki risklerin boyutu git gide artış gösteriyor. Bu nedenle de biz konuşmaya devam ediyoruz.
Biz konuşaduralım akademisyenler bu konuda çalışmalara hız veriyorlar. Güncel bir analiz de IMD Business School’dan Öykü Işık, Amit Joshi ve Lazaros Goutas’dan geldi. Bu üç akademisyen, üretken yapay zekâ kullanımı sırasında düşülebilecek dört risk tuzağını analiz etmişler.
Bu çalışmaya göre üretken YZ’nın risklerine bakarken iki temel eksen dikkate almalıyız: Niyet ve kullanım şeklimiz. Niyet, adı üstünde YZ ile üretilen bir içeriği veya sistemi bilinçli olarak mı yoksa tesadüfen mi kullandığımız anlatan bileşen. Kullanım şeklimiz ise bu içeriğin veya sistemin bizim tarafımızdan mı oluşturulduğu yoksa başkası tarafından üretilip bizim tarafımızdan mı kullanıldığı.
Bu açıdan baktığımızda dört risk senaryosu karşımıza çıkıyor:
Misuse (kötüye kullanım): Bu senaryoda gayet bilinçli bir şekilde ve tamamen kendimiz bir içerik üreterek bunu kullanıyoruz ve karşı tarafa zarar veriyoruz. Siber saldırılan veya birini karalamak için bir deep fake videosu üretmek bu alana giriyor. Sosyal mühendislik amaçlı stratejiler genelde bu yaklaşım çerçevesinde şekillendiriliyor.
Missapplication (amacı dışında kullanım): YZ sisteminin sizin talebinizle ürettiği hatalı ve “halüsinatif” bir malzemeyi kötü niyet olmadan kullanmak. Örneğin biri hakkında araştırma yapğıyoprsunuz ve YZ’den bir biyografi hazırlamasını istediniz. YZ’nın size verdiği metinde kişiye dair var olduğu iddia edilen bir suç bilgisini gerçeği araştırmadan haberde kullandığınızda niyetiniz kötü olmasa da bir risk oluşturabiliyorsunuz.
LinkedIn tarafından öneriliyor
Mispreresent (fırsatçılık): Bu riskin temelinde başka birinin ürettiği zararlı bir içeriği, onun hatalı veya zararlı olduğunu bile bile, bir amaç etrafında kullanmak yatıyor. Örneğin bir siyasetçi veya ünlü hakkında internette bulduğunuz bir deep fake videoyu yaymak, sanki gerçek olmadığını bilmiyormuş gibi yaparak o kişiye veya kuruma zarar vermek böyle bir yaklaşım…
Misadventure (hatalı kullanım): Niyetiniz kötü değil ve içeriği de siz oluşturmadınız. Biri hakkında gördüğünüz bir videoyu gerçek sanıp yaydınız. Sıkça başımıza gelebilecek bir risk aslında.
Yapay zekânın, özellikle de üretken yapay zekânın bu kadar yaygınlaştığı bir dönemde risk almamak veya birilerine zarar vermemek istiyorsanız kullanacağınız içeriği bu gözlükle bakmanız iyi bir riskten kaçınma yöntemi olabilir.
İlgili makale:
Sürdürülebilirlik Uzmanı | GSP Sürdürülebilir Kalkınma Amaçları Mentoru | İngilizce Öğretmeni
7ayAB gibi detaylı ve kapsamlı yasal denetim oluşturulmadıkça "niyet" gibi kavramlar ile YZ hakkında fikir jimnastiği yapmak çok değerli zamanın kaybeldilmesi anlamına gelir. Kanunlar niyetlere göre değil olası tehditlere göre şekillenmelidir.
Sustainability Manager
7ayDolayısıyla, bilinçli etik kararlar ve şeffaf uygulamalarla topluma sağlayabileceği faydaları da aktif şekilde tartışmak ve öne çıkarmak, dengeli bir bakış açısı geliştirmemize yardımcı olabilir.