AB, yapay zekaya yönetmelik getirmeye hazırlanıyor.
Avrupa Birliği (AB), yapay zeka teknolojisi kullanımına yönelik yeni kurallar getirmek için çalışmalarını sürdürüyor. Yapay zekanın günümüzde üretim, sağlık, finans, eğitim, ulaşım ve güvenlik gibi farklı alanlarda yaygın biçimde kullanıma girmesiyle birlikte bu teknolojiye yönelik kuralların açık biçimde belirlenmesi ciddi önem taşıyor.
AB’nin henüz ChatGPT veya benzeri yapay zeka sistemleriyle ilgili bir düzenlemesi bulunmuyor ancak AB Komisyonu 2 yıl önce yapay zeka konusunda yeni kurallar çerçevesini içeren ilk yasal düzenleme teklifini hazırlayıp üye ülkeler ve Avrupa Parlamentosu’na (AP) sunmuştu. Bu teklif, yapay zeka sistemlerinin kullanımında birtakım sınırlama ve şeffaflık kuralları getiriyordu. Bu önerinin yasalaşması halinde, ChatGPT gibi yapay zeka sistemlerinin de bu kurallara uygun olarak kullanılması gerekecek.
Komisyonun yasa teklifinde, yapay zeka sistemleri kabul edilemez risk, yüksek risk, sınırlı risk ve minimum risk olmak üzere 4 ana gruba ayrılıyor. İnsanların can güvenliğine, geçim kaynaklarına ve haklarına ilişkin açık tehdit olduğu düşünülen yapay zeka sistemleri kabul edilemez risk grubunda yer alıyor. Bu alanlardaki sistemlerin kullanımının yasaklanması bekleniyor. Bireylerin özgür iradesine karşı olan, insan davranışını manipüle eden veya sosyal puanlama gerçekleştiren yapay zeka sistemleri veya uygulamaları da yasak kapsamında.
Kritik altyapı, eğitim, ameliyat, işe alım sürecinde CV değerlendirme, kredi derecelendirme, deliller, göç, iltica ve sınır yönetimi, seyahat belgelerinin doğrulanması, biyometrik kimlik belirleme sistemleri, yargı ve demokratik süreçler ise yüksek risk grubuna giriyor. Yüksek risk grubuna dahil alanlara katı koşullar getirilirken, bu gruptaki yapay zeka sistemlerinin piyasaya sunulmadan önce uyması gereken sıkı yükümlülükler getiriliyor. Bu sistemlerin ayrımcılık yapmaması, sonuçların gözlemlenebilir olması ve yeterli ölçüde insan gözetimine tabi tutulması gerekiyor.
Kurallar kapsamında emniyet birimleri terör ve ciddi suçlar gibi özel durumlarda halka açık alanlarda biyometrik kimlik saptama sistemlerini özel durumlarda kullanabilecek. Ancak, yapay zeka sistemlerinin bu tür kullanımları sınırlı tutulacak ve adli kuruluşun izine tabi olacak. Sınırlı risk grubunda yer alan yapay zeka sistemleri de belirli şeffaflık yükümlülüğüne uymak zorunda olacak.
Sohbet robotları da söz konusu teklifte sınırlı risk grubunda yer alıyor. Burada, kullanıcıların sohbet robotlarıyla görüşme yaparken bir bilgisayarla etkileşimde olduklarının farkında olmasının sağlanması hedefleniyor. Yapay zeka destekli video oyunları veya istenmeyen e-posta filtreleri gibi uygulamalar ise minimum risk grubunda. Bireylerin hakları veya güvenliği için az veya hiç risk içermeyen bu gruptaki yapay zeka sistemlerine bir müdahalede bulunulmayacak.
Söz konusu teklif, yapay zeka yasasını ihlal edenlere 30 milyon euro veya küresel karlarının yüzde 6’sına ulaşacak seviyede para cezası verilmesini de içeriyor. Yürürlüğe girmesi için AP ve üye ülkelerin onayı gereken yapay zeka yasası üzerinde çalışmalar ise halen devam ediyor.
AP ise bu konuda henüz ortak bir tutum belirlemiş değil. Parlamento üyeleri yapay zeka yasası üzerinde halen çalışmaları sürdürüyor. Yapay zeka yasasına ilişkin müzakerelerin bu yıl başlaması bekleniyor. AP’nin bu alanda çalışan üyeleri, hali hazırda insan gözetimi olmadan ve karmaşık metinler üreten yapay zeka sistemlerinin yüksek risk listesinin bir parçası olması gerektiği görüşünde. Parlamento, yasa konusunda tutumunu belirlemesinin ardından üye ülkeler ile müzakere masasına oturacak.
Yapay zeka alanına yönelik yeni kuralları özellikle bu alana ciddi yatırımlar yapan Microsoft ve Google gibi büyük teknoloji şirketleri yakından takip ediyor. AB ülkelerinin ulusal veri koruma kurumlarını bir araya getiren Avrupa Veri Koruma Kurulu, son toplantısında OpenAI tarafından geliştirilen yapay zeka sohbet robotu ChatGPT’yi değerlendirdi. Toplantıda, ChatGPT’ye yönelik yürütülen incelemelerde, iş birliğini ve bilgi paylaşımını artırmak için özel bir görev gücü kurulması karara bağlandı. AB’nin ChatGPT ile ilgili yaklaşımını yakın zamanda açıklığa kavuşturması ve benzer yapay zeka teknolojilerine katı kurallar getirmesi kaçınılmaz görünüyor.
