Oxford Insights CEO: Yapay Zeka Toplumun Önyargılarını Yansıtıyor
Astana- Oxford Insights’in kurucu ortağı ve CEO’su Richard Stirling ile yapılan röportajın ikinci bölümüne hoş geldiniz. Oxford Insights, Hükümet Yapay Zeka Hazırlık Endeksi’nin arkasındaki küresel bir danışmanlık firmasıdır. İlk bölümde, bir hükümetin yapay zeka için hazır olması için gerekenler ve Kazakistan’da gördüğü fırsatlar hakkında konuştu. Bu bölümde ise, yapay zekadan kaynaklanan daha geniş risklere derinlemesine bakıyor.
Yapay Zekanın İki Yüzü
Ancak, yapay zekayla ilgili daha geniş riskler de bulunmaktadır. Bir dezavantaj, insanların sadece birkaç yapay zeka modeline güvenmeleri durumunda – çoğunlukla ABD veya Çin’de eğitilenler – bu modellerin günlük yaşamları, deneyimleri veya dilleri yansıtmayabileceğidir.
“Bu nedenle, geri aldığımız cevaplar tamamen geçerli olabilir, ancak modellerin eğitildiği verilere yansıtır,” dedi Stirling.
Stirling, ABD’de mahkeme kararlarına yardımcı olan yapay zeka modellerinin vakalarından bahsetti.
“Oldukça iyi çalıştı, ancak modeli test ettiler ve kararın tamamen karşılarının etnik yapısından kaynaklandığını fark ettiler. Bu korkunç bir yapay zeka hikayesi gibi geliyor, ancak bundan önceki mahkeme kararlarından öğrenmişti. Bu, toplumumuza ayna tutmakta ve toplumumuzda önyargı olmadığını göstermektedir,” diye konuştu Stirling.
Önyargıdan tamamen arındırılmış hiçbir toplum olmadığından, mevcut verilere yalnızca güvenmek, bu sorunları ele almaksızın toplumsal önyargıları pekiştirme veya derinleştirme riski taşır. Mahkeme veya sağlık gibi hassas alanlarda yapay zeka kullanımı endişeleri artırsa da, bu her ülkenin kendisinin karar vermesi gereken bir konudur, dedi Stirling.
“Muhtemelen mahkemede olmasaydı ve muhtemelen tıpta olurdu. Mahkemelerde, birinin hayatını ve özgürlüğünü elinizden alıyorsunuz ve tıpta geri veriyorsunuz. Ancak tıpta buna razı olmayabilirsiniz. Bu konuşmaları toplum olarak yapmamız gerektiğini ve toplumsal bir sonuca varmamız gerektiğini düşünüyorum. Bu konuşmayı yansıtan sınırları koymalı ve teknolojiye fazla hevesli olan kişiler tarafından öncü veya negatif olan kişiler tarafından yönlendirilmemeliyiz,” diye ekledi Stirling.
Veri Gizliliği
Hızlı yapay zeka gelişimi ve entegrasyonu, veri gizliliği ve güvenliği konularında ciddi endişeleri gündeme getiriyor. Stirling, kuralların ve yasaların “toplumun şu anda karşı karşıya olduğu zorlukları yansıtacak şekilde güncellenmesini” talep ediyor.
“Veri gizliliği bir şeydir ve bu sistemlere koyduğunuz verinin istediğiniz şekilde işlenmesini sağlamak. (…) Kişisel veri olarak neyi düşünebilirsiniz? Görseliniz kişisel veri mi? Eğer şimdi bir ekran görüntüsü alırsam, bunu kullanabilmeli miyim? Miğdemeli miyim yoksa yapmamalı mıyım? Ve sonra sizin adınıza rapor veren ancak olmayan içerikler yayınlama. Ve bunun içindeki rol nedir?” diye sordu.
Bu tartışmalar, yasaların teknolojinin hızlı evrimiyle başa çıkmakta zorlandığı için çözüme kavuşmamaktadır.
“Bunlar, kimse tarafından tam olarak çözüme ulaşılamayan canlı sorular. Bir şeyi bir yasa şeklinde kodladığınızda, değiştirmek zorlaşıyor. Aynı zamanda doğru olan teknoloji saatidir. Şu anda haftalık olarak değişiyor,” dedi.
Örneğin Avrupa Birliği, yapay zeka alanında dijital haklar ve resim kullanımı gibi konularda düzenlemeler yapmada aktif olmuştur. Yapay zeka üretilen içeriğin ana akım hale gelmeden önce uzun zamandır işitsiz kullanımına dikkat çeken yasaları vardır. Yasaları, gizliliğin temel bir insan hakkı olarak tanır.
2024 yılında AB’nin yapay zeka Yasası yürürlüğe girdi ve belirli uygulamalarda yapay zeka geliştiricileri ve kullanıcıları için net yönergeler ve sorumluluklar belirledi. “Çünkü çok sıkı ve çok erken düzenlemek riski, büyümek istediğiniz bir endüstrinin önünü kesersiniz ve yaratıcılık için insanlara alan tanımanız gerekir,” dedi Stirling.
Cebimizdeki Uzman
Yapay zeka, sadece endüstrileri dönüştürmekle kalmaz, aynı zamanda insanların ellerindeki yardımcı bir asistan haline gelebilir. Kullanımlar seyahat programı planlamadan binlerce sayfalık bir kitabın özetini yapmaya kadar değişebilir. Stirling, yapay zeka araçlarını “ceple taşıdığım küçük bir uzman” olarak tanımladı.
“Birçok insan gibi, yapay zekayı sıkça kullanıyorum. İş gezileri yaparım. Bana yeni bir şehirde neyin iyi bir program olduğunu hesaplamak için yapay zekayı kullanıyorum. (…) Evimdeki odaların fotoğraflarını çeker ve bana renk önerileri yapmasını isterim, veya yapmam gereken adımlar hakkında tavsiye almak için yapay zekayı kullanırım, kendime iyi bir rejim ya da spora başlamak” diye ekledi Stirling.
