Telefonlarımızın kilidini açmak için yüz tanıma kullanıyoruz. Ve hepimiz otomatik olarak bize önerilen online içeriği görüntülüyoruz. Ancak bazılarımız yapay zeka (AI) konusunda diğerlerinden çok daha fazla başarıya sahip.
Yüz tanıma yapay zekaları üzerine yapılan bir araştırma, IBM, Microsoft ve Amazon’un önde gelen şirketlerinden gelen sistemlerin Oprah Winfrey, Michelle Obama ve Serena Williams’ın yüzlerini beyaz erkeklerle hiç sorun yaşamadan yanlış sınıflandırdığını keşfetti.
Cortana veya Google Assistant gibi dijital asistanların sesleri bile varsayılan olarak kadın seslerine sahiptir, bu da milyonlarca kullanıcının zihninde belki de bilinçsizce kadınlara boyun eğme klişesini pekiştiriyor.
Bu yapay zekaların önyargısı, çoğu yapay zekanın mevcut tasarımcılarının büyük ölçüde 20’li ve 30’lu yaşlarında engelsiz beyaz erkekler olması gerçeğinden kaynaklanıyor. Genellikle yüksek sosyoekonomik alanlarda, genellikle benzer eğitim geçmişine sahip olan insanlardır.
Belki de şaşırtıcı olmayan bir şekilde, ortaya çıkan AI’lar, temsili olmayan dar ve önyargılı veri kümeleri kullanılarak oluşturulur ve eğitilir. Örneğin, yapay zeka eğitimi için toplanan yüzlerin ABD hükümeti veri kümesinde yüzde 75 erkek ve yüzde 80 daha açık tenli bireyler bulunuyordu. Bunda kasıtlı bir şey yok – AI geliştiricileri fark etmediler çünkü kendi başlarına çeşitlilik deneyimi yoktu.
Neyse ki devran dönüyor ve bugün çoğu büyük teknoloji şirketi istenmeyen önyargıları tespit etmeye ve bunları teknolojilerimizden yok etmeye çalışıyor.