Twitter’ın algoritması, genç ve açık tenlileri tercih ediyor

Twitter, fotoğraf kırpma sistemindeki algoritmik önyargıları tespit etmek için bir yarışma başlatmıştı. Şirket yarışmanın sonuçlarını açıkladı.

Twitter geçtiğimiz sene kullanıcılar tarafından yapılan araştırmalar sonucunda uygulamanın siyah yüzler yerine beyaz yüzleri tercih ettiğini öne sürdükten sonra Mart ayında otomatik fotoğraf kırpma özelliğini devre dışı bırakmıştı. Ardından da sorunu daha yakından incelemek için algoritmik hata ödülü başlattı.

Twitter açık tenlileri tercih ediyor

Yarışmada elde edilen bulgular iddiaları doğruladı. Kazanan yarışmacı algoritmanın ince, genç, açık tenli ya da sıcak tenli kişilerin yüzlerini tercih ettiğini tespit etti. İkinci ve üçüncü sıradaki yarışmacılar ise sistemin beyaz veya gri saçlı kişilere karşı önyargılı olduğunu, yaş ayrımcılığının tespit edildiğini ve görüntülerde Arapça yazılar yerine İngilizcenin tercih edildiğini belirtti.

DEF CON 29 konferansında açıklanan sonuçların sunumu sırasında Twitter’ın META ekibinin yöneticisi Rumman Chowdhury, katılımcıları algoritmik önyargının gerçek hayattaki etkilerini tespit edip açığa çıkardıkları için övdü.

Chowdhury, “Modellerimizdeki önyargılar hakkında düşündüğümüzde, bu sadece akademik ya da deneysel ifadesini kullanıyorum. Bu filtreyi oluşturuyoruz çünkü güzel olanın bu olduğunu düşünüyoruz ve bu da modellerimizi eğitmek ve çekici olmanın ne anlama geldiğine dair gerçekçi olmayan fikirleri yönlendirmekle sonuçlanıyor” dedi.

Twitter’ın yarışmasının sonuçları algoritmik sistemlerde toplumsal önyargıların nasıl çalıştığını gözler önüne seriyor. Aynı zamanda teknoloji şirketlerinin bu sorunlarla nasıl mücadele edebileceğini de gösteriyor.

Şirketin yarışmasında jüri olarak görev yapan Patrick Hall ise, tüm sistemlerde bu tür önyargıların bulunduğunu ve şirketlerin bunları bulmak için proaktif olarak çalışması gerektiğini vurguladı.