Twitter’ın Fotoğraf Algoritması Irkçı Mı?

Bir kullanıcı, Twitter algoritmasının, Barack Obama’nın siyah yüzü yerine, Mitch McConnel’ın beyaz yüzünü göstermeyi tercih ettiğini buldu.

Twitter’ın Fotoğraf Algoritması Beyaz Yüzleri Siyah Yüzlere Tercih Mi Ediyor?

Twitter’ın fotoğraf algoritmasının bazen beyaz yüzleri siyah yüzlere tercih ettiğinin kullanıcılar tarafından ortaya çıkartılmasının ardından, konunun araştırıldığını açıkladı. Kullanıcılar, bir paylaşım içerisinde iki fotoğraf olduğunda, Twitter’ın cep telefonu uygulamalarında, sıklıkla beyaz yüzün gösterildiğini fark etti. Twitter, algoritmanın geliştirilmesi aşamasında ırk ve cinsiyet taraflılığı testleri yapıldığını bildirdi. Fakat şirket “Daha çok analiz yapılması gerektiği de net” dedi. Twitter’ın baş teknoloji yetkilisi Parag Agrawal da paylaşımında,

“Modelimiz üzerinde analizlerimizi yaptık ve kullanıma soktuk ama sürekli gelişmeye ihtiyacı var. Bu kamuya açık ve zorlu testleri seviyoruz ve bundan ders almaya niyetliyiz” ifadelerine yer verdi.

“Bu Yüzde Yüz Bizim Hatamız.”

Son tartışma, Kanada’nın Vancovuer kentindeki üniversite yöneticisi Colin Madland’ın, Zoom uygulamasında, bir iş arkadaşının başının ortadan kaybolması sorununu çözmeye çalışmasıyla başladı. Yazılım, siyah iş arkadaşının başını yanlışlıkla geri plan olarak algılayıp, yok etmişti. Colin Madland, bu konu hakkında Twitter’da paylaşım yaptı ve Twitter’ın mobil uygulamasındaki ön izlemede, siyah arkadaşının değil, kendi resminin gösterildiğini fark etti. Madland, resimlerin sıralamasını değiştirse de, durum değişmiyordu. Madland’in bunu fark etmesi sonrası, diğer kullanıcılar da denemelerde bulundu ve sonuçlar benzerdi.

Twitter‘ın Baş Tasarım Yetkilisi, Dantley Davis, ten rengiyle kontrastı sebebiyle, Madland’in sakalını ve gözlüğünü çıkartmasının sorunu giderdiğini söyledi. Dantley Davis eleştirilere,

“Burada suçu benim üzerime atmak eğlenceli, biliyorum, ama bundan ben de herkes kadar rahatsızım. Ancak, bunu düzeltebilecek bir konumdayım ve düzelteceyim. Bu yüzde yüz bizim hatamız. Kimse tersini söylememeli” şeklinde yanıt verdi.

Geçen yıl ise ABD hükümetinin yaptığı bir araştırmada, yüz tanıma algoritmalarının, siyah ve Asyalı insanların yüzlerini tanımada, beyazlara kıyasla çok daha başarısız olduğu sonucuna varılmıştı. Ayrıca geçen yıl İngiltere’deki polis memurları, algoritmaların önyargıları artırdığını söylemiş ve teknolojinin kullanımı için net bir talimatname hazırlanmasını istemişlerdi. Son olarak da geçtiğimiz aylarda, IBM benzer kaygılarla, artık yüz tanıma yazılımı üretmeyeceğini açıklamıştı.