İnsan hakları örgütleri, Zoom’dan duygu izleme AI’sini platforma dahil etmemesini istiyor

Kar amacı gütmeyen Fight for the Future ve 27 insan hakları kuruluşu, telekonferans platformu Zoom‘a şirketin duygu tanıma araçlarını yazılımlarına dahil etmeye yönelik potansiyel planlarını sonlandırmasını talep eden bir açık mektup yazdı.

‘Ayrımcılığa sebep olacak’

Geçtiğimiz ay Zoom’un insanların ruh hallerini ve duygularını tespit ve analiz etmek için sanal toplantı yazılımına yapay zekayı dahil etme düşüncesinin olduğunu ortaya çıkaran raporlar üzerine insan hakları örgütleri, teknolojinin yanlış olduğunu ve temel hakları tehdit edebileceğini iddia ederek kısa bir süre önce şirketin CEO’su Eric Yuan‘a ortak bir mektup gönderdiklerini açıkladılar.

Fight for the Future tarafından paylaşılan metinde: “Bu yazılım ayrımcı, manipülatif, potansiyel olarak tehlikelidir ve tüm insanların aynı yüz ifadelerini, ses kalıplarını ve beden dilini kullandığı varsayımlarına dayanır. Doğası gereği önyargılıdır ve fizyonomi gibi doğası gereği ırkçı ve ayrımcı uygulamalarla bağlantılıdır. Zoom’un bu yazılımı kullanması, uzmanların çalışmadığı konusunda hemfikir olduğu sözde duygu analizi bilimine güven veriyor. Yüz ifadeleri önemli ölçüde değişebilir ve çoğu zaman altta yatan duygulardan kopuktur, öyle ki insanlar bile çoğu zaman onları doğru bir şekilde gösteremezler.” ifadeleri yer aldı.

Şirketler ve devlet kurumları tarafından kötüye kullanıma sebep olabileceğini iddia ettikleri duygu yapay zekası üzerine insan hakları örgütleri, Zoom‘dan 20 Mayıs’a kadar kamuya açık bir cevap bekliyor ve şirketin bu araçları platformda dahil etmeyeceğini taahhüt etmesini istiyor. Zoom, henüz konuya dair bir açıklamada bulunmadı.