IBM, ‘taraflı’ yüz tanıma teknolojisini terk etti

Teknoloji devi IBM “kitlesel gözetim veya ırksal profil oluşturma” için yüz tanıma yazılımı sunmayı bırakacak.

Duyuru, ABD’nin bir siyahi adam George Floyd’un öldürülmesinin ardından polis reformu çağrısında bulunmasıyla geliyor.

ABD Kongresi’ne yazdığı bir mektupta IBM, kolluk kuvvetlerinde kullanılan AI sistemlerinin “önyargı” için test yapılması gerektiğini söyledi.

Bir kampanyacı bunun polis için teknoloji yaratmada etkili olan bir firmadan “alaycı” bir hareket olduğunu söyledi.

Kongreye yazdığı mektupta IBM CEO’su Arvind Krishna, “ırkçılığa karşı mücadele her zamanki kadar acil” dedi ve firmanın Kongre ile çalışmak istediği üç alan belirledi: polis reformu, teknolojinin sorumlu kullanımı, genişleme becerileri ve eğitim fırsatları.

“IBM, kitle gözetimi, ırksal profil oluşturma, temel insan hakları ve özgürlüklerinin ihlali için diğer satıcılar tarafından sunulan yüz tanıma teknolojisi de dahil olmak üzere herhangi bir teknolojinin kullanımına kesinlikle karşı çıkıyor ve bunu kabul etmeyecek.”

“Artık yüz tanıma teknolojisinin yerel kolluk kuvvetleri tarafından kullanılması gerekip gerekmediği ve nasıl kullanılacağı konusunda ulusal bir diyaloga başlama zamanının geldiğine inanıyoruz.”

Potansiyel olarak önyargılı yüz tanımasına güvenmek yerine, firma Kongre’yi polis memurlarına vücut kameraları ve veri analitiği gibi “daha fazla şeffaflık” getirecek teknolojiyi kullanmaya çağırdı.

Veri analizi, yüz tanıma ürünlerinden ziyade IBM’in işi için ayrılmaz bir unsurdur. Ayrıca potansiyel önyargıları da eleştiren tahmine dayalı polislik teknolojisi geliştirmek için çalıştı.

‘Kanmayın’

Privacy International’dan Eva Blum-Dumontet, firmanın “akıllı şehir” terimini icat ettiğini söyledi.

Yetkili, “Dünyanın her yerinde, IBM’in sattığı akıllı polislik platformları sayesinde polis güçleri tarafından işlenen CCTV kameralarına ve sensörlerine dayanan bir model veya şehirleşmeyi zorladılar.” Dedi.

“Bu yüzden IBM’in şimdi geri dönüp polisliğin teknoloji kullanımı hakkında ulusal bir diyalog istediklerini iddia etmesi çok alaycı.”

Şöyle ekledi: “IBM, sözde akıllı polislik tekniklerinin geliştirilmesi yoluyla polisin teknik yeteneklerini geliştirmede etkili olduklarından kendilerini kurtarmaya çalışıyorlar. Ancak en son hamlelerine kandırılmayalım.

“Her şeyden önce duyuruları belirsizdi. ‘Genel amaçlı’ yüz tanımayı sona erdirmekten bahsediyorlar, bu da beni IBM için yüz tanımanın sonu olmayacağını düşünüyor, gelecekte özelleştirilecek.”

Algoritmik Adalet Birliği, yüz tanıma veri setlerinde ırksal önyargıların olduğunu gösteren ilk aktivist gruplardan biriydi.

Massachusetts Teknoloji Enstitüsü tarafından yapılan 2019 araştırması, koyu tenli erkekleri ve kadınları tanımaya geldiğinde Microsoft, Amazon ve IBM’in yüz tanıma araçlarının hiçbirinin% 100 doğru olmadığını buldu.

ABD Ulusal Standartlar ve Teknoloji Enstitüsü’nden yapılan bir araştırma, yüz tanıma algoritmalarının Afrikalı-Amerikalı ve Asya yüzlerini tanımlamakta Kafkaslara kıyasla çok daha az doğru olduğunu gösterdi.

Rekognition yazılımı ABD’deki polis departmanları tarafından kullanılan Amazon, alandaki en büyük oyunculardan biri, ancak İngiltere’de faaliyet gösteren Facewatch gibi daha küçük oyuncular da var. Facebook, Twitter ve YouTube’dan görüntüleri kullanmayı bıraktığı söylenen Clearview AI, yazılımını ABD polis kuvvetlerine de satıyor.

Danışmanlık firması PwC’de AI etik uzmanı olan Maria Axente, yüz tanımanın “esas olarak mevcut önyargı ve ayrımcılığın artırılmasında önemli etik riskler” gösterdiğini söyledi.

“Toplumda güven oluşturmak ve önemli konuları çözmek için, kâr kadar amaç da performansın kilit ölçüsü olmalıdır” dedi.