Yeni bir araç, yapay zekanın görüntüleri nasıl algıladığını ortaya koyuyor ve bir astronotun kürek çekmesini açıklıyor

Providence, UR [Brown University] – Yapay zeka sistemleri neden yüz tanıma gibi bazı görsel görevlerde insanlardan daha iyi performans gösterirken diğerlerinde – örneğin bir astronotun fotoğrafını kürek olarak sınıflandırmak gibi – ölümcül hatalar yapabiliyor?

İnsan beyni gibi yapay zeka sistemleri, görüntüleri işlemek ve kategorize etmek için stratejilere güvenir. Ve insan beyni gibi, bu süreçlerin tam doğası hakkında çok az şey biliniyor. Brown Üniversitesi’ndeki bilim adamları Carney Beyin Bilimleri Enstitüsü her iki sistemi de anlamada büyük ilerlemeler kaydederek, araştırmacıların önceki modellere göre daha erişilebilir ve daha kullanışlı olduğunu söylediği bir şekilde bilgisayar görüşünü açıklamaya yardımcı olan yakın tarihli bir makale yayınlıyor.

Bilişsel, dilbilimsel, psikolojik ve bilgisayar bilimleri profesörü Thomas Seery, “Hem insan beyni hem de yapay zeka sistemlerine güç veren derin sinir ağları kara kutular olarak anılıyor çünkü içeride tam olarak ne olup bittiğini bilmiyoruz” dedi. . Carney’s’de yaptığımız iş Hesaplamalı Beyin Bilimleri Merkezi AI sistemleriyle benzerlikleri ve farklılıkları vurgulayarak, öğrenme, görme ve her türlü şeyle ilgili beyin mekanizmalarını anlamaya ve karakterize etmeye çalışır. “

Siri, derin sinir ağlarının görüntüleri işlemek için öğrenme algoritmaları kullandığını söyledi. gibi büyük veri kümeleri üzerinde eğitilirler. ImageNet, binlerce nesne kategorisine göre organize edilmiş, web’den derlenmiş bir milyondan fazla resim içerir. Eğitimin esas olarak AI sistemine veri beslemeyi içerdiğini açıkladı.

Siri, “Yapay zeka sistemlerine görüntüleri nasıl işleyeceklerini söylemiyoruz – örneğin, görüntüleri sınıflandırabilmemiz için görüntülerden hangi bilgilerin çıkarılması gerektiğini,” dedi. “Yapay zeka sistemi kendi stratejisini belirliyor. Daha sonra bilgisayar bilimcileri, eğitildikten sonra yaptıkları şeyin doğruluğunu derecelendiriyor – örneğin, sistem belki de bin görüntü kategorisi arasında ayrım yapmada %90 doğruluk elde ediyor.”

Serre’nin Brown Ph.D. Aday Thomas Vail W diğer bilgisayar bilimcileri Kullanıcıların derin sinir ağlarının kara kutu kapağını açmasına olanak tanıyan ve AI sistemlerinin görüntüleri işlemek için kullandığı strateji türlerine ışık tutan bir araç geliştirmek. proje denir CRAFT – yinelemeli aktivasyon kavramı için yorumlama için FacTorization – ile bir ortak girişimdi. Yapay ve Doğal Zeka Toulouse Enstitüsü, Fel’in şu anda bulunduğu yer. Bu ay tanıtıldı IEEE/CVF Konferansı Vancouver, Kanada’da bilgisayar görüşü ve örüntü tanıma üzerine.

Serre, CRAFT’ın yapay zekanın görüntüleri nasıl “gördüğünü” nasıl ortaya koyduğunu paylaştı ve bir bilgisayarla görme sisteminin bir insandan nasıl farklı olduğunu anlamanın kritik önemini açıkladı.

S: Project Kraft, yapay zekanın görüntüleri nasıl işlediği hakkında ne gösteriyor?

CRAFT, sinir ağları tarafından öğrenilen nesnelerin karmaşık, yüksek boyutlu görsel temsillerinin yorumlanmasını sağlar ve bunları insanlar için daha anlaşılır hale getirmek için son teknoloji makine öğrenimi araçlarından yararlanır. Bu, sinir ağlarının nesneleri sınıflandırmak için kullandığı temel görsel kavramların temsillerine yol açar. Örnek olarak kadife balığı adı verilen bir tür tatlı su balığını ele alalım. Biz inşa ettik İnternet sitesi İnsanların bu kavramlara göz atmasını ve görselleştirmesini sağlar. Web sitesini kullanarak, AI sisteminin kadife balığı konseptinin balık yüzgeçleri, kafaları, kuyrukları, gözbebekleri ve daha fazlasını içerdiğini görebiliriz.

Bu kavramlar ayrıca, derin ağların bazen veri kümelerindeki önyargıları yakaladığını da ortaya koymaktadır. Örneğin kadife balığı ile ilişkilendirilen kavramlardan biri beyaz bir adamın yüzüdür, çünkü internette spor balıkçıların kadife balığına benzeyen bir balık tutarken çekilmiş pek çok resmi vardır. (Ancak sistem yine de bir insanla bir balığı ayırt edebilir.) Başka bir örnekte, sinir ağlarında futbolla ilişkilendirilen baskın kavram, sahadaki futbolcuların varlığıdır. Bunun nedeni, futbol toplarını içeren internet görüntülerinin çoğunun sadece topun kendisinden ziyade bireysel oyuncuları da içermesidir.