Yapay zeka ırkçı olabilir mi?

0

BEĞENDİM

ABONE OL

News

0

Amerika Birleşik Devletleri’nde (ABD) Minneapolis’te polis şiddeti sonucu siyahi Amerikalı George Floyd’un hayatını kaybetmesinin akabinde başlayan ve ülke geneline yayılan protestolar devam ediyor. 

Uzun devirdir siyahi vatandaşlara karşı yapılan ırkçı taarruzlar ülke gündemini meşgul ederken, yapay zeka algoritmalarının sahip olduğu ırkçı ön yargılar da yine gündeme gelmeye başladı. 

Daha evvel yaşanan pek çok olayda yapay zeka sistemleri, beklenmedik ırkçı davranışlarıyla şirketlere sorun oluşturmuştu. Bu olaylardan en bilinenlerinden bir tanesi de Microsoft’un uzun uğraşlar sonucu ürettiği ve Twitter’da kullanıcılarla İngilizce sohbet etmesini beklediği yapay zeka botu TAY olmuştu. TAY beklentilerin tersine kişilerle lâtif sohbet etmemiş ve yalnızca 24 saat içerisinde küfürlü ve ırkçı paylaşımları nedeniyle durdurulmak zorunda kalınmıştı. Kullanıcılar üzerinde büyük bir şaşkınlığa sebebiyet veren bu karşılıklardan kimilerinde TAY, kadınlara ve Yahudilere hakaret etmiş, Meksika hududuna duvar örülmesi gerektiğini belirtmişti. 

Algoritmaların gösterdiği ırkçı davranışların en öne çıkanlarından bir oburu de bir bilgisayar firmasının geliştirdiği kameranın çekimleri sırasında yaşanmıştı. Tıpkı iş mahallinde çalışan iki iş arkadaşı tarafından çekilen görüntüde kameradaki yüz tanıma sistemi beyaz tenli olan Wanda Zamen’in yüzünü tanıyıp, takip ederken, siyah tenli Desi Cryer’ın yüzünü tanımamış ve hareketlerini de takip etmemişti. 

Sıklık müsabakası için geliştirilen “Beauty AI” ırkçı ön yargılar göstermiş ve daha çok beyaz tenli şahısları öncelemişti. Avustralya ve Hong Kong merkezli bir şirket tarafından geliştirilen “Beauty AI” binlerce müracaat arasından yalnızca 6 siyahi başvuruyu kabul etmiş en çok tercihini ise beyaz tenli insanlar arasında kullanmıştı.

Yapay zekâ nasıl ırkçı olur?

Günümüzde yapay zekanın en değerli ögesi derin öğrenmenin (deep learning) birincil muhtaçlığı ise data tasarrufu oluyor. Derin öğrenme temelde, algoritmanın mevcut olgularla beslenmesi ve akabinde insan müdahalesine muhtaçlık olmadan olguları tanıması mealine geliyor.

Örneğin, bir algoritma binlerce fotoğraf içinde kedileri tanımak üzerine eğitilir. Algoritma “kedi” olarak etiketlenmiş fotoğraflardan kedinin biçimini, duruşunu tanıyarak bir kalıp oluşturur ve daha sonra gördüğü fotoğraflarda bir kedinin olup olmadığını kendisi tespit edebiliyor.

Yapay zekanın eğitiminde kullanılan verilen ırkçılık ve ayrımcılık konusunda değerli bir konumda bulunuyor. Olgularını daha çok Kuzey Amerika kesiminden alan ve büyük nispette beyaz Amerikalıların çalıştıkları Silikon Vadisi’ndeki yapay zeka sistemleri Asyalı ve Afrikalı kişiler üzerinde denendiğinde büyük dertlere yol açabiliyor.

Hukuk meydanında da kullanılması planlanan yapay zeka birebir devirde ön yargılı donelerle beslendiği takdirde siyahi kişileri daha ziyade hatalı bulması gibi durumlara da neden olabiliyor. Bilirkişiler bu sebeple yapay zeka algoritmasının taraflılığı ve ayrımcılık gibi durumların önüne geçmek için eğitim datalarının, azınlıkları dezavantajlı duruma düşürmeyecek halde hazırlanması ve düzenlenmesi gerektiği konusunda uyarıyor.