Apple şirketlerinin konuşma tanıma sistemlerinde bir sorun tespit edildi. Sistemin siyah insanlarda hata oranı oldukça yüksekken, beyaz insanlarda daha az hata vermesi; yapay zekanın ”ırkçı” olarak tanımlanmasına neden oldu.

Konuşma tanıma sistemi, bu beş şirket temel alındığında, siyah insanların sözlerini %35 oranında yanlış tanımlarken %20’sini ise hiç tanımlayamıyor. Beyaz insanlarda yalnızca %19 oranında hata yapan sistemin beyazların sözlerini tanımlayamama oranı ise %2 kadar düşük bir değere denk geliyor

Irkçı Yapay Zeka Olur mu?

Yapay zekanın bu ırkçı tutumu; aslında teknolojinin eğitilmesinde çeşitliliğin sağlanamadığının bir göstergesi olarak karşımıza çıkıyor. Google konuyla ilgili yaptığı açıklamada özetle; konuşma çeşitlilikleri üzerinde halihazırdaçalıştıklarını ve konuşma tanıma sistemlerini geliştirmekte olduklarını belirtirken diğer şirketlerden henüz herhangi bir açıklama gelmedi.

Yüz tanıma teknolojisinde de benzer sorunlar çıktığını belirten analistler, teknolojinin hem ırk hem cinsiyet yaptığını, özellikle sohbet botlarının bu ayrımcılığı daha hızlı ve yüksek oranda uygulayabileceğini tespit ettiler.

Yapay Zeka Neden Irkçı Bir Tutum Sergiliyor?

Yapay zekayı temel alan hizmetler çoğunlukla beyaz insanlar tarafından geliştiriliyor ve kullanılıyor. Bu durum siyah insanlara hizmet verebilmek için yapay zekanın topladığı verilerin eksiz ve yetersiz kalmasına neden oluyor. Araştırmacıların, geçen yıl yaptığı ‘’çeşitlilik’’ uyarısına rağmen yapay zekanın ırkçı tutumuyla alakalı geri bildirimler gün geçtikçe daha fazla artarak tepki topluyor.