Yapılan son araştırma, sürücüsüz araç yazılımlarının, koyu tenli insanları ve çocukları daha zor tespit ettiğini ortaya çıkardı. Bu ilginç tespitin içeriği haberimizde.
Kings College London tarafından yapılan yeni bir araştırmaya göre, sürücüsüz araç sistemlerinin ciddi bir sorunu olduğu ortaya çıktı. Araştırmada, otonom sürüş araştırmaları için kullanılan sekiz yapay zeka destekli yaya algılama sistemi incelendi. Araştırmacılar 8.000'den fazla görüntüyü yazılımla analiz etti ve sürücüsüz araç sistemlerinin yetişkinleri tespit etmekte çocuklara göre yaklaşık % 20, açık tenli yayaları tespit etmekte ise koyu tenlilere göre % 7,5 daha iyi olduğunu buldu. Bu durum yapay zekanın özellikle düşük ışık altında koyu tenli insanları tespit etmede daha düşük performans gösterdiği anlamına gelmektedir, bu da teknolojinin gece saatlerinde güvenliğini daha da azaltmaktadır.
Bu araştırma sonuçlarına göre, çocuklar ve beyaz olmayan bireyler için yolun karşısına geçmek yakın gelecekte daha riskli hale gelebilir. Araştırmanın yazarlarından Dr. Jie Zhang, "Adalet, yapay zeka söz konusu olduğunda ayrıcalıklı ve ayrıcalıksız gruplara eşit davranabilme yeteneğidir; ancak otonom araçlar söz konusu olduğunda bu eşitlik sağlanmamaktadır." şeklinde bir açıklama yaptı.
Bu çalışma, mevcut sürücüsüz otomobil şirketlerinin zaten yollarda kullandığı yazılımın benzerini test etmedi, ancak otomobillerin artan yaygınlığı, güvenlik endişelerini artırmaktadır. Kaliforniya eyalet hükümeti bu ay, Waymo ve Cruise gibi şirketlere San Francisco'da 24 saat sürücüsüz taksi hizmeti sunma izni verdi. Ancak teknoloji zaten şimdi bile kazalara neden olmakta ve protestolara yol açmaktadır.
Araştırmacılara göre, teknolojinin çocuklar ve koyu tenli bireylerle ilgili sorunları, yapay zekanın eğitilmesinde kullanılan verilerin özellikle yetişkin ve açık tenli bireyleri içerdiği eğiliminden kaynaklanmaktadır.
Algoritmalar, veri setlerinde ve bu verileri oluşturan insanların önyargılarını yansıtabilme eğilimindedir. Bu durumun örneklerinden biri, yüz tanıma yazılımlarının özellikle kadınların, koyu tenlilerin ve Asyalıların yüzlerini daha az doğru teşhis etmesidir. Bu tür bir önyargı, veri setlerinde daha az çeşitlilik bulunan ve genellikle daha fazla temsil edilmeyen grupların yanlış sınıflandırılmasına neden olabilir. Bu da teknolojinin eşitsizliği artırma potansiyeline işaret etmektedir. Bu tür örnekler, yapay zekanın geliştirilirken önyargılardan kaçınmanın ve eşit temsilin önemini vurgulamaktadır. Özetle sürücüsüz araçlar esmerleri tespit etmekte zorlanıyor.
Comments