Согласно новому исследованию, проведенному группой ученых из Великобритании и Китая, предвзятость в системах искусственного интеллекта (ИИ) может привести к дискриминации в реальном мире. В частности, программное обеспечение для обнаружения пешеходов в самодвижущихся автомобилях может быть менее эффективным при обнаружении людей с темным цветом кожи и детей.
Исследователи проверили работоспособность восьми популярных детекторов пешеходов. Оказалось, что системы на 19,67% чаще обнаруживали взрослых, а на 7,52% чаще — людей со светлым оттенком кожи.
Цзе Чжан, специалист по информатике из Королевского колледжа Лондона, подчеркнул серьезность этой проблемы, указав, что представители меньшинств могут столкнуться с серьезными травмами.
Исследователи призывают законодателей регулировать программное обеспечение для самоуправляемых автомобилей, чтобы предотвратить предвзятость в их системах обнаружения.