Судя по новому исследованию Королевского колледжа Лондона, системы беспилотных автомобилей сталкиваются с проблемой предвзятости данных.
Ученые изучили восемь систем обнаружения пешеходов, использующих искусственный интеллект, которые применяются в автономных транспортных средствах. Результаты показали, что эти системы обнаруживают взрослых пешеходов на 20% лучше, чем детей, и на 7,5% более успешно распознают светлокожих пешеходов в сравнении с темнокожими. Особенно заметна недостаточная эффективность распознавания темнокожих людей при слабом освещении и низких настройках, что вызывает вопросы о безопасности в ночное время.
Исследователи отмечают, что справедливость в отношении искусственного интеллекта достигается, когда системы одинаково эффективно работают с разными группами людей. Доктор Цзе Чжан, один из авторов исследования, высказал обеспокоенность тем, что беспилотные автомобили не проявляют такой равноправной обработки пешеходов. Он также отметил, что производители автомобилей не предоставляют подробной информации о используемом программном обеспечении, но предположил, что многие из них используют аналогичные системы с открытым исходным кодом, которые подверглись исследованию.
Исследование не включало программное обеспечение, используемое в реальных беспилотных автомобилях, но эксперты считают, что оно усиливает обеспокоенность о безопасности, поскольку автономные транспортные средства все более интегрируются в повседневную жизнь. В этом контексте становится более актуальной проблема аварий и конфликтов в связи с использованием такой технологии.
Крупные компании, занимающиеся беспилотными автомобилями, такие как Waymo и Cruise, пока не предоставили комментарии по этому вопросу. Однако представитель Waymo подчеркнул, что их технология полагается не только на камеры, но и на другие датчики, такие как лидары и радары, для обнаружения пешеходов.
Эксперты считают, что проблема предвзятости данных, используемых для обучения искусственного интеллекта, является ключевым фактором недостатков в распознавании пешеходов различных групп. Однако компании, такие как Waymo, заявляют о работе над устранением этих недостатков и создании более репрезентативных наборов данных для обучения своих систем.
Сложность балансирования между точностью, безопасностью и справедливостью в системах искусственного интеллекта ставит перед индустрией беспилотных автомобилей серьезные вызовы, которые требуют внимательного рассмотрения и дальнейших усилий для улучшения технологии.
ThinkTanks.by может не разделять мнение авторов исследований и публикаций.