Беспилотные автомобили оказались расистами: не замечают афропешеходов
Фото: Shutterstock
Беспилотные автомобили оказались расистами: не замечают афропешеходов

Кто бы мог подумать, что автономные автомобили, за которыми — вне всякого сомнения — будущее, обладают селективным зрением. К примеру, своим "машинным зрением" беспилотный автомобиль прекрасно видит светлокожих людей, а при встрече с темнокожими  может их просто не разглядеть. 

Столь "расистское" поведение было обнаружено исследователям из американского технологического института Джорджии, где при тестировании автопилотов разных моделей обнаружилось, что некоторые системы, с помощью которых автомобиль наделяется «машинным зрением», гораздо хуже срабатывают, встречая на дороге пешехода с темным цветом кожи. 

Во время анализа видеоматериалов, отснятых на улицах Нью-Йорка, стало ясно – системы по-разному реагируют на пешеходов различных рас, и хуже всего они реагируют на темнокожих людей, особенно одетых в темные одежды, и переходящих дорогу в темное время суток. В подобной ситуации значительно возрастает опасность столкновения, так как датчики беспилотного автомобиля не могут понять, что встреченный объект – это пешеход, а автомобильный компьютер и автопилот не могут предсказать дальнейшее поведение такого "препятствия". 

Следует отметить, что подобная проблема, по мнению специалистов, не свойственна всем системам автопилотирования беспилотных автомобилей. 

Еще одной сложной задачей, с которой столкнулись разработчики беспилотников, является распознавание полицейского и его требований. Научить автомобиль останавливаться на красный свет относительно просто, заставить его предугадывать намерения пешеходов или полицейских и останавливаться, когда этого требует представитель власти, намного сложнее. 

Над этой проблемой активно работают специалисты компания Waymo. Так, в январе их автономный автомобиль смог остановиться на запрещающий сигнал регулировщика. Полицейский стоял на перекрестке, управляя потоками, и автономная машина продолжила движение только после того, как получила от него разрешение. В компании Waymo также разработали программное обеспечение, которое останавливает автономный автомобиль, если сзади появляется патрульная машина с включенными спецсигналами. 

И еще одна напасть. Исследование, проведенное университетами Райса и Техасским техническим университетом, показало, что когда автоматизированные транспортные средства не замечают опасности, водители также могут их пропустить. Кроме того, чем дольше водитель пользуется автоматизированной системой вождения, тем больше вероятность пропустить опасность. Результаты исследования показали, что при управлении автоматизированным автомобилем в течение первых 10 минут точность определения и реагирования водителя на возможные опасности была самой высокой – около 88 процентов. Через 40 минут симуляции — точность упала до 7- 21 процентов. По мнению исследователей, наиболее вероятным объяснением продолжающегося снижения реакции на опасность является то, что люди привыкают к тому, что автомобиль едет сам, и  расслабляются. 

Олег Каль

counter
Comments system Cackle