Ученые нашли способ обмануть автономный автомобиль

323

Компьютер, управляющий беспилотным автомобилем, легко обмануть. К такому выводу пришли американские ученые после ряда экспериментов.

Доклад, опубликованный группой исследователей из университетов штата Мичиган, Стори Брук, Вашингтона и Калифорнии, подтверждает опасения скептиков относительно возможностей беспилотных автомобилей. Существуют простые способы обмануть компьютер, который управляет машиной без водителя.

Главным элементом доклада является технология Deep Neural Network. Это архитектура программного обеспечения, используемая в устройствах и системах, требующих интерпретации получаемых данных. Без этой технологии автономные автомобили не могут передвигаться, контролировать ситуацию на дороге и принимать решения о том, как поступать в той или иной ситуации. Все это возможно в результате обработки информации, поступающей с видеокамер, сенсоров и лазерных устройств.

На основе этих данных компьютер не только оценит расстояние до ближайшего препятствия, но и сумеет отличить человека от недвижимого объекта.

Алгоритмы, исключающие неверную интерпретацию данных, очень сложны и несовершенны. То, что сделает человек, основываясь на собственном опыте, машина не всегда способна повторить. Если знать особенности построения программы для бортового компьютера, обеспечить его фальсифицированными данными несложно.

Ученые продемонстрировали простой пример, подтверждающий выводы доклада. Они прицепили на знак остановки обычный лист чистой бумаги. Этого оказалось достаточно, чтобы беспилотник воспринял новинку, как совершенно другой знак.

Результаты исследований уже вызвали бурную дискуссию в среде специалистов и автолюбителей. Только разработчикам программного обеспечения для автономных машин придется решать возникшую проблему. И это будет совсем не так просто сделать, как бы хотелось.

ОСТАВЬТЕ ОТВЕТ