Российским и израильским ученым удалось обмануть продвинутую систему помощи водителю (ADAS) в электромобиле Tesla Model X, воспользовавшись обычным проектором.
Чтобы доказать уязвимость современных систем автопилота для автомобилей, инженеры провели несколько опытов. Они «нанесли» на дорогу пешеходов, различные разметки и машины, использовав для этого проектор, прикрепленный к летающему дрону. В результате ИИ электрокара воспринял их за реальные угрозы и заставил транспорт выехать на встречную полосу, где вполне могло оказаться настоящее авто.
Ученые провели данный эксперимент, чтобы выявить уязвимые места ADAS. Они также предложили защиту от подобных атак. По словам специалистов, необходимо научить нейросети проводить фильтрацию объектов, чтобы они смогли определять среди них ненастоящие элементы. Результаты исследования уже были направлены в компанию Tesla.