„Халюцинация“ се превърна в изненадващо популярна дума в света на авангардните технологии. Ако сте работили с ChatGPT или друг изкуствен интелект, знаете, че те могат да халюцинират и да създадат напълно невярно (но убедително) съдържание. Както се оказва, те не са единствените, които го правят: колите също могат да халюцинират.
Сетивата ти те лъжат, кола
Самоуправляващите се автомобили, известни още като автономни превозни средства, работят с помощта на комбинация от модерни технологии за навигация и шофиране без човешка намеса. В основата на тези превозни средства е сложна система, която включва сензори, камери, радар и лидар (засичане на светлина и обхват) за събиране на данни за заобикалящата колата среда.
ОЩЕ: Калифорния забрани роботакситата след нов инцидент
След това тези данни се обработват от мощни бордови компютри, които изграждат подробна карта на околната среда, включително други превозни средства, пешеходци, пътни знаци и маркировки на платната. Системата използва тази информация, за да взема решения в реално време, като например кога да ускори, да спре или да завие, позволявайки на автомобила да навигира безопасно през различни условия на движение.
Но какво ще стане, ако вземете кола, за да „видите“ неща, които не са там?
Инженерите от университета Дюк, ръководени от Мирослав Паич, доцент по електротехника и компютърно инженерство в Асоциация Фамилия Дикинсън, и Тингджун Чен, асистент по електротехника и компютърно инженерство, са направили точно това. Те са създали система, която наричат MadRadar, която може да заблуди колите да повярват на почти всичко.
MadRadar атакува радарните сензори на автомобила. Не е необходимо да знае какъв тип радар използва колата на жертвата и може да прави какво ли не. Тя може да създаде „автомобил фантом“, който не съществува; може да накара колата жертва да мисли, че друга кола е в различна позиция; може дори напълно да скрие съществуването на други автомобили.
„Без да знаем много за радарната система на набелязания автомобил, можем да накараме мнимо превозно средство да се появи от нищото или да накараме истинско превозно средство да изчезне в експерименти в реалния свят – казва Паич. – Ние не изграждаме тези системи, за да навредим на някого, ние демонстрираме съществуващите проблеми с настоящите радарни системи, за да покажем, че трябва фундаментално да променим начина, по който ги проектираме.“
Ще ни трябва по-добър радар
Радарът е само един от многото сензори, които автомобилите използват. Радарът служи за откриване на движещи се превозни средства пред колите и встрани от тях. Той също така подобрява визуалните и лазерните сензори. Но очевидно можете да затрупате тези радарни сензори с подвеждащи сигнали.
Първата стъпка е да откриете параметрите на радара на автомобила. Това не било голямо предизвикателство – MadRadar може да го направи за по-малко от секунда. След това, след като параметрите са известни, системата може да персонализира своя сигнал, за да заблуди радара на целта.
ОЩЕ: Автопилотът може да предотврати само една трета от катастрофите
При една демонстрирана атака MadRadar имитирал сигнала на друга кола и накарал жертвата да мисли, че там има кола, когато не съществува. Системата може да направи и обратното, като маскира автомобил и го прави да изглежда невидим за радара. При най-сложния тип атака те направили да изглежда така, че кола бързо се движи към жертвата.
Представете си следния сценарий. Самоуправляваща се кола се заблуждава, че друга кола внезапно се насочва към нея. За да избегне опустошителен сблъсък, колата на жертвата може да излезе извън пътя или дори да причини верижна катастрофа.
Не е трудно да се разбере защо това е такъв проблем.
Как да се защитим от подобни атаки?
Най-важното е да сте наясно, че тези атаки са възможни и да се опитате да развиете защитни механизми. Тези демонстрации на атаки не са извършени в лаборатория, а в реални автомобили, движещи се в реалистични сценарии.
Изследователите препоръчват производителите на автомобили първо да внедрят система за рандомизиране, която променя работните параметри на радарната система. Но това само по себе си няма да защити автомобилите и е важно да бъдат добавени предпазни мерки към алгоритмите за обработка, за да се забевежат подобни атаки.
Това не се отнася само до автомобилите. Един и същ тип атаки могат да се използват на различни видове машини.
„Тези уроци далеч надхвърлят радарните системи в автомобилите – казва Паич. – Ако искате да създадете дронове, които могат да изследват тъмни среди, като при операции по търсене и спасяване или разузнаване, които не струват хиляди долари, радарът е правилният начин.“
Можете да видите видеорезюме за това как работи тази система тук.
