Verde en lugar de rojo - Coches autónomos engañados con un simple truco

Los piratas informáticos usan láseres

27 de abril de 2022 19:26 Roberto Klatt

Hasta ahora, difícilmente se podía engañar a la detección de fase de semáforo de los coches autónomos. Un simple truco ahora ha logrado una tasa de éxito muy alta.

Hangzhou (China). Cada vez más empresas están probando vehículos de motor con funciones de conducción automatizada y autónoma. Según un estudio en los EE. UU., estos podrían completar la mayoría de los viajes de camiones de larga distancia en los próximos años sin conductores humanos. Para que esto realmente se convierta en una realidad, además del marco legal, se requieren sistemas técnicos que estén protegidos contra ataques.

Hasta ahora, la mayoría de las vulnerabilidades se han dirigido contra el reconocimiento de imágenes de los vehículos, que se basa principalmente en una red neuronal. Sin embargo, según una publicación de la revista especializada Cryptography and Security, los científicos ya pudieron demostrar en 2017 que la inteligencia artificial (IA) puede manipularse mediante la entrada de datos modificados (ataques adversarios). Investigadores de la Universidad de Stanford (PDF) demostraron cómo es posible engañar a la IA de un automóvil autónomo en la práctica mediante el uso de tiras adhesivas para unir un patrón discreto de líneas y puntos a las señales de tránsito. Luego, la IA reconoció las imágenes de forma completamente incorrecta en el experimento.

Fases del semáforo difíciles de hackear

Sin embargo, la detección autónoma de las fases del semáforo difícilmente puede ser engañada con los métodos probados hasta ahora. Hasta la fecha, solo un grupo ha logrado hacer esto y publicaron sus hallazgos en las Actas de la Conferencia del Sureste de ACM de 2020. Para ello, redireccionaron el reconocimiento de imagen del semáforo a otra sección de la imagen. Sin embargo, los científicos de la Universidad de Stanford (PDF) no pudieron reproducir este ataque.

En la Conferencia de Usenix (PDF), científicos de la Universidad de Zhejiang han presentado ahora una forma con la que podrían engañar al reconocimiento de imágenes de un vehículo autónomo con una alta tasa de éxito. En casi todos los casos (86 %), el vehículo reconoció un semáforo en verde, aunque en realidad era rojo. Por el contrario, la tasa de éxito (30%) fue significativamente menor.

Ataque a nivel físico

Los investigadores que trabajaron con Chen Yan lograron hacer esto atacando el reconocimiento de semáforos a nivel físico. Para ello, apuntaron un láser a los sensores de cinco modelos de cámara con los que el vehículo reconoce la fase del semáforo. Las imágenes capturadas son analizadas por dos paquetes de software de código abierto.

Según los autores, un láser es suficiente para sobreexponer las cámaras de los automóviles. El reconocimiento de imágenes ya no encuentra un semáforo, aunque según los datos del mapa debería estar allí. El vehículo autónomo termina entonces su viaje y entra en un estado.

Engañar al sistema con el color de semáforo equivocado

Sin embargo, el objetivo real de los científicos era que los sistemas del vehículo autónomo reconocieran el color del semáforo incorrecto. Entonces no podían iluminar las cámaras con una luz tan intensa que dejaban de funcionar porque eso les impedía localizar el semáforo y detener el vehículo.

Para resolver este problema, los científicos utilizaron el llamado "obturador enrollable", que utilizan muchas cámaras en los automóviles autónomos. Este es un proceso en el que no se expone todo el sensor al mismo tiempo, sino que el sensor registra y transmite la información de la imagen línea por línea. La imagen se graba como si una rendija se moviera a través del sensor. Los científicos pudieron aprovechar esto activando el láser solo brevemente cuando el sensor detecta una nueva línea. Crearon una franja horizontal de color que engañó al reconocimiento de imágenes.

La manipulación funciona en la práctica.

Para demostrar su método de ataque, los científicos conectaron el láser a un pequeño telescopio. Consiguieron impactar contra la cámara de un coche autónomo que circulaba a 20 km/h desde una distancia de unos 40 metros. Los científicos recomiendan que las cámaras de los vehículos autónomos ya no procesen las imágenes línea por línea, sino que salten aleatoriamente entre líneas para cerrar la brecha de seguridad.

Criptografía y Seguridad, doi: 10.48550/arXiv.1707.08945

Actas de la Conferencia Sudeste ACM 2020, doi: 10.1145/3374135.3385288