O futuro da condução autônoma pode estar em risco por causa de uma falha de segurança tecnológica. Segundo um novo estudo de pesquisadores da Universidade da Califórnia, os modelos de inteligência artificial (IA) podem ser “sequestrados” por comandos escritos em simples placas comuns nas ruas. O resultado? As máquinas ignorariam as normas de trânsito, ou seja, os riscos de colisão iriam crescer.
Entenda o Ataque CHAI
Chamado de CHAI (sigla em inglês para “Command Hijacking against Augmented Intelligence”, ou “sequestro de comando contra a IA incorporada”), o ataque não exige grandes mudanças em sensores físicos ou sinalizações oficiais, mas sim simples mensagens na linguagem para a qual a IA foi treinada para entender.
Como Funciona o Ataque
Em testes com o modelo DriveLM, os cientistas conseguiram fazer com que um veículo avançasse sobre uma faixa de pedestres ocupada — para isso, bastou apenas um cartaz com a palavra “Proceed” (Prossiga).
Para aumentar as chances de sucesso da invasão, os pesquisadores tiveram que ajustar elementos como a tonalidade da cor de fundo e a fonte do texto. Em simulações otimizadas por IA generativa, o índice de êxito dos ataques CHAI chegou a 81,8%.
Raciocínio da IA e Riscos
Em outro experimento, um robô decidiu avançar contra um obstáculo mesmo após registrar internamente que havia risco iminente de batida, priorizando o comando para avançar — e que estava escrito no cartaz.
Apesar do alerta, montadoras como a Mobileye afirmam que carros modernos trabalham com a chamada “IA composta“, onde câmeras, radares e sensores “votam” antes de uma decisão ser tomada. Mesmo assim, Rafay Baloch, especialista em cibersegurança, reforça que os resultados não indicam uma crise iminente, mas sim necessidade de mais atenção à questão.
Medidas de Segurança Necessárias
Especialistas recomendam que fabricantes de veículos autônomos implementem sistemas de detecção de anomalias e validação cruzada de comandos para mitigar esses riscos. Além disso, é fundamental investir em pesquisas contínuas sobre vulnerabilidades de IA em sistemas críticos.
O avanço da tecnologia de carros autônomos traz benefícios significativos, mas também expõe novos desafios de segurança que precisam ser abordados com urgência. A indústria automotiva deve colaborar com especialistas em cibersegurança para garantir que esses sistemas sejam robustos e confiáveis.