IA pode introduzir falhas irreversíveis em chips, alertam pesquisadores

IA – Pesquisadores da Universidade de Nova York (NYU) alertam que modelos de linguagem avançados (LLMs) podem ser explorados para introduzir “trojans de hardware” — falhas maliciosas embutidas diretamente em chips e circuitos.

O risco foi identificado em um estudo publicado na revista IEEE Security & Privacy, após uma competição internacional de segurança chamada Desafio de Ataque de Hardware de IA, que durou dois anos.

LEIA: Golpe usava IA para criar orações personalizadas para vítimas

Durante o desafio, equipes usaram inteligência artificial generativa para analisar códigos e encontrar pontos vulneráveis em projetos abertos, como processadores RISC-V e aceleradores criptográficos. As ferramentas automatizadas não só detectaram falhas, mas também criaram e inseriram modificações capazes de vazar informações, abrir brechas de acesso (“backdoors”) ou travar sistemas sob certas condições.

O mais preocupante, segundo os pesquisadores, é que até estudantes com pouca experiência conseguiram produzir falhas de gravidade média a alta com a ajuda da IA. Alguns participantes, inclusive, driblaram filtros de segurança dos modelos pedindo respostas em outros idiomas ou simulando contextos acadêmicos.

Falhas permanentes

Diferente de um software, um chip físico não pode ser atualizado ou corrigido depois de fabricado. Isso significa que uma vulnerabilidade inserida por IA permanece ativa durante toda a vida útil do componente, podendo comprometer sistemas inteiros.

Os autores do estudo defendem a criação de filtros mais rigorosos nos modelos de linguagem e o desenvolvimento de ferramentas avançadas de verificação de segurança de hardware.
Eles também alertam que o avanço de modelos de código aberto especializados pode tornar esses ataques ainda mais acessíveis, ampliando os riscos para o setor de tecnologia e para a segurança global.

(Com informações de Olhar Digital)
(Foto: Reprodução/Freepik/Chano_1_Na)