O que aconteceu?
O Google Threat Intelligence Group tornou público que afirma ter impedido um ciberataque baseado numa vulnerabilidade zero-day. Essa falha teria sido descoberta com o auxílio de uma técnica de IA. Concretamente, tratava-se de uma vulnerabilidade num script Python que teria permitido contornar a autenticação de dois fatores de uma ferramenta de código aberto, baseada na web, para administração de sistemas. O Google comunicou as informações sobre a falha ao fornecedor afetado no âmbito de um processo de divulgação responsável (Responsible Disclosure) e impediu as atividades de ataque associadas.
Importante para o contexto: o próprio Google presume que a falha não foi descoberta com a sua própria IA, o Gemini. Até ao momento, a empresa não revelou muitos detalhes sobre o caso concreto.
Os detalhes
Segundo informações da própria divisão de segurança do Google, não existe prova direta de que a falha tenha efetivamente sido encontrada com recurso a IA. Em vez disso, a empresa baseia-se em indícios encontrados no código malicioso identificado. Este continha uma grande quantidade de informações detalhadas, incluindo um valor CVSS fictício, além de um formato Python estruturado e didático. Segundo o Google, esse tipo de formato é muito característico dos dados de treino de modelos de linguagem generativos.
Também é notável o tipo de vulnerabilidade em si: ela teria sido muito difícil de encontrar com as ferramentas de segurança convencionais. Os modelos de IA, por outro lado, tendem a ter um desempenho particularmente bom na busca por exatamente esse tipo de vulnerabilidades — sendo capazes de identificar erros lógicos ocultos que parecem funcionalmente corretos para scanners clássicos, mas que representam falhas graves do ponto de vista da segurança.
Contextualização
O anúncio do Google enquadra-se numa tendência já alertada há semanas: o possível início de uma era de ciberataques potenciados por IA. Como base dessa evolução, é mencionado principalmente o modelo de IA Claude Mythos Preview, que seria tão eficaz na busca por vulnerabilidades de segurança que o seu fabricante, a Anthropic, optou por não o disponibilizar publicamente. Em vez disso, apenas empresas selecionadas têm acesso, para melhorar a própria segurança de TI.
Essa evolução já tem consequências mensuráveis: em alguns softwares, foram recentemente encontradas e corrigidas um número particularmente elevado de vulnerabilidades. Na Mozilla, chega-se mesmo a considerar que, em princípio, todos os erros de software poderiam ser detetáveis e que o lado defensor poderia ganhar a corrida contra os atacantes. No entanto, ainda há um longo caminho a percorrer até lá — e o posicionamento atual do Google sugere que também atores maliciosos podem, entretanto, ter acesso a ferramentas igualmente poderosas.
Dicas práticas
- Os operadores de ferramentas de administração de sistemas baseadas na web devem instalar atualizações de segurança prontamente, especialmente quando os mecanismos de autenticação de dois fatores são afetados.
- Os responsáveis por software de código aberto devem estabelecer ou manter processos de divulgação responsável (Responsible Disclosure), de modo a poder beneficiar rapidamente de relatórios como o do Google.
- As equipas de segurança de TI devem familiarizar-se com as características de código malicioso gerado por IA, como código estruturado e didático de forma incomum ou informações adicionais atípicas, como valores CVSS fictícios, para detetar ataques precocemente.
- Como os scanners clássicos nem sempre detetam determinados erros lógicos de forma fiável, o uso complementar de ferramentas de análise baseadas em IA pode ser útil do lado defensor.
Perspetivas
O incidente relatado pelo Google demonstra, de forma exemplar, como os modelos de IA estão a transformar o panorama da cibersegurança em ambos os lados: ajudam a encontrar e corrigir vulnerabilidades, mas também podem ser utilizados por atacantes para identificar falhas antes que sejam conhecidas pelos defensores. Quanto tempo esta fase irá durar e se, como se presume na Mozilla, o lado defensor acabará por prevalecer a longo prazo, é algo que permanece em aberto. O que é certo, no entanto, é que empresas e programadores precisam de se preparar para um cenário de ameaças em mudança, no qual as ferramentas de ataque potenciadas por IA deverão desempenhar um papel cada vez mais relevante.
