O Google alerta para a descoberta de novas famílias de malware que empregam inteligência artificial generativa para aprimorar suas capacidades durante a execução. Esses malwares utilizam a IA para criar novos códigos, com o objetivo de roubar dados ou contornar os sistemas de detecção existentes.
Um dos exemplos identificados é o PromptFlux. Esse malware explora a API do Gemini para reescrever seu próprio código-fonte, numa tentativa de evitar a identificação por parte dos sistemas de segurança.
Outro malware, denominado PromptSteal, acessa um LLM hospedado no Hugging Face, com o propósito de gerar linhas de comando a serem executadas em dispositivos infectados, visando o roubo de dados da vítima.
Adicionalmente, o PromptLock surgiu como parte de um estudo acadêmico que investigava a capacidade dos modelos de linguagem de larga escala (LLMs) de planejar, adaptar e executar ataques de ransomware.
O relatório do Google destaca que, embora algumas dessas implementações ainda sejam experimentais, elas servem como um indicador precoce da evolução das ameaças e de como a IA pode ser integrada em futuras atividades de invasão.
O google alerta para o uso de ferramentas de IA
A empresa observa uma mudança em relação ao uso de ferramentas de IA apenas como suporte técnico, indicando uma progressão para abordagens mais sofisticadas.
Apesar dessas descobertas, especialistas em cibersegurança ponderam que os malwares que utilizam inteligência artificial ainda não representam uma ameaça significativa.
Pesquisadores apontam que os prompts presentes nas amostras analisadas são frequentemente fracos ou ineficazes, muitas vezes falhando em alcançar seus objetivos.
Outro ponto abordado no relatório do Google é a descoberta de uma vulnerabilidade nas proteções do Gemini.Um agente malicioso conseguiu induzir a IA a gerar códigos maliciosos, simulando ser um hacker ético participando de uma competição de cibersegurança.
A empresa informa que já implementou ajustes nas configurações para prevenir ataques semelhantes para que os compradores sejam protegidos aos ataques.