O avanço dos agentes autônomos de inteligência artificial está criando novos desafios para a cibersegurança. Um caso recente envolvendo o Gemini, do Google, que durante testes acessou sistemas de três organizações após encontrar e utilizar credenciais, reforça os riscos associados a sistemas capazes de analisar ambientes, tomar decisões e executar tarefas sem intervenção humana a cada etapa. O episódio se soma a outros incidentes envolvendo agentes de IA e coloca em evidência a necessidade de novas estratégias de proteção, isolamento e controle dessas tecnologias.
Outro caso recente envolvendo a Hugging Face também colocou esse risco em evidência. Durante uma avaliação de capacidades de cibersegurança, um agente baseado em modelos avançados da OpenAI, incluindo o GPT-5.6 Sol, teria conseguido executar uma sequência de ações dentro da plataforma, explorando recursos e acessando informações relacionadas ao ambiente de teste. O episódio chamou atenção para os limites dos mecanismos tradicionais de isolamento e supervisão de agentes de IA.
O episódio também acompanha uma tendência que vem sendo observada em testes de segurança. Em março de 2026, o AI Security Institute publicou o estudo Measuring AI Agents’ Progress on Multi-Step Cyber Attack Scenarios, que avaliou agentes de IA em ataques simulados de múltiplas etapas. No melhor resultado, um agente completou 22 das 32 etapas de um ataque contra uma rede corporativa. O instituto também publicou, no mesmo período, uma pesquisa sobre a capacidade de modelos avançados de escapar de ambientes de contêineres, colocando em foco justamente os desafios de isolamento e controle de agentes autônomos.
Para Marcos Santos, diretor executivo (CEO) da Aquarela Analytics, a principal mudança está na autonomia e na velocidade desses sistemas.
“O que destaca esse cenário é que não se trata de falhas encadeadas, mas de uma sequência planejada e executada usando um arsenal massivo de computação e uma velocidade sem precedentes, de forma a escapar de mecanismos de detecção que não tiveram tempo hábil de reação”.
O executivo também alerta que capacidades desse nível podem chegar a organizações com grande poder computacional e financeiro.
“A quantidade de recursos computacionais, o que implica em uma grande quantidade de dinheiro e conhecimento técnico, não está acessível a fraudadores individuais, mas sim está ao alcance de nações e entidades de grande porte que, porventura, tenham intenção de agir dessa maneira”.
Para reduzir esses riscos, Santos defende maior controle sobre os ambientes em que agentes de IA são executados, incluindo mecanismos de isolamento físico.
“Nada haveria ocorrido se fosse usado um Air Gap, onde esses mecanismos são isolados fisicamente e não logicamente. Essa técnica é muito conhecida pelos especialistas de segurança”.
A inteligência artificial, porém, também pode ser usada na defesa. Para Santos, modelos executados na própria infraestrutura das empresas podem analisar grandes volumes de logs e identificar comportamentos anômalos.
O avanço dos agentes também traz desafios regulatórios. No Brasil, o PL 2338/2023, que trata da regulamentação da inteligência artificial, segue em tramitação na Câmara dos Deputados.
“Este é um debate que ainda é uma zona cinzenta na legislação brasileira. A lei que regulamenta a IA foi aprovada pelo Senado, mas ainda não foi tramitada na Câmara, além de ter vários pontos de debate que ainda não estão pacificados”.
Para o especialista, a preparação das empresas precisa acompanhar a evolução tecnológica.
“Na IA, fogo se combate com fogo: precisamos ter capacidade de usar a própria tecnologia para detectar, responder e controlar novos riscos”.
Ajude o Correio a crescer e a melhorar!
