A inteligência artificial está modificando a segurança cibernética ao ampliar a capacidade de automatizar tarefas, analisar informações e produzir conteúdos utilizados tanto na proteção quanto em atividades criminosas. Relatórios de organizações especializadas mostram que agentes maliciosos já utilizam modelos generativos para pesquisar alvos, produzir mensagens de engenharia social, auxiliar no desenvolvimento de códigos e acelerar determinadas etapas de operações digitais. Em setembro de 2026, o Google Threat Intelligence Group documentou uma campanha de coleta de credenciais que utilizou automação apoiada por agentes de IA depois do comprometimento de um recurso em nuvem. Entretanto, isso não significa que todos os ataques atuais sejam produzidos por inteligência artificial ou que os criminosos tenham desenvolvido capacidades ilimitadas. A maior parte das ameaças continua dependendo de técnicas conhecidas, incluindo exploração de vulnerabilidades, roubo de credenciais e manipulação de usuários. A própria IA também pode auxiliar equipes de defesa a identificar comportamentos suspeitos, analisar grandes volumes de dados e responder mais rapidamente a incidentes.

O debate sobre inteligência artificial e cibersegurança costuma apresentar dois extremos. De um lado, existe a ideia de que modelos automatizados poderiam eliminar praticamente todos os riscos digitais. De outro, aparecem previsões de ataques capazes de comprometer qualquer sistema sem intervenção humana. Nenhuma dessas interpretações descreve adequadamente o cenário documentado pelas pesquisas mais recentes.

A inteligência artificial pode ampliar a produtividade de diferentes atividades, inclusive aquelas realizadas por criminosos. Entretanto, os resultados dependem das ferramentas utilizadas, da infraestrutura disponível, das informações acessíveis e das limitações técnicas dos sistemas.

Essa distinção é importante porque muitos procedimentos apresentados atualmente como ataques de IA já existiam antes da popularização dos modelos generativos. Phishing, engenharia social, exploração de falhas e automação de tarefas fazem parte da segurança digital há décadas. O que muda é a possibilidade de realizar determinadas atividades com maior velocidade, escala e adaptação.

RESUMO INFOALFA

  • Modelos de IA podem auxiliar criminosos na produção de mensagens fraudulentas, pesquisas e automação de tarefas.
  • O uso de IA não transforma automaticamente phishing, malware ou roubo de credenciais em técnicas inteiramente novas.
  • Relatórios de 2026 documentaram operações com agentes de IA utilizados para acelerar atividades maliciosas.
  • A investigação de vulnerabilidades e a análise de registros também podem ser apoiadas por IA em equipes de defesa.
  • Resultados experimentais, incidentes confirmados e projeções sobre ameaças futuras representam categorias diferentes de evidência.
  • A proteção continua dependendo de autenticação, atualização de sistemas, controle de acessos, monitoramento e treinamento.

Como a IA já aparece em ataques cibernéticos documentados

Uma das aplicações mais conhecidas de inteligência artificial em atividades criminosas está na engenharia social. Modelos generativos podem produzir textos coerentes, adaptar mensagens a diferentes idiomas e organizar conteúdos que imitam comunicações profissionais.

Em uma tentativa de phishing, o criminoso procura convencer uma pessoa a fornecer credenciais, acessar uma página fraudulenta ou executar determinada ação. O uso de IA pode facilitar a elaboração da mensagem, mas não modifica a necessidade de induzir o destinatário a realizar o comportamento desejado.

Antes da popularização dos modelos de linguagem, campanhas fraudulentas já utilizavam mensagens padronizadas e sistemas de envio em massa. A diferença está na possibilidade de produzir variações com maior rapidez e adaptar o conteúdo conforme informações disponíveis sobre o alvo.

Isso pode dificultar a identificação baseada exclusivamente em erros de português ou formatação inadequada. Uma mensagem bem escrita não representa comprovação de autenticidade, assim como um texto com erros não demonstra automaticamente que foi elaborado por criminosos.

A utilização de recursos de geração de voz e imagem também amplia possibilidades de falsificação de identidade. Sistemas capazes de produzir conteúdos sintéticos podem ser utilizados para simular falas ou aparências de pessoas, contribuindo para determinados golpes.

Entretanto, é necessário verificar o contexto de cada ocorrência. A existência de tecnologia capaz de reproduzir voz ou imagem não comprova que todo golpe envolvendo identidade falsa tenha utilizado inteligência artificial.

O relatório ENISA Threat Landscape 2025, publicado pela Agência da União Europeia para a Cibersegurança, identificou o uso de modelos de linguagem por agentes maliciosos em atividades de engenharia social, pesquisa e desenvolvimento de ferramentas.

O documento também registrou a utilização de páginas que imitavam serviços legítimos de inteligência artificial para distribuir programas maliciosos. Nesse caso, o nome de uma ferramenta de IA funcionava como isca para atrair vítimas, mas o ataque não dependia necessariamente de um modelo generativo executando ações autonomamente.

Essa distinção mostra que existem diferentes formas de associação entre IA e ataques digitais. Uma campanha pode utilizar IA para produzir mensagens, explorar a popularidade de aplicativos de IA ou tentar empregar agentes automatizados em etapas técnicas.

O Google Threat Intelligence Group apresentou uma avaliação semelhante em janeiro de 2025. Naquele momento, a equipe observava principalmente ganhos de produtividade para agentes maliciosos, sem comprovação de capacidades totalmente novas capazes de transformar radicalmente todas as técnicas utilizadas.

Entretanto, os relatórios posteriores documentaram evolução. Em setembro de 2026, o grupo publicou uma análise sobre a passagem de atividades assistidas por comandos simples para processos mais automatizados.

Segundo os pesquisadores, durante o segundo trimestre de 2026 foi observada uma operação na qual agentes maliciosos comprometeram um recurso de computação em nuvem e utilizaram ferramentas apoiadas por IA para planejar, desenvolver e executar uma campanha de coleta de credenciais em menos de seis horas.

O caso demonstra a possibilidade de reduzir o tempo necessário entre uma etapa inicial de comprometimento e a execução de atividades posteriores. Entretanto, não significa que a inteligência artificial tenha realizado toda a operação sem infraestrutura, instruções ou participação humana.

O acesso inicial ao recurso de nuvem já havia sido obtido, e a automação ocorreu dentro de uma operação criminosa que dependia de outras condições técnicas.

A redução do tempo de execução pode dificultar a resposta das equipes de segurança, especialmente quando procedimentos manuais exigem várias etapas de investigação e autorização. Por isso, o benefício da automação também precisa ser considerado na defesa.

Outro exemplo documentado envolve uma campanha de espionagem cibernética divulgada pela Anthropic em novembro de 2025. A empresa informou ter identificado e interrompido uma operação que utilizava capacidades de agentes de IA para executar diversas tarefas relacionadas a tentativas de intrusão.

Segundo a investigação da própria fabricante, os responsáveis procuraram utilizar sua ferramenta Claude Code contra aproximadamente 30 alvos, obtendo sucesso em um número limitado de casos. A Anthropic atribuiu a campanha, com alto grau de confiança, a um grupo patrocinado pelo Estado chinês.

Essa atribuição representa a avaliação técnica apresentada pela empresa, não uma conclusão judicial universalmente estabelecida. Os resultados também devem ser interpretados conforme as informações divulgadas pela própria organização responsável pela investigação.

A importância do caso está na utilização de sistemas automatizados para encadear tarefas técnicas, incluindo análise de ambientes, identificação de informações e execução de procedimentos sob orientação dos operadores.

Entretanto, o episódio não demonstra que qualquer pessoa consiga realizar invasões complexas apenas solicitando ajuda a um chatbot. A operação envolveu agentes maliciosos com conhecimentos, infraestrutura e objetivos específicos.

A evolução das capacidades também pode criar riscos relacionados à utilização indevida de assistentes de programação. Ferramentas que analisam códigos e sugerem alterações podem ser úteis para profissionais legítimos, mas também podem auxiliar na identificação de problemas técnicos por pessoas não autorizadas.

O risco depende do acesso às informações e das atividades realizadas. A identificação de vulnerabilidades em um projeto autorizado não é equivalente à exploração de sistemas de terceiros sem permissão.

Os relatórios técnicos reforçam que a inteligência artificial está sendo incorporada a operações criminosas, mas não permitem concluir que todas as campanhas recentes dependam dessa tecnologia. Phishing convencional, credenciais comprometidas e exploração de falhas continuam desempenhando papéis importantes.

Como a mesma tecnologia pode fortalecer a defesa digital

As organizações responsáveis pela proteção de sistemas precisam analisar grandes volumes de registros, alertas e informações técnicas. Em ambientes complexos, a quantidade de dados pode dificultar a identificação rápida de eventos realmente relevantes.

Ferramentas de inteligência artificial podem auxiliar na classificação de alertas, identificação de padrões e correlação de informações provenientes de diferentes fontes. Esses recursos procuram reduzir o tempo necessário para localizar comportamentos suspeitos e apoiar decisões de resposta.

Entretanto, a automação não elimina a necessidade de validação. Um sistema pode classificar determinada atividade legítima como ameaça ou deixar de identificar um comportamento malicioso. Esses erros são conhecidos como falsos positivos e falsos negativos.

Por isso, a utilização de IA em segurança exige monitoramento de desempenho, revisão de critérios e definição de responsabilidades. Uma decisão automatizada que bloqueia serviços ou altera configurações críticas pode produzir consequências mesmo quando foi iniciada com finalidade defensiva.

Outro campo de aplicação está na análise de vulnerabilidades. Modelos especializados podem auxiliar equipes a examinar códigos, identificar padrões de erro e sugerir correções. Entretanto, a identificação automática de uma possível falha não comprova que ela possa ser explorada efetivamente.

Os resultados precisam ser testados e avaliados por profissionais responsáveis. Uma sugestão de correção também pode introduzir novos problemas se for aplicada sem compreender o funcionamento da aplicação.

Na resposta a incidentes, a IA pode ajudar a organizar cronologias, resumir registros e relacionar informações de diferentes sistemas. Esse apoio pode ser útil quando uma equipe precisa compreender rapidamente a sequência de acontecimentos.

Entretanto, dados coletados durante investigações podem conter informações confidenciais ou pessoais. A utilização de modelos externos exige atenção ao tratamento desses dados, às políticas de retenção e às obrigações legais aplicáveis.

O uso de IA também cria novos riscos específicos. Um assistente que recebe instruções de documentos, páginas ou mensagens pode ser exposto a conteúdos preparados para alterar seu comportamento. Esse tipo de ameaça é conhecido como injeção de prompt.

Em uma situação de injeção de prompt, o conteúdo malicioso tenta fazer com que o sistema interprete dados externos como instruções operacionais. O risco depende dos recursos disponíveis ao assistente e das permissões concedidas.

Se uma ferramenta automatizada possui acesso a arquivos, sistemas corporativos ou serviços externos, é necessário estabelecer limites claros sobre quais ações pode executar. Uma resposta inadequada torna-se mais grave quando consegue acionar operações sem confirmação.

Isso significa que proteger sistemas de IA exige considerar tanto os métodos tradicionais de segurança quanto as características específicas de modelos generativos e agentes.

A CISA, agência norte-americana de segurança cibernética e infraestrutura, recomenda integrar práticas de segurança ao desenvolvimento e à implantação de sistemas de inteligência artificial. Os documentos produzidos em conjunto com autoridades internacionais destacam controle de acessos, proteção de dados e monitoramento contínuo.

Essas orientações estão relacionadas à ideia de segurança desde o projeto, conhecida pela expressão inglesa secure by design. O objetivo é incorporar medidas preventivas à arquitetura dos sistemas, em vez de depender exclusivamente de correções depois da ocorrência de problemas.

O mesmo princípio vale para a utilização de agentes. Uma organização precisa definir quais informações podem ser acessadas, quais ferramentas estão autorizadas e em quais situações é necessária aprovação humana.

Também é importante separar os dados utilizados para análise das instruções que controlam o funcionamento do sistema. Essa distinção pode reduzir os efeitos de conteúdos maliciosos encontrados durante a execução de tarefas.

TRÊS SITUAÇÕES DIFERENTES ENVOLVENDO IA E CIBERSEGURANÇA

Técnica tradicional com auxílio de IA: utilização de modelos para redigir mensagens fraudulentas, pesquisar informações ou acelerar tarefas já conhecidas.

Operação maliciosa com agentes automatizados: execução coordenada de determinadas tarefas por sistemas de IA, dentro das permissões e da infraestrutura disponíveis aos operadores.

Defesa assistida por IA: análise de alertas, identificação de padrões, apoio à investigação e sugestão de correções, com necessidade de validação técnica e controle de acesso.

Limitações, medidas de proteção e o que pode mudar nos próximos anos

A presença crescente de IA em operações cibernéticas não elimina a importância das práticas de segurança já conhecidas. O roubo de credenciais, a exploração de sistemas desatualizados e a manipulação de pessoas continuam sendo mecanismos relevantes de comprometimento.

Para usuários individuais, medidas como utilizar autenticação multifator, manter sistemas atualizados e verificar solicitações inesperadas continuam oferecendo proteção importante. A qualidade de uma mensagem fraudulenta pode melhorar com IA, mas a conferência da origem permanece necessária.

Um contato que afirma representar determinada empresa ou instituição deve ser verificado por canais oficiais, especialmente quando solicita transferência de dinheiro, informações sensíveis ou códigos de autenticação.

A presença de voz aparentemente conhecida também não deve ser tratada como comprovação suficiente de identidade. Quando houver solicitação incomum, a pessoa pode confirmar o pedido por outro meio de contato previamente estabelecido.

Para organizações, a proteção envolve inventário de ativos, atualização de sistemas, gerenciamento de identidades, registro de atividades e procedimentos de resposta a incidentes. Essas medidas ajudam a limitar oportunidades de ataque independentemente da utilização de inteligência artificial.

Também é importante aplicar o princípio do menor privilégio, concedendo a usuários e sistemas apenas as permissões necessárias para executar suas funções. Esse cuidado reduz a extensão potencial de danos quando uma conta ou ferramenta é comprometida.

Em serviços que utilizam agentes automatizados, o controle de permissões torna-se ainda mais importante. Uma ferramenta capaz de pesquisar informações e produzir relatórios apresenta riscos diferentes daqueles de um agente autorizado a modificar bancos de dados ou executar comandos em sistemas produtivos.

As organizações precisam avaliar quais operações devem exigir autorização humana e como registrar as decisões tomadas pelos sistemas. A automação pode reduzir tempo de resposta, mas também acelerar consequências de erros.

O monitoramento contínuo oferece outra camada de proteção. Quando comportamentos inesperados são identificados rapidamente, a instituição pode investigar e limitar possíveis consequências antes que se ampliem.

Entretanto, ferramentas de detecção não oferecem garantia absoluta. Sistemas de segurança podem apresentar falhas de configuração, limitações de visibilidade e dificuldades para identificar ameaças que utilizam procedimentos legítimos de maneira indevida.

Os relatórios publicados em 2026 indicam aumento da capacidade de automatização em determinadas operações maliciosas. Entretanto, ainda não existe fundamento para afirmar que a IA tenha produzido um cenário de comprometimento inevitável de todos os sistemas.

A ENISA destacou, em seu relatório de setembro de 2026, que o ransomware continua entre as ameaças de maior impacto imediato na União Europeia, enquanto campanhas de DDoS, espionagem e outras atividades permanecem relacionadas a condições geopolíticas e à dependência de infraestruturas digitais.

A agência também aponta expectativa de utilização crescente de modelos de IA em operações maliciosas. Essa projeção deve ser diferenciada dos incidentes já confirmados. A previsão indica uma tendência considerada plausível pelos pesquisadores, não uma contagem de ataques efetivamente ocorridos.

Outra questão envolve o próprio mercado de ferramentas de inteligência artificial. À medida que empresas incorporam modelos a seus sistemas, surgem novas superfícies de ataque relacionadas a integrações, permissões e armazenamento de dados.

Em novembro de 2026, o Google Threat Intelligence Group divulgou incidentes de LLMJacking, modalidade na qual agentes maliciosos utilizaram acesso comprometido a recursos de modelos de linguagem para consumir serviços computacionais e gerar cobranças fraudulentas.

Esses casos representam uma forma diferente de ameaça. O objetivo principal não era necessariamente manipular respostas de um chatbot, mas explorar recursos computacionais e credenciais de acesso pertencentes a terceiros.

O exemplo demonstra que a segurança de sistemas de IA envolve também a proteção da infraestrutura e dos custos operacionais associados à sua utilização.

A perspectiva para os próximos anos depende da evolução dos modelos, dos mecanismos de proteção e da capacidade de adaptação das organizações. É possível que determinadas atividades sejam automatizadas de maneira mais ampla, mas os efeitos precisam ser acompanhados por evidências técnicas.

Também será necessário desenvolver métodos de avaliação que permitam diferenciar o desempenho declarado por fabricantes da eficácia observada em ambientes reais. Uma ferramenta pode demonstrar resultados elevados em testes controlados e ainda apresentar limitações diante de sistemas complexos.

O mesmo vale para ferramentas defensivas. A adoção de IA precisa considerar desempenho, confiabilidade, custo, privacidade e responsabilidade pelas decisões executadas.

A inteligência artificial está modificando a segurança digital principalmente porque reduz o esforço necessário para determinadas atividades e permite integrar processos antes executados separadamente. Essa característica beneficia defensores e pode ser explorada por criminosos.

Entretanto, a tecnologia não substitui automaticamente conhecimentos técnicos, infraestrutura ou permissões de acesso. A prevenção continua dependendo de controles que dificultem o comprometimento inicial e limitem as consequências caso ele ocorra.

O desafio não está em impedir toda utilização de IA, mas em compreender suas capacidades, identificar riscos reais e adaptar os mecanismos de proteção às novas formas de automação.

LEITURA INFOALFA

A inteligência artificial já é utilizada em atividades cibernéticas maliciosas e defensivas, mas sua presença não transforma automaticamente todos os ataques em operações autônomas. Pesquisas documentaram ganhos de produtividade em engenharia social, análise de informações e automação de tarefas, além de casos mais avançados envolvendo agentes. As mesmas tecnologias podem auxiliar equipes de segurança a investigar alertas e identificar vulnerabilidades. O desafio é manter controles de acesso, validação das ações, monitoramento e proteção dos dados, distinguindo ocorrências confirmadas de demonstrações experimentais e projeções.

Fontes consultadas