As falhas de segurança que a IA está introduzindo agora
Alucinação, injeção de instrução, vazamento de contexto, excesso de permissão e automação sem revisão. O catálogo real dos problemas.
Bruno Alexandre·19/10/2026·5 leituras
A conversa sobre segurança e inteligência artificial costuma ficar na superfície, no medo genérico. O que interessa é o catálogo concreto, porque cada modo de falha tem uma defesa diferente e nenhuma delas depende de tecnologia nova.
Os cinco modos de falha mais comuns em sistemas que usam inteligência artificial
O primeiro é a alucinação. O modelo afirma com a mesma confiança o que sabe e o que não sabe, e não existe campo de incerteza na saída. Quando esse texto entra em um processo que não tem conferência humana, o erro deixa de ser texto e passa a ser ação. A defesa é simples e chata: nenhuma saída do modelo vira decisão sem passar por alguém que possa recusar.
O segundo é a injeção de instrução. O conteúdo que o usuário ou o sistema coloca no contexto é lido pelo modelo como parte do que ele deve fazer. Isso significa que um documento, um e-mail ou uma página com texto malicioso pode desviar o comportamento do sistema. É o ataque que usa a própria interface do produto, e por isso é mais difícil de fechar com filtro de entrada.
O terceiro é o vazamento. Dado sensível que entrou no contexto pode sair na resposta, no registro do fornecedor, ou no arquivo de auditoria. E o dado sensível hoje é tudo: o histórico do cliente, o contrato, o resumo da conversa com o suporte.
O quarto é o excesso de permissão. A automação recebe acesso a sistema interno para conseguir entregar o resultado, e usa esse acesso com a liberdade de quem age em nome de uma pessoa. Quando o acesso é amplo, um erro do modelo vira um incidente com consequência real.
O quinto é a automação sem revisão. A pessoa que implementou configureu o fluxo para rodar sem checagem, porque a máquina era mais rápida, e a revisão humana entrou como exceção. O resultado é um sistema que produz volume alto de ações que ninguém inspeciona.
O que chama atenção é que quatro desses cinco problemas não são específicos da IA. São problemas de desenho de processo, e aparecem em qualquer sistema que execute ações sem checagem. A IA apenas aumenta a velocidade com que eles se manifestam, e por isso precisam ser tratados antes de colocar a automação em produção.
Em 21 de outubro de 2026 o PHP corrigiu duas falhas críticas que permitem executar código sem qualquer autenticação. Quem tem site em PHP precisa atualizar hoje.
