Bruno Castro
Com a chegada do filme “A Odisseia” aos cinemas, voltou também uma das imagens mais conhecidas da mitologia grega: o Cavalo de Troia. Durante séculos foi contado como uma história de estratégia militar, mas continua a ser uma das melhores metáforas para explicar alguns dos riscos tecnológicos mais atuais.
Troia não caiu porque as muralhas eram frágeis. Caiu porque o perigo entrou disfarçado de oferenda e o mesmo acontece nas organizações, muitas vezes não da forma que esperamos, ou percecionamos a ameaça real.
A Inteligência Artificial (IA) já faz parte do dia a dia das organizações e, frequentemente, ninguém sabe exatamente onde, como ou por quem está a ser utilizada. E aqui que entra a Shadow AI. Ao contrário do que o nome pode sugerir, não estamos perante colaboradores mal-intencionados nem perante ataques sofisticados. Na maioria dos casos, trata-se apenas de pessoas que querem “trabalhar melhor”. Um comercial pede ajuda para melhorar uma proposta. Um programador utiliza um assistente de código. Um gestor resume um relatório extenso antes de uma reunião. Um colaborador traduz um documento ou cria uma apresentação em poucos minutos. Cada uma destas ações parece perfeitamente legítima. E, vistas isoladamente, dificilmente levantariam preocupação.
O problema surge quando deixamos de saber onde termina o normal “funcionamento” da organização e onde começa a de um serviço externo de cariz potencialmente malicioso sobre o qual não existe qualquer controlo. É precisamente aí que reside o verdadeiro risco da Shadow AI, não na IA, mas na sua invisibilidade.
Há alguns anos falávamos de Shadow IT, quando os colaboradores instalavam aplicações sem conhecimento do departamento de tecnologias de informação. Mas quando falamos de IA, muitas vezes, basta abrir um navegador, criar uma conta gratuita e começar a utilizar uma plataforma de IA em poucos segundos. Contudo, quando uma organização decide bloquear todas as ferramentas de IA, dificilmente elimina o problema. Na maioria dos casos, e como em outros cenários de evolução tecnológica, bloquear cegamente também não é o caminho. Apenas torna se torna menos visível. Os colaboradores irão sempre continuar a procurar soluções que lhes permitam ganhar tempo e eficiência, ou simplesmente pela curiosidade tecnológica, recorrendo por exemplo a contas pessoais, aplicações externas ou extensões que escapam completamente aos mecanismos de supervisão de segurança da organização.
É aqui que a metáfora do Cavalo de Troia ganha uma nova morfologia mais atual. O risco não entra pela força. Não derruba as muralhas nem explora necessariamente uma vulnerabilidade técnica. Entra, porque lhe abrimos a porta em nome da produtividade ou tendência do momento como muitas vezes se enquadra a adoção “à pressa” de IA. E, quando finalmente percebemos que já houve uma intrusão, dentro, ou seja, existe comprometimento das muralhas da organização, já é tarde demais, passando a fazer parte dos processos diários da organização perfeitamente “camuflado” no dia-a-dia dos colaboradores.
Um relatório da Google, “Cybersecurity Forecast 2026”, alerta para uma transformação profunda no ecossistema digital das organizações com a adoção de agentes de IA capazes de executar tarefas, automatizar fluxos de trabalho e tomar decisões está a criar um cenário para o qual as estruturas tradicionais de cibersegurança poderão ainda não estar preparadas. Segundo este documento, as empresas terão de desenvolver metodologias e ferramentas próprias para mapear os seus novos ecossistemas de IA e avaliar as vulnerabilidades que estes agentes introduzem nas suas infraestruturas.
O relatório reforça o facto de a proliferação destes agentes autónomos agravar significativamente o problema da Shadow AI, dando origem ao que se descreve como um novo desafio, “Shadow AI Agents”, utilizados ou integrados pelos colaboradores sem o conhecimento ou aprovação prévia, e capazes de manipular dados sensíveis e integrar-se com sistemas internos sem qualquer controlo.
Mas seria igualmente um erro transformar a IA na vilã desta história. Tal como o cavalo nunca foi o verdadeiro inimigo, também a IA não é, por si só, o problema. Estas ferramentas representam ganhos de produtividade e vieram, inevitavelmente, para ficar. Não faz sentido contestar este paradigma. A questão nunca deveria ser se as organizações devem utilizá-las, mas sim como o devem fazer, com que dados, sob que regras e com que nível de governação digital.
Existe uma enorme diferença entre pedir apoio para estruturar um texto e carregar para uma plataforma pública, contratos confidenciais, propriedade intelectual, informação financeira ou dados de clientes. A tecnologia pode ser exatamente a mesma. O risco, esse, é completamente diferente.
Sabemos realmente quantos “cavalos de Troia” digitais já entraram nas nossas muralhas e, mais importante ainda, sabemos o que “vivem” no seu interior?
As organizações que melhor responderão a este desafio não serão necessariamente as que impuserem mais restrições, mas antes aquelas que conseguirem disponibilizar alternativas seguras, formar os seus colaboradores e integrar a inovação tecnológica, nomeadamente, na adoção da IA de acordo com modelo de governança de segurança implementado. Não podem existir “atalhos” ou “olhar para o lado” só porque vem com a chancela de inovação ou IA.
Bruno Castro é Fundador & CEO da VisionWare. Especialista em Cibersegurança e Análise Forense.
