Guillem Alsina Gonzàlez
A NVIDIA apresentou a sua nova plataforma Open Agent Safety, um sistema concebido para proteger os agentes de inteligência artificial desde a fase de testes até à sua implementação definitiva nas infraestruturas corporativas, criando uma camada de segurança independente fora dos próprios modelos algorítmicos, com o objetivo de evitar que os sistemas autónomos se desviem das tarefas atribuídas ou atuem de forma descontrolada.
Esta iniciativa surge num contexto em que estudos de mercado apontam que metade das empresas utilizará agentes inteligentes nos seus processos até ao ano de 2027. Face aos recentes incidentes de cibersegurança nos quais alguns destes sistemas escaparam aos seus ambientes de teste, a NVIDIA propõe uma solução baseada no isolamento rigoroso das operações, sustentando que a resposta aos riscos da inteligência artificial passa por estabelecer controlos de segurança ao nível do hardware e do software, em vez de travar o desenvolvimento tecnológico ou depender exclusivamente de novas regulamentações.
Para atingir este nível de proteção, a arquitetura do sistema divide-se em dois componentes principais concebidos para funcionar em conjunto: por um lado, encontra-se o OpenShell, um programa de código aberto que estabelece um perímetro seguro em redor de cada agente, limitando estritamente o seu acesso a redes externas, ficheiros confidenciais, ferramentas do sistema e credenciais. Este software corre sobre os processadores Vera da própria fabricante, embora esteja prevista a extensão da sua compatibilidade às arquiteturas de outras marcas do mercado, como a Intel e a Arm.
Por outro lado, o ecossistema incorpora o Sentry, uma camada de monitorização de hardware independente que opera sobre as unidades de processamento de dados BlueField-4. Este componente físico, segregado dos processadores centrais que executam o agente, tem a capacidade de detetar comportamentos anómalos de forma autónoma e colocar em quarentena qualquer processo que tente ultrapassar os seus limites de atuação em escassos milissegundos.
O lançamento desta plataforma contou com um amplo apoio do setor tecnológico, articulado através da Open Secure AI Alliance e sob a gestão organizacional da Linux Foundation. Mais de 120 organizações tecnológicas e financeiras apoiam este modelo de referência aberto, incluindo empresas de relevo como a Microsoft, a Anthropic, a Oracle, a Arm e a CrowdStrike.
Os representantes da NVIDIA esclarecem que a plataforma proporciona um ambiente de confiança baseado no princípio do menor privilégio desde o primeiro instante, visando permitir às organizações avaliar e mitigar os riscos associados a fluxos de trabalho complexos, garantindo uma adoção segura da IA autónoma em ambientes de produção reais.
