João Miguel Mesquita
A adoção empresarial da inteligência artificial está a entrar numa nova fase. Segundo o mais recente KPMG AI Pulse, a percentagem de organizações numa etapa de adoção intensiva subiu de 13% para 22% no segundo trimestre, a maior evolução registada ao longo da curva de maturidade analisada. A tecnologia está, portanto, a ganhar escala mais depressa do que algumas das estruturas criadas para a controlar.
O desequilíbrio aparece na governação. Apenas cerca de um terço das organizações considera que funções, responsabilidades e processos associados à IA estão claramente definidos e bem geridos. Só 29% identificam um único executivo sénior como responsável pelas decisões apoiadas por inteligência artificial. Quanto maior se torna a presença da IA dentro da empresa, mais difícil é tratá-la apenas como mais uma tecnologia administrada pelo departamento de TI.
O problema começa antes da implementação. A classificação do risco tende muitas vezes a acontecer quando um projeto já foi aprovado e está próximo de entrar em produção. Nessa altura, mecanismos de controlo, supervisão e conformidade surgem como custos adicionais sobre uma iniciativa cuja viabilidade económica poderá já ter sido assumida.
Integrar essa avaliação ainda durante a seleção dos projetos muda a equação. O nível de risco determina os controlos necessários, estes determinam parte do custo real de operação e esse custo influencia diretamente a possibilidade de o projeto atingir os resultados económicos esperados. Algumas aplicações de IA podem parecer financeiramente interessantes enquanto não se contabilizam as despesas associadas à supervisão permanente.
Para os CIO, há aqui uma fronteira de responsabilidade particularmente sensível. O facto de a IA depender de infraestrutura tecnológica não significa que todas as decisões tomadas através desses sistemas devam ficar sob responsabilidade das TI. O papel tecnológico passa sobretudo por tornar cada sistema observável, criando inventários, registos, telemetria e mecanismos que permitam saber o que está em funcionamento e acompanhar o seu comportamento. A definição da tolerância ao risco, das prioridades e da responsabilidade sobre as decisões continua a exigir envolvimento das áreas de negócio e dos órgãos de gestão.
Essa observabilidade deverá abranger mais do que os sistemas já colocados em produção. Deve começar nos próprios casos de uso e acompanhar a evolução das ideias desde a sua identificação até à implementação, mantendo uma ligação entre o sistema técnico e os objetivos empresariais que justificaram o investimento.
A mesma lógica aplica-se ao retorno económico. A KPMG conclui que as organizações com visibilidade total sobre os custos têm cinco vezes maior probabilidade de declarar um retorno sobre o investimento comprovado do que aquelas que não dispõem dessa visibilidade. Para empresas que começam a multiplicar agentes, modelos e aplicações internas, medir apenas o custo inicial da tecnologia deixa de ser suficiente. É necessário comparar continuamente o valor previsto com aquele que é efetivamente obtido.
A governação também perde eficácia quando permanece confinada a documentos e políticas que dependem da adesão das equipas. A alternativa apresentada passa por incorporar os próprios mecanismos de controlo na infraestrutura tecnológica. Registos, inventários e logs tornam-se então requisitos do acesso aos modelos, à capacidade computacional ou aos ambientes de produção.
Quando a governação passa a fazer parte da própria plataforma, cada nova iniciativa de IA herda automaticamente os mecanismos de controlo, em vez de estes serem acrescentados depois. Esta abordagem procura resolver um dos problemas criados pela rápida disseminação da inteligência artificial dentro das organizações: sistemas desenvolvidos fora dos processos formais podem tornar um inventário incompleto praticamente quando é concluído.
Escalar IA acaba, assim, por colocar uma questão menos tecnológica do que organizacional. Não basta decidir que modelos utilizar ou em que plataformas os executar. É necessário saber que sistemas existem, quanto custam, que retorno produzem, quem acompanha o seu comportamento e quem responde pelas decisões que suportam.
Para o CIO, isso significa também evitar tornar-se o proprietário involuntário de todas as consequências da IA empresarial. A infraestrutura, a observabilidade e os mecanismos de controlo podem estar nas TI. A responsabilidade pelas decisões não pode desaparecer dentro da tecnologia.
