João Miguel Mesquita
Durante a primeira fase da adoção empresarial da inteligência artificial, grande parte da atenção concentrou-se nas ferramentas. As organizações experimentaram assistentes, modelos generativos e sistemas capazes de automatizar tarefas que anteriormente exigiam intervenção humana. Agora, essa fase começa a dar lugar a uma discussão menos visível, mas provavelmente mais importante. Já não basta perguntar que IA deve ser comprada. É necessário decidir como deve ser governada.
É neste contexto que surgem as políticas internas de utilização de inteligência artificial. São documentos destinados a estabelecer quais as ferramentas autorizadas, que informação pode ser utilizada, quais os requisitos de segurança, como devem ser verificados os resultados e que formação necessita cada trabalhador. À primeira vista, parece sobretudo um problema de organização e conformidade. Na prática, é uma discussão bastante mais profunda sobre a forma como as empresas pretendem trabalhar num ambiente em que humanos e sistemas automatizados começam a partilhar tarefas.
Uma política de IA pode ser tecnicamente irrepreensível e, ainda assim, tornar-se praticamente inútil se ignorar a experiência das pessoas que utilizam diariamente a tecnologia.
Imagine-se uma organização que decide autorizar um assistente de inteligência artificial para preparar documentos internos. A equipa tecnológica pode estabelecer regras sobre segurança, proteção da informação e controlo de acessos. O departamento jurídico pode definir aquilo que não pode ser introduzido no sistema. A administração pode determinar os objetivos de produtividade. Mas são os trabalhadores que rapidamente descobrem outra parte da equação. Algumas respostas precisam de ser revistas, outras estão incompletas e outras parecem corretas até alguém verificar os dados.
É precisamente aqui que começa a desaparecer parte da simplicidade associada à narrativa da automação. A IA pode reduzir o tempo necessário para produzir uma primeira versão de um documento, analisar informação ou preparar uma resposta. Mas alguém continua a ter de decidir se o resultado pode ser utilizado. Quando essa verificação se torna sistemática, nasce uma nova categoria de trabalho que raramente aparece nos cálculos iniciais de produtividade.
A inteligência artificial não elimina necessariamente trabalho. Muitas vezes desloca-o, transformando execução em supervisão, validação e correção.
Essa transformação ajuda a explicar por que razão as políticas de IA dificilmente podem ser concebidas exclusivamente pela administração, pelo departamento jurídico ou pelas equipas de tecnologias de informação. Quem utiliza as ferramentas percebe problemas que dificilmente aparecem num documento de especificações. Sabe onde o sistema poupa tempo, onde cria obstáculos, em que tarefas produz resultados suficientemente fiáveis e em quais obriga a verificações tão extensas que a vantagem inicial praticamente desaparece.
Uma organização que pretenda construir regras realistas pode, por exemplo, começar por perceber que ferramentas já estão a ser utilizadas informalmente, para que tarefas e com que tipo de informação. Pode depois analisar essas práticas com as equipas de tecnologia, segurança, recursos humanos e gestão. Não se trata de transformar cada trabalhador num decisor tecnológico. Trata-se de perceber que uma política criada sem conhecer a utilização real corre o risco de regular uma empresa que existe apenas no papel.
Esta mudança tem implicações diretas para os CIO. Durante décadas, muitas decisões tecnológicas seguiram um modelo relativamente previsível. Escolhia-se uma aplicação, avaliava-se a segurança, contratava-se o fornecedor, configurava-se o acesso e distribuía-se a solução aos utilizadores. Com a inteligência artificial, esse modelo torna-se mais difícil de manter.
A IA não é apenas mais um software empresarial. É uma tecnologia que interfere na forma como o conhecimento é produzido, analisado, validado e utilizado dentro da organização.
A diferença pode parecer subtil, mas altera profundamente a governação. Uma aplicação tradicional executa normalmente funções relativamente delimitadas. Um sistema de inteligência artificial pode ser utilizado para escrever, resumir, pesquisar, programar, analisar documentos ou apoiar decisões. A mesma ferramenta pode, portanto, atravessar departamentos, funções e níveis diferentes de sensibilidade da informação.
Isso significa que as empresas precisam de tomar decisões muito mais granulares. Nem todos os dados poderão ser utilizados da mesma forma. Nem todos os trabalhadores deverão necessariamente ter os mesmos acessos. Nem todos os resultados poderão ser tratados com o mesmo nível de confiança. E quanto maior for a utilização da tecnologia, maior será a necessidade de definir quem é responsável pela validação daquilo que ela produz.
A responsabilidade torna-se especialmente importante porque a resposta de um sistema não deixa de ter consequências apenas por ter sido produzida por uma máquina. Se uma análise estiver errada, se informação confidencial for utilizada indevidamente ou se uma decisão for tomada a partir de um resultado incorreto, a organização continuará a ter de responder pelo processo.
Por isso, uma política empresarial de IA não pode ser um documento escrito uma vez e arquivado numa intranet. A tecnologia muda demasiado depressa para isso. Novos modelos aparecem, funcionalidades são acrescentadas e utilizações inicialmente marginais podem tornar-se comuns em poucos meses.
A governação precisa, portanto, de acompanhar essa evolução. Isso implica rever regras, comunicar alterações e explicar por que razão determinadas utilizações passam a ser permitidas ou proibidas. Mais importante ainda, implica criar uma cadeia de responsabilidade suficientemente clara para que os trabalhadores saibam quem decide e a quem devem recorrer quando surge uma situação que não estava prevista.
Existe depois uma questão ainda mais difícil de resolver através de normas técnicas. O medo.
Para muitos trabalhadores, a inteligência artificial não representa apenas uma nova ferramenta. Representa também a possibilidade de algumas das tarefas que atualmente executam deixarem de precisar deles. Essa preocupação pode coexistir com a utilização diária da tecnologia. Um profissional pode reconhecer que a IA lhe permite trabalhar mais depressa e, ao mesmo tempo, perguntar-se se essa mesma eficiência acabará por reduzir a necessidade da sua função.
Ignorar essa contradição pode tornar qualquer estratégia de adoção particularmente frágil.
Uma empresa que pede aos trabalhadores para utilizarem mais inteligência artificial enquanto evita discutir aquilo que a tecnologia poderá mudar nas suas funções cria um problema de confiança que nenhuma política interna consegue resolver sozinha.
A resposta não passa necessariamente por prometer que nada mudará. Passa por explicar com maior precisão onde a organização espera automatizar tarefas, onde continuará a precisar de intervenção humana e que competências pretende desenvolver. Quanto mais concreta for essa conversa, menor será o espaço para uma perceção da IA como processo imposto de cima para baixo e sobre o qual os trabalhadores pouco sabem ou controlam.
É também por isso que a formação passa a ocupar um lugar diferente. Ensinar alguém a utilizar uma ferramenta específica pode resolver uma necessidade imediata, mas dificilmente constitui uma estratégia de longo prazo. As aplicações mudam, os modelos evoluem e determinadas funcionalidades podem desaparecer tão rapidamente quanto surgiram.
O investimento mais duradouro passa por ensinar as pessoas a trabalhar num ambiente em que os resultados produzidos pelas máquinas precisam de ser avaliados. Pensamento crítico, capacidade de julgamento e compreensão dos limites da tecnologia tornam-se tão importantes quanto saber escrever uma instrução eficaz para um sistema.
Para os CIOs e para as áreas responsáveis pelas compras tecnológicas, esta realidade também altera a forma como deve ser calculado o investimento. O preço da plataforma é apenas uma parcela do custo. Há formação, integração, segurança, revisão de processos, supervisão e tempo dedicado à validação dos resultados.
O retorno do investimento em inteligência artificial não pode ser medido apenas pelo tempo que a máquina aparentemente poupa. Tem também de incluir o tempo humano necessário para garantir que aquilo que produz é suficientemente fiável para ser utilizado.
Esta diferença poderá tornar-se cada vez mais relevante à medida que a adoção cresce. Uma experiência com algumas dezenas de utilizadores pode ser relativamente simples de acompanhar. Quando milhares de trabalhadores começam a recorrer a sistemas de IA em diferentes departamentos, pequenos problemas multiplicam-se. Uma regra pouco clara, um processo de verificação demasiado pesado ou uma formação insuficiente deixam de ser questões pontuais e tornam-se custos operacionais.
As salvaguardas são, por isso, indispensáveis. É necessário definir limites para a utilização de informação, estabelecer regras de confidencialidade e preservar mecanismos de supervisão humana. Mas transformar uma política de IA numa extensa coleção de proibições pode produzir outro problema. Os trabalhadores sabem aquilo que não podem fazer, mas continuam sem perceber onde a organização pretende realmente utilizar a tecnologia.
Uma política eficaz precisa de fazer as duas coisas. Deve estabelecer limites suficientemente claros para reduzir o risco e, ao mesmo tempo, identificar os contextos em que a inteligência artificial pode ser utilizada de forma responsável.
É aqui que a discussão começa a afastar-se definitivamente da tecnologia.
Governar inteligência artificial é também governar a transformação do trabalho.
A escolha do modelo, do fornecedor ou da plataforma continuará a ser importante. Mas a verdadeira dificuldade estará em construir processos nos quais as pessoas compreendam quando podem confiar na tecnologia, quando devem desconfiar e quando precisam simplesmente de assumir novamente o controlo.
Quanto mais a inteligência artificial entra no funcionamento quotidiano das empresas, menos esta será uma discussão exclusivamente sobre IA. Será uma discussão sobre produtividade, responsabilidade, conhecimento, confiança e sobre a forma como as organizações pretendem distribuir trabalho e poder entre pessoas e máquinas.
E talvez seja precisamente aí que comece a fase mais difícil da adoção empresarial da inteligência artificial. Comprar tecnologia continua a ser relativamente simples. Transformar essa tecnologia numa forma sustentável de trabalhar é muito mais difícil.
