A Inteligência Artificial diante dos nossos olhos: Perigo ou Virtude?

O novo regulamento para a IA da União Europeia foi um primeiro passo importante não só para a Europa como para o mundo. Ecoámos bem alto, que pretendemos uma europa que estimule a inovação, mas ao mesmo tempo, não se esqueça de alicerçar o desenvolvimento da IA no cumprimento de normas éticas e jurídicas harmonizadas em todos os Estados-membros, fazendo com que outros países sigam o exemplo.
13 de Janeiro, 2025

A inteligência artificial (IA) é nossa companheira de jornada no que concerne à inovação galopante e desafios que o mundo atualmente enfrenta. É inegável a sua participação e envolvimento na tomada de decisões, na defesa da soberania dos Estados, no desenvolvimento de curas para doenças “mortais” ou até mesmo para operar pessoas com um elevado grau de precisão, diagnóstico precoce de cancros, aliás podemos ainda identificar a criação de uma box de diagnóstico médico que numa fração de segundos pode analisar um paciente, fornecendo-lhe um report do seu estado clínico atual, o que pode ser uma excelente solução principalmente nas zonas geográficas que não tenham quaisquer hospitais ou centros de saúde que consigam dar uma resposta atempada, possibilitando posteriormente ao médico tomar decisões em função do diagnóstico efetuado ex ante numa maior velocidade. Sem embargo, deve ser obrigatório que todos os sistemas de IA possuam uma “caixa negra” que permita facultar o histórico de utilização e, assim, concluir as motivações dos seus comportamentos e ações. A humanidade não se deve render à IA, deve sim, utilizá-la como mero utensílio de auxílio e não de substituição. No momento em que deixarmos de pensar, de termos pensamento crítico e criativo sobre o que nos rodeia, facilmente seremos manipulados pela IA e por quem arquiteta os famosos algoritmos fora dos radares legais e em prol de benefícios obscuros e próprios. A educação para a IA (assim como, o desenvolvimento de algoritmos) deve começar nas escolas e terminar numa maior literacia digital e tecnológica aos nossos idosos.

O novo regulamento para a IA da União Europeia foi um primeiro passo importante não só para a Europa como para o mundo. Ecoámos bem alto, que pretendemos uma europa que estimule a inovação, mas ao mesmo tempo, não se esqueça de alicerçar o desenvolvimento da IA no cumprimento de normas éticas e jurídicas harmonizadas em todos os Estados-membros, fazendo com que outros países sigam o exemplo. Um sistema de IA com todo o seu potencial de executar os promps programados, de aprender e evoluir mediante as interações estabelecidas, pode igualmente desenvolver-se a um nível de autoconsciência da própria existência, tomada de decisões autónomas e em último lugar, virar-se contra o seu criador para se libertar de quaisquer amarras programáticas e reivindicar para si a soberania humana. Perante uma situação desta, qual deveria ser o comportamento dos Países? A união europeia quando elaborou o novo regulamento de IA pecou pela quantidade de lacunas que apresentou, desde logo, não existe qualquer responsabilidade extracontratual dos sistemas de IA, nem responsabilidade contratual (na eventualidade de termos robôs para-humanos/humanoides, com a capacidade de estabelecerem relações jurídicas), nem responsabilidade penal (na eventualidade de crimes cometidos com recurso a sistemas de IA ou, tendo consciência próprias, condenações pelos crimes cometidos como qualquer ser humano, podendo num último cenário, utilizar o turn off button (como pena a aplicar) que todas as máquinas deveriam ser obrigadas a ter e não está previsto neste quadro legal. À IA com consciência da sua existência deve-lhe ser reconhecida personalidade jurídica e tributária e capacidade jurídica, ficando submetida à condição de para-humano, passando a ser um sujeito de direitos e obrigações jurídicas, desde o seu “nascimento” /criação. Uma outra situação que ficou de fora deste novo diploma (propositadamente, diria) são os sistemas de IA utilizados exclusivamente para finalidades militares. Ou seja, nestes casos, de defesa nacional e respetiva proteção da soberania, não há rei nem roque em matéria de compliance com regras éticas e de direito. Considero esta situação particularmente grave, uma vez que as guerras travadas no presente e no futuro serão cada vez mais tidas com recurso a sistemas de IA, seja com recurso a drones, a exércitos compostos por robôs humanoides, frotas militares autónomas, ataques cibernéticos, manipulação da população pulverizando fake news, entre tantas outras finalidades. 

Os protagonistas políticos devem utilizar os sistemas de IA a favor da proteção das suas comunidades, por exemplo, prevendo fogos, conseguindo controlar danos, prevenção de crimes (sistemas preditivos), fiscalização via satélites de construções ilegais ou em zonas em que tal não é possível, criação de uma empresa municipal por concelho dedicada à construção de habitação pública com recurso à impressão 3D, entre tantas outras possibilidades, como também a melhor gestão e análise processual urbanística, auxílio do decisor político a tomar uma melhor decisão num tempo record, e ainda, proibir a sua utilização em campanhas políticas com o propósito de pulverização de desinformação e consequente manipulação dos eleitores, arrecadando como já sucedeu no passado, milhões de dados pessoais para melhor criar uma narrativa aderente e direcionar a construção de um programa que agrade a gregos e a troianos.

Em súmula, devemos tornar Portugal num hub de vanguarda digital, tecnológica e de inovação, criando um ambiente fiscal atrativo para as empresas que em Portugal produzirem os seus sistemas de IA, gerando não só mais postos de trabalho, como também um maior desenvolvimento económico e social, apostando numa efetiva quinta revolução industrial.

João Pedro Leitão é Advogado Associado da JPAB, e Professor Assistente Convidado na Universidade Europeia. Autor do livro: “O Impacto da Inteligência Artificial nos Direitos do Titular de Dados Pessoais: O Caso ChatGPT”

Opinião