João Miguel Mesquita
O entendimento das comissões parlamentares de Mercado Interno e das Liberdades Cívicas no Parlamentares Europeu (PE), no passado dia 13 de fevereiro levam a garantir a aprovação da primeira lei no mundo, para regulamentação da Inteligência Artificial (IA).
O Parlamento Europeu deu assim um sinal de firmeza e segurança aos seus cidadãos na aprovação da chamada Lei da IA.
Para o Parlamento Europeu este regulamento “tem como objetivo proteger os direitos fundamentais, a democracia, o Estado de direito e a sustentabilidade ambiental da IA de alto risco e, ao mesmo tempo, visa impulsionar a inovação e estabelecer a Europa como líder no domínio da inteligência artificial.”.
A regulamentação pioneira no mundo sobre a matéria, no momento em que o seu uso começa a ser adotado pelas pessoas e sobretudo pelas empresas, define medidas rigorosas para impedir a manipulação ou a exploração das vulnerabilidades dos utilizadores e garante uma proteção sólida dos direitos dos consumidores.
Ao abrigo das disposições da lei, são estabelecidas salvaguardas abrangentes para regular a utilização generalizada da IA, com limitações específicas impostas à utilização de sistemas de identificação biométrica pelas autoridades. São ainda delineadas proibições sociais que impedem a exploração da IA para manipular ou explorar as vulnerabilidades dos utilizadores, reforçando ainda mais o quadro ético em torno dos avanços tecnológicos.
No centro da legislação encontram-se disposições destinadas que defendem os direitos dos consumidores, permitindo que as pessoas apresentem queixas e obtenham explicações significativas sobre a utilização de tecnologias de IA. Estas medidas sublinham o empenhamento da União Europeia em promover a transparência e a responsabilização no panorama digital em rápida evolução.
A adoção final da lei está agora apenas pendente da aprovação formal pelo Parlamento Europeu na sua próxima sessão plenária, seguida da aprovação pelo Conselho Europeu. Uma vez ratificada, a legislação deverá entrar em vigor no prazo de 24 meses após a sua adoção. No entanto, algumas disposições, como as proibições de práticas específicas, serão aplicáveis no prazo de seis meses após a entrada em vigor da lei, com os códigos de conduta e as regras gerais a entrarem em vigor no prazo de nove e doze meses, respetivamente. As obrigações relativas aos sistemas de IA de alto risco serão introduzidas gradualmente ao longo de um período de 36 meses, permitindo que as partes interessadas disponham de tempo suficiente para as cumprir.
Apesar dos regulamentos europeus existentes que regem os direitos fundamentais, a proteção dos consumidores e as normas de segurança para os criadores de IA e as partes interessadas, esta legislação representa um passo significativo para enfrentar os desafios emergentes e garantir a implantação responsável das tecnologias de IA. Ao estabelecer um quadro regulamentar abrangente, a União Europeia promove a inovação, salvaguardando simultaneamente os direitos e interesses dos seus cidadãos num mundo cada vez mais digitalizado.
Este trabalho de conciliação dos mercados com a vontade dos governos, e a defesa dos cidadão, sem beliscar a inovação foi feito por um conjunto de deputados de todos os países dos 27 com assento no Parlamento Europeu, fomos saber junto de dois dos mais ativos e conhecedores destas meterias a sua opinião.
Para Maria da Graça Carvalho, deputada europeia pelo PSD:
Esta lei, em que a União Europeia é pioneira a nível mundial, tem duas vertentes fundamentais. Em primeiro lugar, vem introduzir um quadro claro em termos de princípios éticos, estabelecendo linhas vermelhas que não podem ser ultrapassadas pelos operadores de mercado. Nomeadamente em termos de respeito pelos direitos humanos e direitos de autor. Por um lado, estabelecem-se fronteiras e previnem-se abusos e, por outro, criam-se as condições para potenciar e democratizar a utilização que é feita da IA.
Foi possível fazer uma lei que ao mesmo tempo fosse uma salvaguarda para a segurança dos dados e ao mesmo tempo não fosse um entrave a inovação como foi possível chegar a esta perfeição?
O termo “perfeição” é sempre arriscado, sobretudo quando falamos de tecnologias que evoluem a um ritmo muito acelerado e que é difícil de acompanhar e de antecipar pelos legisladores. No entanto, muito por força da ação do Parlamento Europeu, existe de facto um esforço para encontrar um equilíbrio entre a necessidade de regular e a necessidade de evitar uma sobrecarga burocrática e legislativa que complique o processo de inovação. A solução encontrada foi estabelecer uma abordagem baseada no risco. São consideradas quatro categorias: riscos inaceitáveis, implicando a proibição das práticas; riscos elevados, que exigem uma avaliação prévia da conformidade; riscos limitados, que acarretam obrigações de transparência; e riscos mínimos, onde as partes interessadas são convidadas a desenvolver os seus próprios códigos de boas práticas. Na categoria mais elevada encontram-se, por exemplo, todos os sistemas de categorização biométrica que utilizam características sensíveis, como crenças políticas, religiosas e filosóficas, orientação sexual ou raça. O mesmo se aplica à maioria dos sistemas direcionados às crianças. A utilização de dados biométricos para reconhecer emoções em contextos profissionais ou escolares também está interdita. Mas mesmo os sistemas de IA de uso geral (GPAI), que se enquadram na categoria de riscos limitados, terão de cumprir regras de transparência muito claras estipuladas pelo Parlamento Europeu, incluindo a preparação e disponibilidade de informações técnicas e o cumprimento das regras de direitos de autor da UE. E as multas para os incumpridores são pesadas, podendo variar entre 7,5 e 35 milhões de euros.
Quais os próximos desafios do Parlamento Europeu com a IA e a segurança de dados?
O próximo desafio, tanto no que respeita à IA como às tecnologias digitais em geral, será criar as condições para passar à pratica os objetivos delineados na estratégia europeia para este setor. Por exemplo, nesta legislatura fui relatora da parceria europeia de computação de alto desempenho (EuroHPC), no âmbito do programa-quadro Horizonte Europa, a qual contempla a criação de uma rede de supercomputadores europeia, um dos quais já instalado na Universidade do Minho. Há dias, foi-me entregue outro relatório referente à iniciativa “Fábricas da Inteligência Artificial”, a qual passa precisamente por criar as condições para que as empresas, nomeadamente PMEs e start-ups inovadoras, possam tirar partido desta infraestrutura de supercomputadores que está a ser criada, utilizando-a para desenvolverem os seus próprios modelos de IA. Mas há muitos outros campos onde atuar, desde logo ao nível da aposta no treino de recursos humanos qualificados e na literacia digital da população em geral.
Para Carlos Zorrinho, deputado europeu pelo PS:
O Regulamento da Inteligência Artificial (IA ACT) faz parte do pacote legislativo da Década Digital em que a União Europeia desenvolve uma abordagem conceptual e jurídica de regulação da transição digital baseada nos seus valores partilhados, designadamente no foco nas pessoas e nos seus direitos.
A tecnologia, mesmo uma tecnologia tão especial como a inteligência artificial, deve ser instrumental em relação à transformação económica e social. A sua aplicação será motivo de esperança para a indústria e para as pessoas, se as escolhas políticas e técnicas forem adequadas. Colocada ao serviço de más políticas ou de maus propósitos, a inteligência artificial tenderá a aumentar os danos e os impactos e a ter efeitos negativos na vida da maioria das pessoas. Por isso este Regulamento e a sua aplicação são tão importantes.
Tenho uma visão positiva do impacto deste regulamento como fator de esperança para as indústrias e para as pessoas na UE. Em primeiro lugar pela abordagem conceptual também presente noutras peças legislativas centrais como o Regulamento Geral sobre a Proteção de Dados, o Regulamento dos Mercados Digitais, o Regulamento dos Serviços Digitais e o Regulamento da Cibersegurança, entre muitos outros, que procuram fazer da visão europeia um referencial para a globalização tecnológica, criando vantagens competitivas para o ecossistema industrial e digital europeu, e produtos e serviços para as pessoas. Em segundo lugar, porque partindo claramente atrasada nos volumes de investimento em investigação e desenvolvimento ou em capacidade de atração de quadros altamente especializados, a União Europeia tenderá a saltar etapas e a focar-se na fronteira tecnológica e em particular no “game changer” que constitui a IA.
A fronteira entre a esperança e o abismo é, no entanto, muito ténue. Precisamos de cidadãos dotados de literacia digital para, em democracia, atingir os objetivos ambiciosos que referi. Essa tem que ser uma prioridade da União.
Foi possível fazer uma lei que ao mesmo tempo fosse uma salvaguarda para a segurança dos dados e ao mesmo tempo não fosse um entrave a inovação como foi possível chegar a esta perfeição?
A assertividade do Regulamento só poderá ser demonstrada através dos resultados da sua aplicação. Considero, no entanto, que se fizeram opções corretas, desde logo ao não seguir as recomendações de quem pretendia uma suspensão do apoio público à investigação e ao desenvolvimento da IA, deixando o campo aberto para os que a querem ter do seu lado para aumentar a fragmentação e as desigualdades sociais e ao definir padrões de risco e regras adaptadas a esses padrões. Estão previstas regras de escrutínio cientifico e prático da adequação dos modelos de IA de finalidade geral aos valores partilhados na União e foram definidas regras específicas para as aplicações de IA generativa que podem originar riscos sistémicos e para a utilização da identificação biométrica. Ao mesmo tempo procedeu-se a um redireccionamento de meios e recursos previstos nos programas europeus que apoiam a ciência, a inovação e o desenvolvimento tecnológico, para projetos que incorporem as novas valências da IA, sendo regulamentados também os procedimentos de teste e demonstração de conformidade.
Quais os próximos desafios do Parlamento Europeu com a IA e a segurança de dados?
Estando em finalização o processo negocial de codecisão com o Conselho para adoção dos diversos atos legislativos que suportam a prioridade da transição digital inclusiva articulada com a transição energética sustentável, a maior prioridade do Parlamento Europeu será naturalmente garantir e escrutinar a sua aplicação, garantindo a segurança dos dados e das aplicações e a qualidade e universalidade dos serviços essenciais, dando desta forma voz aos povos que nele são representados.
Num plano de avaliação pessoal gostaria de destacar um ponto que considero fundamental. O pacote legislativo para a transição digital em geral e para a IA em particular foi concebido para ser aplicado num ecossistema político e social aberto e democrático. Sem esse pressuposto será rapidamente esmagado ou manipulado e a segurança dos dados e das pessoas será posta em causa. Por isso a grande prioridade do PE com a IA e a segurança de dados, tal como com tantas outras políticas focadas na paz, na dignidade e na liberdade, será manter os padrões de cidadania e democracia que são parte do ADN da União Europeia.
