O novo Regime Europeu sobre a Inteligência Artificial

PUBLICAÇÕES SÉRVULO 28 Abr 2021

No passado dia 21 de abril a Comissão Europeia apresentou uma Proposta de Regulamento do Parlamento Europeu e do Conselho, relativa ao estabelecimento de regras harmonizadas sobre a inteligência artificial (Artificial Intelligence Act) (doravante, a “Proposta de Regulamento”).

A Proposta de Regulamento é pioneira no estabelecimento de um quadro jurídico aplicável aos sistemas de inteligência artificial, prevendo obrigações para fornecedores, utilizadores e outros sujeitos que interagem com estes sistemas[1], recorrendo, para o efeito, a uma abordagem baseada no risco.

Por um lado, considerando serem dotadas de um risco inaceitável porque conflituante com valores da União Europeia, o diploma estabelece a proibição de determinadas práticas de inteligência artificial[2], como por exemplo: a colocação no mercado ou utilização de sistemas de inteligência artificial que utilizem técnicas de manipulação do subconsciente ou explorem vulnerabilidades de grupos especialmente vulneráveis como crianças ou pessoas com deficiência, por forma a distorcer materialmente o seu comportamento de maneira provável a provocar um dano físico ou psicológico a essa pessoa ou a outra ou; a utilização em espaços públicos de sistemas de identificação biométrica à distância em tempo real para efeitos policiais, excetuando certos casos específicos como a busca por crianças desaparecidas ou a prevenção de um ataque terrorista (devendo, regra geral, nestes casos ser concedida uma autorização prévia por uma autoridade judicial ou administrativa independente).

Por outro lado, a Proposta de Regulamento considera certos sistemas de inteligência artificial como serem dotados de um risco elevado para a saúde, segurança e direitos fundamentais das pessoas, como aqueles destinados a serem utilizados na gestão do tráfego rodoviário, no recrutamento ou seleção de pessoas, no auxílio a uma autoridade judicial na pesquisa e interpretação de factos e da lei e aplicação da lei a um conjunto concreto de factos, etc.[3] Nestes casos são previstos requisitos apertados dirigidos a estes sistemas de inteligência artificial, impondo-se a necessidade de implementação de um sistema de gestão do risco[4], de cumprimento de requisitos relativos à qualidade dos dados utilizados, disponibilidade de documentação técnica e conservação de registos, prestação de informação aos utilizadores, supervisão humana e requisitos de segurança dos sistemas. São ainda estabelecidos requisitos dirigidos especificamente aos sujeitos que operam com esses sistemas[5].

Um outro aspeto muito importante consiste no especial dever de transparência que recai sobre os sistemas que (i) interagem com humanos, ou (ii) são utilizados para detetar emoções, ou (iii) geram ou manipulam conteúdos (deep fakes). Nestas situações as pessoas devem ser informadas, respetivamente, de que estão a interagir com sistemas de inteligência artificial, de que as suas emoções são reconhecidas por um tal sistema ou ainda que o sistema é utilizado para manipular o conteúdo de uma imagem, áudio ou vídeo, por forma a realizarem as suas escolhas de maneira informada.

Os fornecedores de sistemas de inteligência artificial que não sejam classificados como sendo de elevado risco, poderão aderir voluntariamente ao cumprimento dos requisitos estabelecidos na Proposta de Regulamento através da criação e implementação dos seus próprios códigos de conduta, podendo incluir compromissos voluntários relacionados, por exemplo, com a sustentabilidade ambiental.

Por fim, será de notar que a Proposta de Regulamento estabelece sanções pesadas para quem incumprir com as obrigações previstas, que podem ir até € 30.000 ou, no caso de empresas e consoante o que for mais elevado, até 6% do volume de negócios total anual, à escala mundial, relativo ao exercício financeiro anterior.

A Proposta de Regulamento será ainda submetida ao processo legislativo ordinário. No entanto, será de destacar que este diploma coloca a União Europeia na vanguarda a nível mundial no que concerne à regulação no domínio da inteligência artificial, recorrendo a uma abordagem centrada no ser humano que lhe permite conjugar, em termos equilibrados, a proteção dos direitos fundamentais e da segurança dos cidadãos com a paralela promoção da inovação e da competitividade.

Andreea Babicean | aba@servulo.com