Artigo escrito por PEDRO LEÃO CORNET, Head Legal de LUCODS.
O objecto da regulamentação.
Recentemente, a União Europeia acordou regulamentos abrangentes para a inteligência artificial (IA) de propósito geral. Esta medida, resultado do compromisso entre os eurodeputados e o Conselho, procura garantir a segurança, o respeito pelos direitos fundamentais e a democracia, ao mesmo tempo que procura impulsionar a inovação e colocar a Europa como líder no domínio da IA.As restrições são extensas, apontam principalmente ao respeito de direitos humanos fundamentais, abordando áreas críticas como a categorização biométrica, a identificação facial e a manipulação de comportamentos. Os regulamentos proíbem a utilização de sistemas biométricos que utilizem características sensíveis, a recolha indiscriminada de imagens faciais e a identificação de emoções em ambientes de trabalho e de educação. Além disso, a pontuação social baseada no comportamento e na manipulação da conduta humana é proibida para contornar o livre-arbítrio, bem como a exploração das vulnerabilidades das pessoas.
No âmbito da aplicação da lei, foram estabelecidos cuidados para a utilização de sistemas biométricos em espaços públicos, sujeitos a autorização judicial e restrições específicas. Esta abordagem equilibrada visa garantir a eficácia sem comprometer os direitos individuais.
Para os sistemas de alto risco, foram estabelecidas obrigações claras, incluindo avaliações de impacto em direitos fundamentais e medidas de mitigação. Por exemplo, a utilização de inteligência artificial em processos eleitorais situa-se numa categoria de alto risco outorgando aos cidadãos o direito de apresentar queixas e receber explicações sobre decisões que afetam seus direitos.
Num gesto de transparência, os sistemas de IA devem cumprir requisitos de transparência, incluindo a elaboração de documentação técnica e a difusão de resumos detalhados sobre o conteúdo utilizado para o treinamento. Para modelos de alto impacto com risco sistémico, são instituídas medidas mais rigorosas, desde avaliações até mesmo até relatórios de eficiência energética.
A regulamentação do que não existe.
No entanto, apesar destes avanços. Estamos regulando o que ainda não emergiu por completo? Como funciona o resto do mundo à questão regulamentar? Isto torna-se mais evidente ao considerar que outros países, como os EUA ou a China, não seguem o mesmo caminho regulatório.Os relatórios sobre a posição da Europa na distribuição global de startups e a baixa localização das cidades da União Europeia na lista de Hubs tecnológicos levantam questões sobre a capacidade da Europa para competir num cenário global tão dinâmico.
O dilema por permitir que o mercado opere por si só se torna mais forte. É a regulação o único fator determinante para o sucesso? Com a incerteza do desenvolvimento tecnológico, regular até 2027, pode provocar a transferência de operações para lugares menos regulamentados, como os EUA, a China ou Israel onde a inovação floresce sem restrições tão rigorosas.
Finalmente, a regulamentação é essencial, mas é necessário um equilíbrio cuidadoso para não sufocar a criatividade e a capacidade de adaptação. A Europa enfrenta o desafio de procurar liderar na era da IA sem limitar o seu próprio potencial. Estarão adelantados demasiado com regulamentos que poderiam limitar a capacidade de adaptação e evolução da tecnologia? A cautela e a flexibilidade podem ser fundamentais nesta viagem para o futuro da inteligência artificial.
Comentários