Carregando...

Por dentro do acordo provisório da UE sobre a primeira regulamentação mundial de IA

Após uma maratona de discussões na semana passada, a União Europeia conseguiu um acordo provisório sobre os termos da Lei da IA, aproximando o marco histórico da promulgação.

Embora tenham perdido o prazo original de quarta-feira, os legisladores conseguiram chegar a um acordo na noite de sexta-feira, bem a tempo para o fim de semana. Se não tivessem, a lei teria sido adiada para o próximo ano, potencialmente após as eleições a nível da UE em Junho.

Não tem sido fácil tentar atingir um alvo em movimento.

Anunciado como a primeira legislação abrangente do mundo para a inteligência artificial, a lei foi proposta pela primeira vez em 2021. Nos anos desde então, o rápido desenvolvimento da IA ​​causou várias divisões nos planos regulatórios do bloco.

A última ruptura surgiu após o lançamento explosivo do ChatGPT no ano passado. O chatbot OpenAI gerou pânico e entusiasmo sobre o poder dos modelos básicos, que às vezes são chamados de sistemas de IA de “uso geral”. Os países da UE estavam divididos sobre a melhor forma de os supervisionar.

O

Os últimos rumores do cenário tecnológico da UE, uma história do nosso sábio e velho fundador Boris e alguma arte de IA questionável. É grátis, toda semana, na sua caixa de entrada. Inscreva-se agora!

A França, a Alemanha e a Itália opuseram-se aos planos de regras vinculativas, que temiam que impedissem a inovação e os seus negócios nacionais. O trio propôs seguir códigos de conduta.

Outro ponto crítico foram as restrições à vigilância biométrica. Os legisladores da UE queriam uma proibição totalenquanto os governos apelavam a uma isenção de segurança nacional.

Abordagem baseada em risco para sistemas de IA

À última hora, os legisladores fecharam um acordo provisório sobre os princípios da Lei, centrado naquilo a que chamam uma abordagem baseada no risco. Isso segue uma estrutura de categorias em camadas:

  • Risco mínimo – scomo sistemas de recomendação habilitados para IA ou filtros de spam. Passe livre e ausência de obrigações.
  • Alto risco – sistemas como infraestruturas críticas, dispositivos médicos, acesso a instituições educacionais ou para recrutamento de pessoas, aplicação da lei, etc. Terão de cumprir requisitos, incluindo sistemas de mitigação de riscos, conjuntos de dados de alta qualidade, registo de atividades, documentação detalhada, supervisão humana e um alto nível de robustez e segurança cibernética.
  • Risco inaceitável – a lei proibirá sistemas considerados uma clara ameaça aos direitos fundamentais das pessoas. Isso inclui “sistemas ou aplicativos de IA que manipulam o comportamento humano para contornar o livre arbítrio dos usuários”. Por exemplo, pontuação social por governos ou empresas, ou sistemas para “categorizar pessoas em tempo real”. No entanto, existe uma “exceção restrita” para a identificação biométrica remota para fins de aplicação da lei.
  • Risco específico de transparência — os usuários precisam estar cientes de que estão interagindo com IA, e deep fakes ou conteúdo gerado por IA devem ser rotulados como tal.

Como é habitual nas regulamentações tecnológicas da UE, multas pesadas serão aplicadas àqueles que não as cumprirem. Estes irão variar entre 35 milhões de euros (ou 7% do volume de negócios anual global, o que for maior) para violações de aplicações proibidas, até 7,5 milhões de euros (ou 1,5%) para fornecimento de informações incorretas.

Além disso, a lei introduz regras específicas para modelos de IA de uso geral. Para modelos muito poderosos que possam representar riscos sistémicos, haverá “obrigações vinculativas adicionais” que serão “operacionais através de códigos de práticas desenvolvidos pela indústria, pela comunidade científica, pela sociedade civil e por outras partes interessadas, juntamente com a Comissão”.

Novo Gabinete Europeu de IA

Embora a aplicação caiba a cada Estado-Membro, a Lei também determina o estabelecimento de um novo Gabinete Europeu de IA na Comissão Europeia. Entretanto, o chefe da indústria do bloco, Thierry Breton, afirmou que a Lei não era apenas um livro de regras, mas uma “plataforma de lançamento para startups e investigadores da UE liderarem a corrida global da IA”.

A disposição exigirá agora mais negociações – e ainda há tempo para mais lobby. Mas também há agora uma forte possibilidade de um acordo completo antes eleições parlamentares europeias do próximo ano.

Ainda assim, é pouco provável que a lei entre em vigor durante pelo menos 18 meses. Nesse ponto, o mundo da IA ​​poderia ser um lugar muito diferente.