Carregando...

O primeiro acordo mundial de segurança de IA expõe o poder do Vale do Silício, dizem os críticos

A primeira declaração mundial sobre IA, acordada na quarta-feira, não terá impacto real e foi manipulada pelas grandes empresas de tecnologia, dizem os críticos.

A declaração foi assinada por 28 países – e pela UE – que abrangem coletivamente seis continentes. Eles revelaram seu pacto no AI Safety Summit do Reino Unido em Bletchley Park, onde decifradores decifraram a máquina Enigma da Alemanha nazista durante a Segunda Guerra Mundial.

O novo acordo leva o nome do site. Conhecido como “Declaração de Bletchley”, o comunicado estabelece uma compreensão partilhada dos perigos e oportunidades da IA.

“Muitos riscos decorrentes da IA ​​são inerentemente de natureza internacional e, portanto, são melhor abordados através da cooperação internacional”, afirma a declaração.

A declaração também apela a uma acção internacional em matéria de “IA de fronteira”. Uma palavra da moda favorita na cúpula, a IA de fronteira abrange modelos avançados e de uso geral, como o ChatGPT da OpenAI. Segundo o governo britânico, estes são os sistemas que apresentam riscos mais perigosos e urgentes.

Os signatários da declaração concordaram que “riscos substanciais” poderiam surgir da IA ​​de fronteira. Em alguns casos, alertaram eles, a IA de fronteira pode causar “danos graves, até mesmo catastróficos, deliberados ou não intencionais”. Mas os críticos argumentam que tais receios foram deliberadamente exagerados.

Lewis Liu, CEO da startup de aprendizado de máquina Eigen Technologies, está entre os críticos mais veementes. O aviso apocalíptico, disse ele, “é excessivamente influenciado por uma análise profundamente falha e por uma agenda definida pelas grandes empresas tecnológicas que procuram dominar o processo de elaboração de políticas”.

“Este tipo de propaganda catastrófica ecoa as palavras da OpenAI e dos seus pares, que estiveram entre os lobistas corporativos mais influentes no período que antecedeu a Cimeira”, acrescentou.

“Há um medo real na comunidade de startups de que este seja um fórum onde as grandes tecnologias assumem o controle do volante, para tentar regulamentar os sistemas de IA de código aberto, definir os termos do debate e, ao fazê-lo, congelar o concorrência.”

O foco na IA de fronteira também irritou os pesquisadores. Sandra Wachter, professora de tecnologia e regulamentação na Universidade de Oxford, argumenta que a automatização do trabalho, a discriminação e os impactos ambientais são preocupações mais urgentes.

“Infelizmente, isto está fora do âmbito desta Cimeira e o foco predominante está no ‘risco de perder o controlo’ da IA, no sentido de que a IA desenvolve uma ‘vontade própria’ e representa um risco ‘existencial’ para a humanidade, ” ela disse.

“No entanto, não há nenhuma evidência científica de que estejamos nesse caminho, ou de que tal caminho exista. Mas desvia a atenção dos riscos existenciais reais e já existentes.”

Estilo em vez de substância?

Embora a declaração faça advertências ousadas, é muito leve em detalhes. O que é mais notável é a coligação de nações que apoiaram o pacto.

Os signatários incluem os EUA e a China, que firmaram um acordo raro no cenário mundial.

Numa nova demonstração de unidade, Gina Raimondo, secretária do Comércio dos EUA, e Wu Zhaohui, vice-ministro chinês da ciência e tecnologia, sentaram-se lado a lado no palco numa sessão, onde cada um deles fez discursos sobre IA.

A sua colaboração, contudo, será extremamente limitada na prática. A declaração apela à “cooperação internacional” e ao “diálogo global inclusivo”, mas não propõe quaisquer regras, roteiros ou princípios éticos específicos.

“Esta declaração não terá nenhum impacto real na forma como a IA é regulamentada”, disse Martha Bennett, vice-presidente e analista principal da empresa de consultoria empresarial Forrester.

Bennett observa que já existem várias políticas que contêm muito mais substância. Entre eles estão a Lei de IA da UE, a Ordem Executiva da Casa Branca sobre IA e o “Código Internacional de Conduta” do G7 para IA.

“Além disso”, acrescentou Bennett, “os países e entidades representados na Cimeira da IA ​​não teriam concordado com o texto da Declaração de Bletchley se esta contivesse quaisquer detalhes significativos sobre como a IA deveria ser regulamentada”.

Apesar das suas dúvidas sobre os impactos no mundo real, Bennett acredita que o acordo pode servir um propósito útil.

“A Cimeira e a Declaração de Bletchley são mais sobre [sending] sinais e demonstração de vontade de cooperar, e isso é importante”, disse ela. “Teremos que esperar e ver se as boas intenções serão seguidas de ações significativas.”

Talvez não tenhamos que esperar muito. Durante o evento de Bletchley Park, foi anunciado que a Coreia do Sul sediará uma segunda cúpula em seis meses. Outro acontecerá então na França. No entanto, tal como as coisas estão, parece que a legislação nacional irá obstruir qualquer acordo internacional significativo.