‘Podemos perder irreversivelmente o controle da IA ​​autônoma’, alertam os principais acadêmicos

Cartas abertas alertando sobre os riscos da IA ​​estão se acumulando – com os principais tecnólogos e pesquisadores soando o alarme desenvolvimento incontrolávelameaças existenciais urgentes e falta de regulamentação.

Agora, apenas uma semana antes do AI Summit em Londres, um nova Carta apela às empresas e aos governos para que garantam a utilização segura e ética da IA. Os signatários incluem vários académicos europeus, três vencedores do Prémio Turing e até os chamados padrinhos da IA, Yoshua Bengio e Geoffrey Hinton.

Não por coincidência, em maio passado, Hinton deixou o Google para falar livremente sobre os perigos iminentes da inteligência artificial. Para aumentar a atmosfera distópica, um mês antes, Elon Musk avisou que a IA poderia levar à “destruição da civilização” e Sundar Pichai do Google admitido os perigos “mantêm [him] acordado à noite.”

Na carta, publicada na terça-feira, os signatários destacaram que, embora as capacidades da tecnologia possam ter um impacto imensamente positivo na humanidade, a falta de investimento na segurança e na mitigação de danos pode ter o efeito exactamente oposto.

O <3 da tecnologia da UE

Os últimos rumores do cenário tecnológico da UE, uma história do nosso sábio e velho fundador Boris e alguma arte de IA questionável. É grátis, toda semana, na sua caixa de entrada. Inscreva-se agora!

Observaram que a IA já ultrapassou as capacidades humanas em determinados domínios, alertando que “habilidades e comportamentos imprevistos” podem surgir sem programação explícita.

“Sem cautela suficiente, podemos perder irreversivelmente o controle dos sistemas autônomos de IA, tornando a intervenção humana ineficaz”, diz a carta. Isto poderá levar a uma série de perigos preocupantes e crescentes, que vão desde o crime cibernético e a manipulação social até à perda em grande escala da biosfera e… à extinção.

Tendo em conta o que está em jogo, os signatários apelam às empresas para que atribuam pelo menos um terço do seu orçamento de I&D à segurança e ética da IA. Estão também a apelar aos governos para que apliquem normas e regulamentos e facilitem a cooperação internacional, a fim de evitar a imprudência e o uso indevido.

A próxima Lei da IA ​​da UE será a primeira regulamentação específica da IA ​​do mundo que procurará estabelecer um conjunto claro de regras sobre o desenvolvimento da tecnologia. Mas, apesar dos avisos, o sector empresarial manifestou preocupações diferentes, temendo que a regulamentação sufoque a inovação.

Na verdade, caminhar na linha tênue entre a regulamentação da IA ​​e o progresso parece ser um dos maiores desafios que os governos enfrentam hoje. Mas a dificuldade apresentada não significa (e não deveria) significar que a segurança e a governação sejam de importância secundária.

“Para orientar a IA em direção a resultados positivos e longe da catástrofe, precisamos nos reorientar. Existe um caminho responsável, se tivermos sabedoria para o seguir”, concluem os académicos.