google.com, pub-7803720760009502, DIRECT, f08c47fec0942fa0
Connect with us

Dicas

Deslumbrado com a grande tecnologia, a cúpula de IA do Reino Unido está negligenciando as grandes questões

Líderes mundiais e titãs da tecnologia estão atualmente chegando ao sul da Inglaterra para uma cúpula de segurança de IA, mas o evento chamativo não está impressionando a todos.

Nos próximos dois dias, cerca de 100 figurões participarão do evento no histórico Bletchley Park, uma propriedade ruralcerca de 90 km ao norte de Londres. Durante Durante a Segunda Guerra Mundial, o site foi o lar dos decifradores que quebraram o notório dispositivo de criptografia Enigma da Alemanha nazista. Cerca de 80 anos depois, o governo britânico quer mostrar que o Reino Unido ainda é uma superpotência tecnológica – mas os planos causaram alarme.

Os críticos têm várias preocupações. Eles temem que os organizadores da cimeira estejam fascinados pela “IA de fronteira”, por nomes famosos e por receios longínquos, ao mesmo tempo que ignoram questões mais prementes e inclusivas.

Uma adição tardia à programação que roubou o show aumentou suas suspeitas. Na segunda-feira, o primeiro-ministro Rishi Sunak revelou que estará “conversando” com Elon Musk no X.

Musk adiciona ainda mais brilho a um repleto de estrelas lista de convidados.

O <3 da tecnologia da UE

Os últimos rumores do cenário tecnológico da UE, uma história do nosso sábio e velho fundador Boris e alguma arte de IA questionável. É grátis, toda semana, na sua caixa de entrada. Inscreva-se agora!

Entre os convidados estão vários pesos pesados ​​políticos, incluindo A vice-presidente dos EUA, Kamala Harris, a presidente da Comissão Europeia, Ursula von der Leyen, o secretário-geral da ONU, Antonio Guterres, e o vice-ministro chinês, Wu Zhaohui.

Também estiveram presentes vários titãs da tecnologia, como o presidente da Microsoft, Brad Smith, o CEO da OpenAI, Sam Altman, e o chefe da Meta AI, Yann LeCun. Mas o evento não é para todos.

“O meu receio é que a cimeira se concentre nas ameaças existenciais que estão nas manchetes.

Grande parte do sector tecnológico sente que apenas os gigantes da indústria e os líderes políticos estarão sentados à mesa de conferência de Sunak.

Hector Zenil, fundador da startup de saúde Oxford Immune Algorithmics, está preocupado que o evento seja dominado pela IA generativa e pelas grandes tecnologias. Ele convocou Sunak para envolvem um maior equilíbrio de representação comercial e acadêmica.

“Se a Cúpula de Segurança da IA ​​for considerada um sucesso – ou pelo menos no caminho certo para criar consenso sobre segurança, regulamentação e ética da IA ​​– então o governo do Reino Unido deve se esforçar para criar condições de concorrência equitativas para todas as partes discutirem o casos de uso futuros para a tecnologia”, disse Zenil.

“A Cimeira não pode ser dominada por empresas com uma agenda específica e uma narrativa em torno dos seus interesses comerciais, caso contrário as atividades desta semana serão vistas como um exercício de marketing caro e enganoso.”

As opiniões de Zenil são comuns em todo o setor. Entre os membros da indústria que compartilham seu desconforto está Victor Botev, CTO e cofundador da Iris.aiuma startup com sede em Oslo.

Ex-pesquisador de IA na Universidade Chalmers e agora líder empresarial, Botev deseja uma representação mais ampla da academia e da indústria na reunião.

“É vital que qualquer consulta sobre regulamentação da IA ​​inclua perspectivas que vão além dos gigantes da tecnologia”, disse ele. “As pequenas empresas de IA e os programadores de código aberto são frequentemente pioneiros em novas inovações, mas as suas vozes sobre a regulamentação não são ouvidas. A cimeira perdeu uma grande oportunidade ao incluir apenas 100 convidados, que são compostos principalmente por líderes mundiais e grandes empresas de tecnologia.”

Os capitalistas de risco levantaram preocupações semelhantes.

“No futuro, também devemos ter mais vozes para as próprias startups. A IA segurança o foco da cúpula nas grandes tecnologias e a exclusão de muitos na comunidade de startups de IA é decepcionante”, disse Catarina Almasque, sócio geral da European VC Oceano aberto.

“É vital que as vozes da indústria sejam incluídas na definição de regulamentações que terão impacto direto no desenvolvimento tecnológico.”

Apocalipses de IA de fronteira

A chamativa lista de convidados foi acompanhada por uma agenda apropriadamente dramática. Esta combinação, dizem os críticos, é uma distração de preocupações mais prementes.

Eles observam que o programa se concentrará exclusivamente em sistemas de IA de “fronteira” – um termo nebuloso para modelos avançados de IA de uso geral. Num relatório recente do governo, o termo “IA de fronteira” foi aplicado quase inteiramente a grandes modelos de linguagem (LLMs) – particularmente ao ChatGPT da OpenAI.

Zenil suspeita que o foco tenha sido influenciado por CEOs que investem neste campo. Ele quer que o governo tenha uma visão mais ampla.

“É absolutamente crítico que o Reino Unido tenha uma estratégia coerente para a IA que englobe todos os aspectos da tecnologia e diferentes modelos. Acima de tudo, isto é importante porque nenhuma abordagem se tornará a ‘bala de prata’ para a adoção da IA”, disse ele.

“Se a Cimeira de IA em Bletchley Park e o comité consultivo de IA forem dominados por indivíduos com uma investigação específica ou foco comercial para IA, então será mais difícil desenvolver quadros regulamentares que reflitam todos os casos de utilização potenciais.”

Dr Hector Zenil, fundador da Oxford Immune Algorithmics