A atualização da política do Google Play reprime aplicativos de IA ‘ofensivos’ e notificações perturbadoras

O Google está visando aplicativos generativos de IA potencialmente problemáticos com uma nova política, a ser aplicada a partir do início do próximo ano, que exigirá que os desenvolvedores de aplicativos Android publicados em sua Play Store ofereçam a capacidade de denunciar ou sinalizar conteúdo ofensivo gerado por IA. A nova política insistirá que a sinalização e os relatórios podem ser feitos no aplicativo e os desenvolvedores devem usar o relatório para informar suas próprias abordagens de filtragem e moderação, diz a empresa.

A mudança na política segue uma explosão de aplicativos gerados por IA, alguns dos quais onde os usuários enganaram os aplicativos para criar imagens NSFW, como aconteceu com o Lensa no ano passado. Outros, entretanto, têm questões mais sutis. Por exemplo, descobriu-se que um aplicativo que se tornou viral neste verão para fotos de cabeça de IA, Remini, aumentava muito o tamanho dos seios ou do decote de algumas mulheres e os afinava. Depois, houve os problemas mais recentes com as ferramentas de IA da Microsoft e da Meta, onde as pessoas encontraram maneiras de contornar as barreiras de proteção para fazer imagens como Sonic the Hedgehog grávidas ou personagens fictícios fazendo o 11 de setembro.

É claro que existem preocupações ainda mais sérias em torno do uso de geradores de imagens de IA, uma vez que os pedófilos eram descoberto usando ferramentas de IA de código aberto para criar material de abuso sexual infantil (CSAM) em escala. E com as próximas eleições, também existem preocupações quanto ao uso da IA ​​para criar imagens falsas, também conhecidas como deepfakes, para enganar ou desinformar o público votante.

Créditos da imagem: Google

O texto da nova política indica que exemplos de conteúdo gerado por IA incluem “chatbots de IA generativos de conversação texto-para-texto, nos quais a interação com o chatbot é um recurso central do aplicativo”, abrangendo quais aplicativos como ChatGPT, bem como aplicativos onde as imagens são “geradas por IA com base em texto, imagem ou comandos de voz”.

O Google, em seu anúnciolembrou aos desenvolvedores que todos os aplicativos, incluindo geradores de conteúdo de IA, devem cumprir as políticas de desenvolvedor existentes, que proíbem restrito conteúdo como CSAM e outros que permitir comportamento enganoso.

Além de alterar sua política para reprimir aplicativos de conteúdo de IA, o Google diz que algumas permissões de aplicativos também receberão uma revisão adicional pela equipe do Google Play, incluindo aqueles aplicativos que solicitam permissões amplas de fotos e vídeos. De acordo com a nova política, os aplicativos só poderão acessar fotos e vídeos se isso estiver diretamente relacionado à sua funcionalidade. Se eles tiverem uma necessidade única ou pouco frequente – como aplicativos de IA que pedem aos usuários para fazer upload de um conjunto de selfies, talvez – os aplicativos precisam usar um seletor de sistema, como o novo Seletor de fotos Android.

Créditos da imagem: Google

A nova política também limitará notificações perturbadoras em tela cheia apenas aos momentos em que houver uma necessidade de alta prioridade. A capacidade de exibir notificações em tela cheia tem sido abusada por muitos aplicativos na tentativa de vender aos usuários assinaturas pagas ou outras ofertas, quando na verdade a funcionalidade deveria ser limitada a casos de uso prioritários do mundo real, como receber uma chamada telefônica ou vídeo chamar. O Google afirma que agora mudará as limitações e exigirá uma permissão especial de acesso ao aplicativo. Esta “permissão de intenção de tela inteira” só será concedida a aplicativos direcionados ao Android 14 e superior que realmente exijam a funcionalidade de tela inteira.

É surpreendente ver que o Google é o primeiro a lançar uma política sobre aplicativos de IA e chatbots, já que, historicamente, tem sido a Apple quem emite novas regras para reprimir o comportamento indesejado de aplicativos, que o Google então imita. Mas a maçã não tem uma política formal de IA ou chatbot em suas Diretrizes da App Store até o momento, embora tenha sido reforçado em outras áreas, como a solicitação de dados por aplicativos com a finalidade de identificar o usuário ou dispositivo, um método conhecido como “impressão digital”, bem como em aplicativos que tentam copiar outros.

As atualizações da política do Google Play estão sendo lançadas hoje, embora os desenvolvedores de aplicativos de IA tenham até o início de 2024 para implementar a sinalização e relatar alterações em seus aplicativos.