De acordo com um relatório da WIRED, a Meta já promoveu uma aplicação que agora foi removida, a qual permitia aos utilizadores criar imagens pornográficas geradas por IA baseadas em pessoas reais, sendo que um dos anúncios mostrava uma mulher semelhante a uma conhecida política americana. Aqui estão os detalhes.
Meta e Apple tomam medidas contra aplicações de deepfake pornográfico
A Apple afirmou que a aplicação adicionou funcionalidades proibidas após a revisão. Segundo o relatório da WIRED, a Meta lançou uma campanha publicitária para uma aplicação que se autodenomina “IA utilizada por homens”, onde um dos anúncios exibia uma imagem gerada por IA de uma mulher muito semelhante a uma conhecida política americana. O relatório indica que a ferramenta, chamada Kromix, se apresenta como um “estilizador de imagens de IA”. Numa das vídeo publicidades vistas pela WIRED, a narração promovia a ferramenta como “sem quaisquer restrições”, afirmando que “todos os personagens são pessoas reais”, descrevendo-a como “IA utilizada por homens”.
Num dos anúncios, uma mulher semelhante a uma conhecida política aparece diante da bandeira americana e da bandeira presidencial, com o título “E se ela se mover?”. Em seguida, ela pisca os olhos e o anúncio muda para uma cena de uma mulher com um rosto semelhante a atuar em um vídeo pornográfico.
O relatório indica que as duas empresas agiram imediatamente após a WIRED entrar em contacto: a Apple removeu a aplicação da loja de aplicações, enquanto a Meta retirou 32 anúncios direcionados a utilizadores masculinos. A Apple, ao responder à WIRED, enfatizou que a Kromix parece ter adicionado conteúdos e funcionalidades proibidas após a revisão inicial na loja de aplicações. A empresa também afirmou: “Temos uma política rigorosa que proíbe aplicações projetadas para gerar, distribuir ou consumir conteúdos pornográficos. […] Aplicações de ‘desnudamento’ violam as nossas diretrizes de revisão de aplicações, e estamos a trabalhar ativamente para identificar e remover aplicações e contas de desenvolvedores que tentam contornar os nossos processos e políticas.”
A posição da Apple é semelhante aos comentários feitos no mês passado pelo procurador da cidade de São Francisco, David Chiu, que pediu à empresa para remover oito aplicações de “desnudamento” da loja de aplicações. Voltando ao relatório da WIRED, é mencionado que a Kromix não é a única aplicação deste tipo que a Apple removeu após ser contactada pela publicação. Numa outra investigação, a WIRED descobriu que vários anúncios problemáticos na Meta estavam relacionados com a MaskAI, uma aplicação semelhante que permite aos utilizadores fazer upload de fotos e colocar as pessoas em situações sexuais. A Apple também removeu essa aplicação após o contacto da WIRED.