Apple e Google removem apps de nudes falsos com IA das lojas

Apple e Google removeram aplicativos que usam inteligência artificial para criar nudes falsos de suas lojas digitais. A medida atende decisão judicial de San Francisco, nos Estados Unidos.

Os apps de "nudify" permitem transformar fotos comuns de pessoas em imagens de nudez artificial. A Procuradoria-Geral de San Francisco acusou as plataformas de facilitar a distribuição dessas ferramentas.

Empresas confirmam banimento

A Apple confirmou ao site 9to5Mac que retirou do ar todos os aplicativos citados pela Procuradoria. A empresa trabalha agora para banir permanentemente as contas dos desenvolvedores responsáveis.

O Google também removeu os apps mencionados na decisão judicial. A empresa bloqueou buscas por termos como "nudify" na Play Store.

Medida atende pressão judicial

A decisão judicial apontou que as lojas de aplicativos facilitavam o acesso a ferramentas usadas para criar conteúdo íntimo falso. O processo exigiu remoção imediata dos apps.

As empresas não informaram quantos aplicativos foram removidos. Também não há detalhes sobre punições aos desenvolvedores.

A criação de nudes falsos com IA se tornou problema crescente. As vítimas são principalmente mulheres que têm suas imagens manipuladas sem consentimento.

Apple e Google possuem políticas contra conteúdo sexual não consensual. A aplicação dessas regras, porém, enfrentava dificuldades antes da pressão judicial.