TL;DR: A Apple acabou de fechar a porta para apps que criam deepfakes íntimos sem permissão, a chamada tecnologia "nudify". A mudança vem após críticas intensas e até ordem judicial de remoção.
O que mudou nas diretrizes da App Store?
A gigante da maçã publicou uma atualização nas suas políticas que deixa claro: nada de apps que transformam fotos em imagens nuas ou sexualizadas sem o consentimento da pessoa retratada. A medida inclui tanto ferramentas de geração de imagens quanto serviços que prometem “remover roupas” ou “criar fotos sensuais”.
- Proibição explícita de "nudify" apps – Agora a regra menciona diretamente a prática de gerar imagens íntimas sem autorização, algo que antes ficava em um texto mais vago sobre conteúdo sexualmente explícito.
- Sanção rápida para infratores – A Apple afirma que apps que violarem a nova política serão removidos do catálogo em até 24 horas após notificação, sem chance de apelo.
- Foco em deepfakes de menores – A atualização reforça a proibição de qualquer conteúdo que envolva menores, alinhando a empresa às leis de proteção infantil em várias jurisdições.
- Responsabilidade dos desenvolvedores – Desenvolvedores agora precisam comprovar que seu algoritmo não pode ser usado para gerar imagens não consensuais, sob pena de ter a conta suspensa.
- Impacto nas ferramentas de IA populares – Apps como o grok, que já estavam no alvo de críticas por gerar fotos sexualizadas, terão que adaptar ou sair da loja.
- Reação da comunidade – Protestos na WWDC de junho pediram a retirada de apps “nudify”, e a decisão da Apple parece ser uma resposta direta a esses clamores.
- Possível efeito cascata – Outros marketplaces, como o Google Play, já sinalizaram que podem seguir o mesmo caminho, ampliando a pressão contra deepfakes não consentidos.
Como a mudança afeta desenvolvedores e usuários?
Para quem cria apps de IA, a mensagem é clara: se o seu produto pode ser usado para violar a privacidade de alguém, ele não tem lugar na App Store. Isso pode significar reescrever algoritmos, implementar filtros de consentimento ou simplesmente abandonar funcionalidades controversas.
Já os usuários ganham uma camada extra de segurança. Embora a tecnologia de deepfake ainda esteja em expansão, a proibição reduz a disponibilidade de ferramentas que facilitam o assédio digital. Em termos práticos, quem baixar um app de edição de fotos no iphone não encontrará mais opções que prometem “tirar a roupa” da foto.
O que ainda não está claro?
- Como a Apple vai monitorar apps que podem ser usados indevidamente, mas não são explicitamente “nudify”?
- Qual será a reação das plataformas concorrentes, especialmente o Google Play?
- Desenvolvedores que já têm apps aprovados vão precisar atualizar ou serão removidos retroativamente?
O que falta saber
A decisão da Apple marca um ponto de inflexão na luta contra deepfakes não consensuais, mas ainda há lacunas. A empresa ainda não divulgou detalhes sobre como será feita a revisão automática ou manual desses apps, nem quais métricas usarão para determinar se um algoritmo é “potencialmente perigoso”.
Além disso, a ordem da procuradoria da cidade de San Francisco que forçou a remoção de 13 apps “nudify” ainda está em vigor, e pode servir de precedente para outras jurisdições. Caso outras cidades adotem medidas semelhantes, a pressão sobre marketplaces globais pode aumentar ainda mais.
Para os criadores de conteúdo, a mensagem é: atenção redobrada ao usar ferramentas de IA em projetos que envolvem imagens de pessoas. O consentimento não é mais um detalhe opcional, mas um requisito de publicação.
