O caso é analisado pela Agência Nacional de Proteção de Dados (ANPD), pelo Ministério Público Federal (MPF) e pela Secretaria Nacional do Consumidor (Senacon).
Desde o fim do ano passado surgiram milhares de denúncias em diversos países de que essa inteligência artificial atende a pedido de usuários adulterar imagens postadas por mulheres nas redes, a fim de que elas apareçam nuas ou de biquíni, por exemplo.
Ao menos duas brasileiras relatam ter sido vítimas desses deepfakes.
A rede social, que pertence ao bilionário Elon Musk, disse ter removido milhares de publicações com essas imagens e suspendido centenas de contas por violações de suas políticas.
Mas a avaliação das autoridades brasileiras é que as informações apresentadas “não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade”.
Testes realizados pelas equipes técnicas dos órgãos indicaram que a rede social ainda permite gerar e compartilhar sem consentimento imagens sexualizadas ou erotizadas de crianças, adolescentes e adultos.
Interação no X para recriar imagem de mulher de biquíni usando o Grok — Foto: Reprodução/X
O MPF destacou que a empresa não foi transparente e ordenou que ela forneça relatórios mensais sobre sua atuação para evitar a produção dessas imagens.
A ANPD também determinou que o X enumere as providências tomadas para resolver o problema e apresente evidências que possam ser verificadas por autoridades.
Novo prazo
Agora, a ANPD e a Senacon determinaram que o X tem cinco dias úteis para aprimorar e implementar medidas para impedir que o Grok crie esse tipo de conteúdo. As providências tomadas deverão ser explicadas dentro desse prazo. O ofício não informou quando ele começou a contar.
Se a ordem não for cumprida, o X ficará sujeito a sanções mais rígidas, incluindo o pagamento de multas. Os envolvidos também poderão responder pelo crime de desobediência.
O MPF ainda poderá fazer investigações mais incisivas que levem a uma ação judicial para reparar eventuais danos causados com a criação das imagens.
Investigações na Europa
O Grok é desenvolvido pela xAI, a empresa de inteligência de Musk, que também é dona do X. No início do mês, o bilionário anunciou a fusão dessas empresas com a SpaceX, do ramo aeroespacial, que também pertence a ele. A medida deverá criar um negócio trilionário.
A SpaceX deve estrear na bolsa de Nova York ainda neste ano.
