O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) determinaram, nesta quarta-feira (11), que a plataforma X (antigo Twitter) implemente medidas imediatas para impedir a criação de conteúdo sexualizado por meio de sua ferramenta de inteligência artificial, o Grok. A decisão conjunta ocorre após as instituições concluírem que as providências informadas anteriormente pela empresa foram insuficientes para conter a geração de imagens de crianças, adolescentes e adultos em contextos eróticos sem autorização.
Em janeiro, as três entidades haviam emitido recomendações para que a plataforma adotasse procedimentos técnicos de revisão e remoção desse tipo de material. Embora o X tenha afirmado em sua resposta que removeu “milhares de publicações” e suspendeu “centenas de contas” por violação de políticas, os órgãos fiscalizadores apontaram falta de transparência e de provas técnicas.
“Na avaliação das instituições, as informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade”, declararam MPF, ANPD e Senacon em nota oficial. Além disso, testes preliminares realizados pelas equipes técnicas dos órgãos indicaram a “persistência das falhas”, confirmando que o Grok continua gerando e circulando conteúdos incompatíveis com as normas vigentes.
Medidas imediatas e relatórios detalhados
Diante da continuidade do problema, cada instituição instaurou procedimentos administrativos específicos, exigindo ações concretas que abranjam todas as versões, planos e modalidades do sistema Grok ofertadas no mercado.
A Senacon, vinculada ao Ministério da Justiça e Segurança Pública (MJSP) e apoiada pela Secretaria Nacional de Direitos Digitais (Sedigi), emitiu uma medida cautelar administrativa. O órgão exige que o X implemente soluções técnicas e organizacionais para impedir a geração de imagens, vídeos ou áudios sexualizados de menores de idade e de adultos sem consentimento. A secretaria baseia-se no Código de Defesa do Consumidor, citando violações aos deveres de segurança e prevenção de danos.
Além do bloqueio, a Senacon determinou o envio de um relatório métrico detalhado contendo dados quantitativos sobre identificação, moderação e remoção de conteúdos, incluindo prazos médios de resposta e critérios técnicos utilizados.
Já a ANPD expediu uma medida preventiva exigindo que o Grupo X comprove a eficácia das medidas adotadas por meio de evidências documentais. A autoridade de proteção de dados fixou um prazo de cinco dias úteis para que a empresa demonstre o cumprimento da determinação. Caso a irregularidade persista, a agência poderá adotar sanções mais severas, incluindo a imposição de multa diária, sem prejuízo de processo administrativo sancionador.
O Ministério Público Federal também impôs obrigações rígidas de transparência, criticando a resposta anterior da plataforma por ser genérica e pouco clara. O MPF ordenou o envio de relatórios mensais, a partir deste mês de fevereiro, detalhando a atuação da empresa no combate à produção de deepfakes e outros conteúdos nocivos. O documento deve indicar o número de postagens derrubadas e de contas suspensas em cada período.
As consequências para o descumprimento das ordens podem extrapolar a esfera administrativa. Segundo o MPF, caso os relatórios não sejam apresentados nos prazos estipulados, os envolvidos poderão responder pelo crime de desobediência. Além disso, a empresa fica sujeita a medidas investigatórias mais incisivas e pode ser alvo de ação judicial para a reparação de danos e a garantia de prevenção de novos ilícitos. Cada instituição mantém um procedimento administrativo aberto para apurar as responsabilidades da plataforma sobre o uso indevido da ferramenta de inteligência artificial.
