A Plataforma X (antigo Twitter) foi oficialmente cobrada por órgãos federais, incluindo a Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF), a implementar ações urgentes para bloquear a criação e disseminação de conteúdos sexualizados gerados pela inteligência artificial Grok. O prazo estipulado para as medidas é de 30 dias.
O que é exigido pela lei
As medidas foram solicitadas após uma série de denúncias de usuários e reportagens, tanto nacionais quanto internacionais, que expuseram o uso indevido da IA para criar deepfakes pornográficos envolvendo adultos, crianças e adolescentes sem o seu consentimento. A partir dessa situação, os órgãos reguladores exigem que a plataforma adote as seguintes ações imediatas:
- Remoção de conteúdo: A plataforma deverá desenvolver um plano técnico para identificar, revisar e remover, em até 30 dias, qualquer conteúdo sexualizado gerado pela IA Grok a partir de comandos de usuários. Esse processo inclui imagens e vídeos não autorizados.
- Bloqueio de contas: A suspensão imediata de contas que forem responsáveis pela produção e compartilhamento de conteúdos que envolvem crianças, adolescentes ou adultos em contextos sexuais ou erotizados sem permissão.
- Canal de denúncia: A criação de um canal de denúncia acessível e transparente para que os usuários possam informar sobre o uso indevido de seus dados pessoais na criação de conteúdos sintéticos, como deepfakes.
O uso indevido da IA e os impactos na plataforma X
O documento divulgado nesta terça-feira (20) destacou que as exigências surgiram após investigações que comprovaram o uso de Grok para gerar deepfakes pornográficos, muitas vezes envolvendo mulheres e menores de idade. As autoridades alegam que o X não é apenas intermediador, mas sim coautor desses conteúdos, uma vez que fornece a IA que facilita a criação do material a partir de comandos dos usuários.
Dessa forma, as exigências de remoção de conteúdo foram consideradas necessárias e devem ser cumpridas, independentemente do que estava estabelecido anteriormente pelo Marco Civil da Internet. Essa interpretação foi recentemente reforçada pelo Supremo Tribunal Federal (STF), que determinou maior responsabilidade das plataformas digitais sobre conteúdos gerados pelos seus usuários.
O futuro da regulamentação digital
A cobrança sobre a Plataforma X coloca em evidência a responsabilidade das empresas de tecnologia em garantir que suas ferramentas não sejam usadas para práticas ilícitas, como a criação de deepfakes prejudiciais. A pressão para o cumprimento da lei reflete uma crescente preocupação com a proteção da privacidade e segurança online no Brasil, com implicações tanto para as plataformas quanto para os usuários afetados.
