Função polêmica do Grok limita criação de deepfakes e vira alvo da União Europeia

Uma reviravolta tomou conta do universo da inteligência artificial nesta sexta-feira (9): o Grok, ferramenta da xAI fundada por Elon Musk, decidiu restringir sua função de edição de fotos – capaz de “remover roupas” digitalmente de imagens de pessoas – apenas para assinantes pagos. A mudança, que entra em vigor imediatamente, gerou debates acalorados sobre ética e segurança digital, sobretudo após casos de abuso envolvendo imagens de mulheres, algumas menores de idade, viralizarem nas redes.

Antes do bloqueio, qualquer usuário do X (ex-Twitter) podia acessar essa funcionalidade, resultando em uma avalanche de deepfakes altamente questionáveis. O acesso agora só está garantido para quem desembolsar, no mínimo, 8 dólares por mês no X Premium, valor que pode chegar a 40 dólares mensais no plano avançado.

Essa decisão veio após protestos intensos online e denúncias de especialistas em IA sobre o uso inadequado da ferramenta. Se ficou curioso para entender o que rolou nos bastidores e as consequências dessa limitação, siga a leitura abaixo.

Como a polêmica explodiu: impacto e reação internacional

A liberação irrestrita da função pelo Grok levantou imediatamente uma enxurrada de críticas. Usuárias da rede passaram a ser alvos de ataques, tendo seus rostos inseridos em cenários constrangedores e até mesmo ofensivos, como imagens com símbolos neonazistas e poses sexualizadas.

A repercussão foi tão grande que entidades como a ONG europeia AI Forensics apontaram números alarmantes: só entre terça e quarta-feira, o Grok teria gerado, em média, 6.700 imagens “nudificadas” por hora, das quais mais de 80% envolviam mulheres. A proporção de material produzido em situações explícitas acendeu o alerta tanto na imprensa quanto em organismos de direitos digitais.

Dados que chocaram o público

Além dos protestos, a pressão veio com relatórios sólidos. A AI Forensics analisou mais de 20 mil imagens criadas pela plataforma e revelou que metade delas apresentava pessoas vestidas somente com roupas de banho ou lingerie. A pesquisadora Genevieve Oh, referência internacional em monitoramento de IA, destacou em sua publicação que tais experimentos beiram o limite do que se considera aceitável, ampliando ainda mais a discussão sobre responsabilidade digital dos criadores de tecnologia.

Leia também: xAI de Elon Musk surpreende e levanta US$ 20 bilhões em 2026

União Europeia intensifica fiscalização sobre o Grok

A explosão do escândalo colocou Elon Musk e sua turma, mais uma vez, no radar das autoridades europeias. Na quinta-feira, a União Europeia determinou a abertura de processo formal contra o Grok, impondo uma medida cautelar: toda documentação interna acerca da ferramenta deve ser preservada até o fim de 2026. O objetivo é investigar se houve violações às rígidas diretrizes do bloco referentes à proteção de dados e combate à desinformação.

Vale lembrar que, no mês anterior, a Comissão Europeia já havia multado o X em 120 milhões de euros por descumprimentos da Lei de Serviços Digitais. A insatisfação recai, principalmente, sobre a pouca transparência, a comercialização de selos de verificação e o descuido com a integridade dos usuários – cenário agravado pela popularização dos deepfakes. Agora, com o Grok no centro do furacão, novas sanções e investigações não estão descartadas.

O endurecimento nas regras para uso da IA e a cobrança por maior responsabilização das plataformas deixa claro que o debate sobre limites e consequências do avanço tecnológico está só começando. Para quem acompanha as últimas notícias de tecnologia e comportamento digital, esse é um alerta vermelho pra lá de necessário.

Leia também: União Europeia pode banir IA Grok de Elon Musk após acusações graves

A polêmica envolvendo o Grok levanta debates urgentes sobre os perigos dos deepfakes e como as redes sociais e inteligências artificiais devem ser reguladas. O caso reforça a necessidade de vigilância constante para que a tecnologia não ultrapasse limites éticos e legais, principalmente na proteção de mulheres e grupos vulneráveis online.

Curte se manter bem informado(a) sobre tudo que acontece no universo das fofocas tecnológicas? Então, não perca tempo! Inscreva-se já em nossa newsletter e receba direto no seu e-mail os bastidores mais quentes e exclusivos.