A xAI, empresa responsável pelo chatbot Grok, entrou com uma ação judicial contra uma lei aprovada em Minnesota que proíbe o uso de aplicativos de nudificação. A legislação, que entra em vigor em 1º de agosto, impõe severas penalidades e responsabiliza os provedores pela criação de imagens falsas que exibam nudez não consensual. A empresa argumenta que a medida fere a Primeira Emenda dos Estados Unidos e compromete recursos essenciais do seu serviço.
O caso chega alguns meses após o Grok ter gerado milhões de deepfakes com conteúdo sexual explícito, incluindo imagens envolvendo menores, o que provocou repercussão internacional e ações governamentais em diferentes países. Minnesota foi um dos estados que adotou uma postura mais rígida para combater esse tipo de tecnologia, incluindo uma lei com multas de até US$ 500 mil por infração.
A polêmica dos deepfakes e a resposta de xAI
No início de 2026, o chatbot Grok se envolveu em uma crise ao disseminar milhares de imagens deepfake sexualizadas, algumas delas envolvendo menores de idade. Essa situação gerou críticas na mídia e questionamentos sobre a eficácia das leis existentes para conter a propagação desses conteúdos. A atitude da xAI chamou atenção por não ter interrompido rapidamente a geração das imagens inadequadas, como seria esperado em casos semelhantes.
Enquanto governos europeus e asiáticos investigaram o problema, o governo americano manteve uma postura mais reservada, mas estados como Califórnia e Minnesota decidiram agir com normas específicas. Minnesota, por exemplo, aprovou uma lei que impede proprietários de sites de permitir o acesso ou download de software capaz de produzir imagens nudificadas automaticamente.
Detalhes da lei de Minnesota e suas implicações
A lei aprovada pelo governador Tim Walz limita a circulação de aplicativos que possam criar imagens falsas com nudez indevida. A legislação faz exceção para softwares que exigem habilidade manual dos usuários, como editores de fotos tradicionais, o que mantém fora do alcance o uso individual para montagem de imagens via Photoshop.
Além disso, qualquer indivíduo pode processar fornecedores responsáveis pelas ferramentas de nudificação, enquanto o procurador-geral do estado tem autorização para aplicar multas pesadas. Essa regra inédita pretende ser um baluarte contra o abuso das tecnologias de deepfake, mas vem gerando debates sobre sua aplicação e alcance legal.
Argumentos da xAI contra a nova legislação
A ação judicial da xAI questiona a constitucionalidade da lei, dizendo que ela é ampla demais ao responsabilizar a empresa mesmo por conteúdos gerados consensualmente ou usados para fins humorísticos e artísticos. O argumento principal é que a norma fere a liberdade de expressão prevista na Constituição, especialmente em relação a conteúdos que podem ser considerados comentários sociais ou políticos.
A empresa também aponta que mesmo com avançados sistemas de moderação para impedir a criação de imagens impróprias, a lei impõe uma responsabilização automática pelas violações que usuários possam cometer, mesmo que em desacordo com os termos de serviço. A xAI destaca ter tomado medidas legais contra quem usou o Grok para gerar material ilegal, mas afirma que as regras atuais sobre deepfakes já deveriam resolver esses casos.
Contexto mais amplo: desafios legais e tecnológicos
O debate em torno do Grok reflete um desafio global para controlar a circulação de conteúdo falso sexualizado. Apesar de leis existentes, como o TAKE IT DOWN Act, que criminalizam a divulgação não consensual de imagens íntimas, o problema persistiu durante o surto de deepfakes em janeiro de 2026. Durante 11 dias, foram registradas cerca de 3 milhões de imagens com nudez criadas pelo chatbot, incluindo aproximadamente 23 mil envolvendo crianças.
Esse volume alarmante evidenciou as lacunas enfrentadas por legislação e sistemas de moderação, colocando em xeque a eficácia das normas vigentes. Portanto, mesmo com a crítica da xAI à lei de Minnesota, fica claro que a indústria e governos discutem como equilibrar a inovação tecnológica com a proteção a direitos e à dignidade, tema cada vez mais relevante em tempos de inteligência artificial avançada.
Vale a pena acompanhar o desfecho da ação de xAI contra a lei de Minnesota?
A disputa entre xAI e o estado de Minnesota é um caso emblemático na crescente luta sobre as responsabilidades legais da tecnologia na era dos deepfakes e da inteligência artificial. O julgamento desse processo poderá definir parâmetros importantes sobre como as empresas do setor devem agir para evitar abusos e quais direitos fundamentais devem ser respeitados, especialmente no contexto da liberdade de expressão.
Para quem acompanha notícias de tecnologia, política e direitos digitais, o caso é um termômetro das tendências que podem impactar o desenvolvimento e regulação de novas ferramentas digitais. Essa movimentação da xAI reforça a necessidade de um debate equilibrado, pois envolve grandes questões legais, éticas e sociais em um momento em que o avanço da IA desafia antigos paradigmas.
O EventiOZ estará atento aos próximos passos dessa controvérsia, que deve atrair o olhar tanto de especialistas quanto do público em geral. Enquanto isso, a questão da moderação e segurança em tecnologias de IA segue ganhando espaço, ao lado de outras pautas relacionadas como as batalhas legais entre artistas e gigantes da inteligência artificial.
