Um juiz federal dos Estados Unidos determinou que o Departamento de Eficiência Governamental (DOGE) agiu de forma ilegal e inconstitucional ao cancelar mais de US$ 100 milhões em bolsas federais para projetos ligados à diversidade, equidade e inclusão (DEI). A decisão, divulgada nesta quinta-feira, afirma que o DOGE utilizou o ChatGPT de maneira inadequada para identificar quais iniciativas deveriam ter financiamento interrompido.
O caso é resultado de uma ação judicial de 2025 movida por grupos da área de humanidades, que alegaram discriminação. Na sentença, a juiz Colleen McMahon destaca que o DOGE aplicou critérios ligando características protegidas, como raça e orientação sexual, à suposta falta de mérito dos projetos, o que violou a Constituição dos EUA.
Uso do ChatGPT para definir critérios ilegais
O processo detalha que funcionários do DOGE, em especial Justin Fox e Nate Cavanaugh, aplicaram o ChatGPT para revisar descrições breves das bolsas, buscando indicar se elas tinham relação com DEI. Fox admitiu que submetia os dados ao chatbot com a pergunta padronizada: “Isso está relacionado a DEI?”, sem definir claramente o conceito para a inteligência artificial.
Além disso, Fox usava listas de termos específicos, como BIPOC (pessoas negras, indígenas e de cor), LGBTQ e imigrantes, para identificar projetos e classificá-los como “insanos” ou “ruins”. Essa avaliação serviu como base para cancelar cerca de 97% das bolsas analisadas, segundo o processo.
Impacto sobre bolsas voltadas para grupos protegidos
A decisão destaca que o DOGE rejeitou centenas de bolsas relacionadas a temas importantes para grupos como negros, mulheres, judeus, asiáticos americanos e indígenas. Isso incluiu projetos sobre o Holocausto, direitos civis e estudos da cultura e saberes indígenas, todos alinhados com a missão do National Endowment for the Humanities (NEH).
A juíza McMahon ressalta que, ao tratar essas bolsas como não merecedoras de financiamento, o DOGE violou as proteções da Primeira Emenda americana, que garante a liberdade de expressão, e os princípios de proteção igualitária previstos na Quinta Emenda.
Responsabilidade do governo sobre o uso da inteligência artificial
A defesa do governo argumentou que a responsabilidade pelas decisões teria sido do próprio ChatGPT e não do órgão governamental. No entanto, a juíza rejeitou essa tese, afirmando que o DOGE escolheu usar o ChatGPT como ferramenta, e isso não exime o governo de responsabilidade por condutas inconstitucionais.
Ela ainda ressaltou a falta de revisão crítica por parte dos funcionários sobre os resultados apresentados pelo ChatGPT, o que reforça a ilegalidade da forma como o sistema foi usado para cancelar as bolsas.
Decisão judicial e reversão dos cortes
A sentença determina que o DOGE deve reverter o cancelamento de mais de 1.400 bolsas federais concedidas pelo NEH. A juíza McMahon reforçou que o departamento não tinha autoridade para eliminar os fundos com base em critérios discriminatórios e mencionou explicitamente violações constitucionais.
Essa decisão traz um importante precedente sobre os limites da utilização da inteligência artificial em processos governamentais, especialmente relacionados a direitos civis e políticas públicas.
Vale a pena acompanhar o caso para entender o papel da IA em decisões governamentais?
O caso evidencia riscos e desafios ao integrar ferramentas como o ChatGPT em processos burocráticos que envolvem garantias legais e direitos fundamentais. A repercussão pode impactar diretamente os debates sobre regulamentações para uso da IA no setor público e o controle das decisões automatizadas.
Além disso, à medida que cresce o uso de inteligência artificial, surgem discussões relevantes em outras áreas, como energia e tecnologia. Por exemplo, a expansão dos data centers de IA e seu impacto energético ganham cada vez mais atenção, sendo um tema ligado à própria infraestrutura necessária para manter esses sistemas funcionando.
No EventiOZ, acompanhado os desdobramentos dessa e outras notícias relacionadas ao uso responsável da inteligência artificial e políticas governamentais de tecnologia é essencial para compreender o futuro das inovações no Brasil e no mundo.
