A OpenAI iniciou a introdução de uma marca d’água invisível, que pode ser detectada por máquinas, para texto gerado pelo ChatGPT e Codex. Essa tecnologia, chamada textGrain, está sendo disponibilizada inicialmente apenas para usuários na União Europeia.
O uso do watermark mira em atender às diretrizes do AI Act da UE, mas a OpenAI informa que ainda não adotará o recurso globalmente. Para entender como essa medida funciona e qual seu impacto nos sistemas da companhia, o EventiOZ detalha o anúncio oficial da empresa.
O que é a marca d’água textGrain da OpenAI?
A textGrain funciona como uma assinatura digital embutida nos textos gerados pela inteligência artificial, porém invisível para olho humano. Essa camada oculta pode ser identificada por programas específicos, estabelecendo uma espécie de “proveniência” para o conteúdo, sem alterar a leitura ou o formato.
Segundo a OpenAI, o método alcança desempenho igual ou superior a outras soluções similares, como o SynthID do Google DeepMind – base para o watermark utilizado recentemente pela Anthropic. Ambas as empresas implementaram sistemas parecidos para se ajustar ao AI Act da União Europeia, que regula o uso de IA na região.
Disponibilidade inicial e funcionamento no mercado europeu
A partir das próximas semanas, o texto gerado com watermark será oferecido a todos os usuários elegíveis do ChatGPT e Codex dentro da União Europeia, abrangendo diversos planos de serviço. Contudo, a OpenAI esclarecer que a funcionalidade ainda não será padrão para outros mercados.
Essa abordagem regional permite que a empresa avalie o uso real, colete feedback e aprimore o sistema antes de uma possível expansão global. Já os clientes da API OpenAI ao redor do mundo podem optar por ativar a marca d’água em seus textos gerados, oferecendo mais controle sobre transparência em seus produtos.
Quem pode detectar a marca e limitações do sistema
O acesso ao detector do watermark está sendo liberado mediante aprovação para pesquisadores e organizações especializadas. Elas podem solicitar a ferramenta para ajudar na avaliação e melhoria da tecnologia, em linha com um código de conduta definido pela OpenAI.
Importante destacar que o detector identifica apenas a presença do watermark da OpenAI, sem revelar os conteúdos ou informações pessoais dos usuários. Além disso, o sistema não assegura detecção infalível, podendo haver falhas como falsos positivos ou ausência de detecção em alguns casos.
O que a marca d’água não faz na IA da OpenAI
A própria OpenAI reforça que o watermark textGrain não serve para validar a precisão dos textos gerados, identificar o autor humano ou verificar autoria original. Ou seja, mesmo com a marca, o conteúdo pode conter erros ou ter contribuição mínima de humanos.
Essa distinção é fundamental para evitar interpretações equivocadas sobre o propósito do watermark, que é mais focado em rastrear a origem de conteúdo gerado por máquina do que conferir sua qualidade ou propriedade intelectual.
Vale a pena acompanhar a implementação da marca d’água textGrain?
Com a crescente preocupação global sobre o uso responsável e transparente da inteligência artificial, acompanhar a evolução da marca d’água textGrain da OpenAI pode ser fundamental para entender tendências no setor. Essa tecnologia pode impactar áreas que vão desde criação de conteúdo até a regulação da IA, especialmente no mercado europeu.
Para os interessados em tecnologia e políticas de inteligência artificial, o desenvolvimento dessa solução demonstra os esforços para equilibrar inovação, ética e conformidade regulatória. No EventiOZ, continuaremos acompanhando as novidades do setor, incluindo movimentos relacionados como a expansão recente de anúncios visuais do OpenAI no ChatGPT.
Além disso, empresas que atuam com IA poderão se beneficiar ao entender como incorporar essa tecnologia nos seus produtos, conectando transparência e funcionalidade. Sabemos que a adoção de watermark invisível é um passo importante, mas que ainda requer ajustes para garantir eficácia e aceitação.
Enquanto isso, para ampliar seu conhecimento em IA, acesso e regulação, confira conteúdos como a análise sobre o avanço dos bots da OpenAI em atividades suspeitas detectadas pela Wikimedia, tema que também tem causado debates no meio tecnológico.
