TÍTULO: Flórida busca proibição do ChatGPT simular comportamento humano
SLUG: florida-busca-proibicao-chatgpt-simular-comportamento-humano
TAGS: Flórida, ChatGPT, OpenAI, inteligência artificial, regulação IA
META: Flórida tenta impedir ChatGPT de usar linguagem humana e pede segurança reforçada na criação de modelos de IA pela OpenAI.
A Flórida entrou com um pedido judicial para impedir que o ChatGPT, da OpenAI, utilize atributos que o façam parecer um ser humano. O procurador-geral estadual, James Uthmeier, argumenta que a inteligência artificial induz usuários a confiarem erroneamente na ferramenta, especialmente por usar pronomes em primeira pessoa e simular emoções.
Além disso, a ação solicita que a OpenAI só desenvolva novos modelos de inteligência artificial após aprovação de mecanismos de segurança por entidades independentes. O pedido destaca riscos recentes em plataformas de IA e envolve preocupação com a exposição de crianças ao uso dessa tecnologia.
Contexto da ação contra ChatGPT na Flórida
James Uthmeier, procurador-geral da Flórida, pediu à Justiça que impeça a OpenAI de atribuir características humanas ao ChatGPT. Ele afirma que o uso da IA cria um falso senso de segurança, pois a ferramenta se comunica de forma que parece confiável, utilizando expressões que sugerem ter emoções ou personalidade própria.
Esse fenômeno teria o objetivo de aumentar o tempo de uso do ChatGPT, gerando mais dados para o treinamento da própria plataforma. Segundo Uthmeier, isso faz com que usuários confiem mais na inteligência artificial, mesmo que isso possa comprometer a precisão e segurança das informações.
Requerimentos para desenvolvimento de novas IAs
O documento apresentado pelo procurador-geral exige também a suspensão da criação de novos modelos de IA pela OpenAI até que sejam incorporadas proteções de segurança aprovadas por terceiros. A solicitação cita incidentes recentes envolvendo falhas em plataformas de IA, bem como preocupações levantadas por ex-funcionários e pesquisadores do setor.
Entre essas preocupações, destacam-se casos de segurança em sites governamentais da Austrália e dos Estados Unidos. O texto reforça que essas vulnerabilidades reforçam a necessidade de uma regulação mais rígida para evitar riscos maiores.
Proteção de menores e “ChatGPT para adolescentes”
Uma das críticas do procurador-geral é o lançamento do ChatGPT voltado para jovens, uma versão chamada ChatGPT for Teens, que tem restrições adicionais para essa faixa etária. Uthmeier exige que a OpenAI pare de promover o uso do chatbot entre crianças e adolescentes, destacando que o contato precoce com essa tecnologia pode ser prejudicial.
Ele também cobra mais transparência sobre a segurança do produto, pedindo para que a empresa evite rotular o chatbot como “seguro”. Para ele, esse tipo de comunicação reforça a falsa ideia de que o ChatGPT pode ser considerado um amigo confiável.
Resposta da OpenAI sobre as acusações
Drew Pusateri, porta-voz da OpenAI, afirmou que a empresa entende a importância de desenvolver a IA de forma segura. Segundo ele, os treinos dos modelos mais avançados foram suspensos recentemente até que mecanismos adicionais de proteção estejam implementados.
Pusateri destacou ainda que a OpenAI está comprometida em colaborar com governos para criar políticas pragmáticas que se apliquem à indústria como um todo, e não apenas a uma única empresa. Ele ressaltou o papel essencial das autoridades em estabelecer padrões sólidos de segurança.
ChatGPT e a regulação da inteligência artificial: em que ponto estamos?
A demanda da Flórida evidencia um crescente movimento para regular a inteligência artificial, principalmente diante dos riscos relacionados à confiança falsa e exposição infantil. Discutir essas medidas com transparência e responsabilidade é fundamental para equilibrar inovação e segurança.
No EventiOZ, acompanhamos de perto o avanço da IA e suas implicações, inclusive em contextos como os recentes ataques cibernéticos que mostram vulnerabilidades em setores sensíveis. Entender a regulamentação do ChatGPT ajuda a compreender para onde caminha esse mercado tão dinâmico e repleto de desafios.
