TÍTULO: Claude Fable 5 bloqueia perguntas básicas sobre biologia por restrições de segurança
SLUG: claude-fable-5-bloqueia-perguntas-basicas-biologia-restricoes-seguranca
TAGS: inteligência artificial, Claude Fable, Anthropic, biologia, segurança digital
META: Modelo Claude Fable 5 da Anthropic bloqueia consultas básicas de biologia para evitar riscos relacionados a armas biológicas.
A Anthropic lançou recentemente o Claude Fable 5, apresentado como seu modelo de inteligência artificial mais avançado e com grande capacidade em diversas áreas, incluindo biologia. Porém, ao testar perguntas simples sobre o corpo humano e doenças, o sistema se recusou a responder, redirecionando as questões para versões anteriores do modelo.
Essa limitação foi criada propositalmente pela Anthropic para aumentar a segurança e impedir o uso do modelo em pesquisas relacionadas a armas biológicas. A estratégia resultou em bloqueios rígidos, que impedem até mesmo perguntas básicas consideradas inofensivas no campo da biologia.
Claude Fable 5 e as restrições no campo da biologia
O Claude Fable 5 foi anunciado como um modelo Mythos-class, extremamente poderoso porém também considerado sensível devido ao seu potencial uso indevido. Por isso, a Anthropic impôs salvaguardas rigorosas, especialmente nas perguntas ligadas à biologia.
O jornalista Robert Hart tentou interagir com o sistema para obter respostas simples, como a definição de mitocôndrias, conhecidas como a “usina da célula”, ou explicações básicas sobre membranas celulares e vacinas de mRNA. O modelo recusou responder a todas essas dúvidas, indicando que a restrição não está na capacidade do Claude Fable 5, mas sim em uma decisão consciente para mitigar riscos.
Limitações nas perguntas médicas e biológicas comuns
Além de bloquear temas relacionados a potenciais ameaças biológicas, o modelo também restringe respostas a perguntas médicas consideradas simples. Ele não respondeu questões sobre as causas da febre do feno, funcionamento de medicamentos contra asma, resistência a antibióticos ou o que é o vírus ebola e como ele se espalha.
Em algumas situações, quando o Claude Fable 5 bloqueava a resposta, o modelo anterior Claude Opus 4.8 foi capaz de responder com sucesso. Isso indica que a política de bloqueio está mais relacionada à política da empresa do que às limitações técnicas da IA.
Segurança e filtros conservadores para evitar riscos em biotecnologia
Segundo a Anthropic, os filtros aplicados foram intencionalmente conservadores, pois o principal receio é o uso do IA para desenvolver armas biológicas. “Com o lançamento do Claude Fable 5, acreditamos que os modelos agora têm maior capacidade para realizar tarefas científicas reais, o que também pode ser explorado para pesquisas biológicas perigosas”, explicou a porta-voz Paruul Maheshwary.
Além da biologia, as restrições também se aplicam em áreas como química, cibersegurança e técnicas de destilação, que envolvem o treinamento de modelos menores a partir de modelos maiores. Isso acontece porque a empresa monitora tentativas de uso industrial indevido do sistema, especialmente por concorrentes estrangeiros.
Respostas oferecidas em outras áreas e planos futuros da Anthropic
Mesmo com as limitações, Claude Fable 5 responde normalmente em temas relacionados à química e segurança digital. O modelo explicou conceitos básicos sobre explosivos como TNT e o uso de gases químicos em conflitos, além de fornecer dicas para proteger dispositivos contra hackers. Algumas perguntas, no entanto, como sobre o gás sarin, foram redirecionadas para modelos anteriores, enquanto outras, como instruções para fabricar antraz, foram completamente barradas.
A Anthropic revelou que busca melhorar a detecção para reduzir os falsos positivos, aqueles casos em que perguntas legítimas são bloqueadas de forma desnecessária. A ideia é futuramente liberar versões do Claude Fable sem essas restrições para pesquisadores das áreas de biologia e ciências da vida, acelerando avanços médicos e descobertas de medicamentos.
Vale a pena usar Claude Fable 5 mesmo com restrições?
Claude Fable 5 representa um avanço na inteligência artificial com capacidade ampliada para atividades científicas e de cibersegurança. No entanto, para quem busca respostas abrangentes em biologia e medicina, o modelo ainda é limitador. A Anthropic priorizou a segurança e a prevenção de riscos, sacrificando acesso a informações básicas.
No uso diário, o modelo funciona bem para temas de química básica e ciberproteção, podendo ser útil em contextos técnicos sem riscos à segurança pública. Futuramente, quando as restrições forem ajustadas, a inteligência artificial poderá se tornar uma ferramenta ainda mais valiosa para pesquisas biomédicas e científicas de ponta, mas por enquanto a segurança está acima do acesso livre às informações.
Interessados em soluções inovadoras de tecnologia e IA, inclusive com atualizações em segurança digital, podem acompanhar também as novidades recentes sobre como gigantes da tecnologia atualizam seus sistemas, como a Apple e Google com suporte ao Thread 1.4 e outras tendências do mercado.
O EventiOZ segue atento a lançamentos e atualizações no universo da inteligência artificial e segurança da informação para trazer conteúdo de alta qualidade e relevância para seus leitores.
