A popularização das ferramentas de inteligência artificial generativa tem criado novos desafios no atendimento ao cliente. Usuários cada vez mais confiam nas respostas dos chatbots, mesmo quando elas são incorretas ou inexistentes. Esse fenômeno, chamado de “alucinação de IA”, está tornando as interações mais difíceis para trabalhadores que atendem o público em diversas áreas.
Profissionais do setor de serviços relatam que consumidores ignoram informações confiáveis para seguir orientações fornecidas por ferramentas digitais, criando atritos e complicando a rotina desses trabalhadores. Essa mudança de comportamento repensa a tradicional máxima de que “o cliente sempre tem razão”.
Confusões em restaurantes por conta das respostas da IA
Madison, atendente em um restaurante italiano recomendadíssimo em Nova York, comenta que há casos recentes de clientes insistindo em opiniões geradas por IA, mesmo quando isso pode prejudicar a saúde deles. Em algumas situações, convidados pediram pratos que contêm frutos do mar, apesar de afirmarem terem alergia ao ingrediente.
Quando alertava sobre essas alergias, alguns clientes rejeitavam a informação, argumentando que o ChatGPT indicava o contrário. Segundo Madison, “Eles só querem confiar no ChatGPT, mesmo quando afirmamos que há realmente frutos do mar no prato”. Essa insistência cria riscos diretos ao consumidor e tensão no atendimento.
Além disso, o uso de IA influencia as preferências dos clientes na escolha de vinhos. Muitos dispensam o sommelier e preferem ouvir o que o chatbot indica, mesmo que o restaurante não trabalhe com os rótulos mencionados – ou até mesmo com vinhos inexistentes. Os profissionais buscam maneiras de lidar com essas situações sem confrontar diretamente, para evitar conflitos.
IA e a crescente descrença em especialistas tradicionais
Esse fenômeno ultrapassa a área gastronômica. Jason, ranger federal nos Estados Unidos, observa o aumento de visitantes com roteiros gerados por IA que não fazem sentido na prática. Algumas programações indicam atividades impossíveis, como remar contra a correnteza em determinados dias, o que não é viável.
Apesar dos esclarecimentos feitos com mapas e explicações no local, muitos turistas continuam duvidando dos profissionais no parque e preferem confiar no roteiro da IA. Esse comportamento reflete como a confiança em sistemas automáticos supera a confiança nas orientações humanas, mesmo diante de evidências claras.
Impactos da IA também na educação e organização pessoal
Casey, professora de um programa extracurricular em Nova York, relata que vários responsáveis por crianças passaram a consultar assistentes virtuais para questões relacionadas ao desenvolvimento infantil. Em um exemplo citado, uma família seguiu uma rotina de sono sugerida por IA, mas a criança continuou apresentando sinais de cansaço excessivo.
Mesmo após alertas da docente, os pais mantiveram a rotina indicada pelo sistema, confiando na tecnologia acima da experiência humana. Segundo Casey, isso mostra uma mudança significativa na relação entre famílias e especialistas da área, que agora enfrentam resistência devido à valorização das respostas geradas por inteligência artificial.
Automação interfere nas interações humanas do atendimento
Lauren Wilford, gerente de restaurante em Rhode Island, observa como a intervenção da IA passa a acontecer até na organização de eventos. Recentemente, o local recebeu contatos com pedidos de última hora para equipamentos e alterações no cardápio que pareciam vir de agentes digitais, e não diretamente dos clientes.
Wilford comenta que, embora entenda a utilidade dos agentes de IA para facilitar tarefas burocráticas, há situações nas quais a presença humana é essencial para preservar a qualidade da interação. Ela acredita que, ao ignorar essas relações, perde-se mais do que se ganha com a automação completa do atendimento.
Vale a pena confiar na inteligência artificial para atendimento ao cliente?
O caso mostra que as alucinações da inteligência artificial estão criando uma nova dinâmica no atendimento ao cliente, em que a confiança nos sistemas digitais pode gerar frustrações e desentendimentos. Para trabalhadores de setores como gastronomia, turismo e educação, isso significa mais desafios diários na comunicação com o público.
Enquanto a tecnologia evolui, é fundamental que as empresas e profissionais do atendimento equilibrem o uso dessas ferramentas com a importância do contato humano. No EventiOZ, acompanhamos essa transformação e destacamos como o avanço da IA influencia diversas áreas, reforçando a necessidade de adaptação constante.
