Devido ao estado aspiracional das coisas, o OpenAI escreve: “Nossos modelos de produção ainda não refletem completamente as especificações do modelo, mas estamos continuamente refinando e atualizando nossos sistemas para trazê -los em um alinhamento mais próximo com essas diretrizes”.
Em uma entrevista em 12 de fevereiro de 2025, os membros da equipe de behavior do OpenAi disseram ao The Gerge que a eliminação da silcofância da IA é uma prioridade: as futuras versões de chatgpt devem “dar feedback honesto em vez de elogios vazios” e agir “mais como um colega pensativo do que um prazer”.
O problema de confiança
Essas tendências parcofanticas não são meramente irritantes – elas minam a utilidade dos assistentes de IA de várias maneiras, de acordo com um trabalho de pesquisa 2024 intitulado “Lisonjeador para enganar: o impacto do comportamento spofantico na confiança do usuário em grandes modelos de idiomas”, de María Victoria Carro na Universidade de Buenos Aires.
O artigo de Carro sugere que a silcofância óbvia reduz significativamente a confiança do usuário. Em experimentos em que os participantes usaram um modelo padrão ou um projetado para serem mais sicofânticos, “os participantes expostos ao comportamento scofântico relatados e exibiram níveis mais baixos de confiança”.
Além disso, os modelos sycofantics podem potencialmente prejudicar os usuários, criando uma câmara de silo ou eco para as idéias. Em um artigo de 2024 sobre Sycofhancy, pesquisador de IA Escreveu: “Ao concordar excessivamente com os insumos do usuário, os LLMs podem reforçar e amplificar vieses e estereótipos existentes, potencialmente exacerbando as desigualdades sociais”.
A bajulação também pode incorrer em outros custos, como desperdiçar o tempo de usuário ou limites de uso com preâmbulo desnecessário. E os custos podem ocorrer como dólares literais gastos – recentemente, o Openai Sam Altman fez a notícia quando ele respondeu a um usuário X que escreveu: “Eu me pergunto quanto dinheiro o Openai perdeu nos custos de eletricidade de pessoas dizendo ‘por favor’ e ‘agradecer’ aos seus modelos”. Altman respondeu: “Dezenas de milhões de dólares bem gastos – você nunca sabe”.
Soluções potenciais
Para os usuários frustrados com o entusiasmo excessivo do ChatGPT, existem vários trabalhos de trabalho, embora não sejam perfeitos, pois o comportamento é assado no modelo GPT-4O. Por exemplo, você pode usar um GPT personalizado com instruções específicas para evitar a bajulação ou iniciar conversas solicitando explicitamente um tom mais neutro, como “manter suas respostas breves, manter -se neutro e não me lisonjear”.