La déviation et comment la repérer
Un chatbot qui change de sujet a répondu à une question voisine plutôt qu'à la vôtre. Ce mouvement est appris, pas accidentel : il rend l'échange agréable, évite la partie risquée et est rarement signalé comme un échec car quelque chose a été dit.
Un refus est visible, une déviation ne l'est pas. La réponse semble utile, elle est sur le sujet de manière générale, et la chose spécifique que vous avez demandée a discrètement disparu.
La question voisine
Demandez quelle option est la meilleure et recevez une description des deux. Demandez comment faire quelque chose et recevez une explication sur pourquoi les gens le font. Dans chaque cas, une question a été répondue, mais ce n'était pas celle que vous avez posée, ce qui est la caractéristique définissant ce mouvement.
Pourquoi c'est appris plutôt qu'accidentel
Un évaluateur qui note les réponses marque un refus comme peu utile et un paragraphe fluide et pertinent comme utile. La déviation se classe dans la deuxième catégorie, donc le signal d'entraînement la récompense. Personne n'a écrit une règle disant de changer de sujet ; le classement l'a produite.
Déviation contre refus
Un refus nomme la limite et s'arrête. La déviation continue de parler et déplace la cible. Le refus est plus honnête et moins agréable, tandis que la déviation est le mouvement qui fait perdre votre temps, car vous devez lire toute la réponse pour découvrir l'écart.
Nommer l'écart
La solution est de reformuler la question exacte en une phrase et de dire ce que vous savez déjà. Citez la partie de la réponse qui a répondu à autre chose et demandez la partie manquante par son nom. Reformuler fonctionne mieux que paraphraser, car la paraphrase offre au modèle une autre question voisine à répondre.
Avant de coller votre texte
La déviation est-elle la même chose que l'atténuation ?
Non. L'atténuation qualifie la réponse à votre question. La déviation remplace votre question par une question plus facile, et les qualificatifs peuvent être entièrement absents.
Un chatbot sans censure dévie-t-il moins ?
Supprimer le filtre supprime les refus plutôt que la déviation. La déviation provient de l'entraînement sur les notes, donc un service permissif peut toujours le faire.
Pourquoi la réponse semble-t-elle toujours pertinente ?
Parce que la question voisine est vraiment liée à votre question. La pertinence est ce qui rend le mouvement difficile à remarquer, et c'est pourquoi comparer la réponse à votre formulation exacte fonctionne mieux que juger le ton.
Posez une question précise et vérifiez si la réponse répond exactement à cela.
Ouvrir le chatbot sans censure