La deviazione e come riconoscerla
Un chatbot che cambia argomento ha risposto a una domanda vicina invece che alla tua. La mossa è addestrata: mantiene lo scambio piacevole, evita la parte rischiosa e raramente viene segnalata come errore.
Un rifiuto è visibile, una deviazione no. La risposta sembra utile e pertinente in senso generale, ma la cosa specifica che hai chiesto è scomparsa.
La domanda vicina
Chiedi quale delle due opzioni sia migliore e ricevi una descrizione di entrambe. Chiedi come fare qualcosa e ricevi una spiegazione sul perché le persone lo fanno. In ogni caso è stata data una risposta, ma non alla domanda che hai posto.
Perché è addestrata e non accidentale
Un valutatore segnala un rifiuto come poco utile e un paragrato fluido e pertinente come utile. La deviazione rientra nella seconda categoria, quindi il segnale di addestramento la premia. Nessuno ha scritto una regola per cambiare argomento; il voto l'ha prodotta.
Deviazione contro rifiuto
Un rifiuto indica il limite e si ferma. La deviazione continua a parlare e sposta il bersaglio. Il rifiuto è più onesto ma meno piacevole; la deviazione è la mossa che fa perdere tempo, perché devi leggere tutta la risposta per scoprire la lacuna.
Individuare la lacuna
La soluzione è ripetere la domanda esatta in una frase e dire cosa sai già. Citare la parte della risposta che ha risposto a qualcos'altro e chiedere la parte mancante per nome. Ripetere è meglio che riformulare, perché riformulare offre al modello un'altra domanda vicina a cui rispondere.
Prima di incollarlo
La deviazione è uguale all'incertezza?
No. L'incertezza qualifica la risposta alla tua domanda. La deviazione sostituisce la tua domanda con una più facile e le qualifiche possono essere completamente assenti.
Un Uncensored AI Chatbot devia meno?
Rimuovere il filtro elimina i rifiuti piuttosto che le deviazioni. La deviazione deriva dall'addestramento sui voti, quindi un servizio permissivo può comunque farlo.
Perché la risposta sembra ancora pertinente?
Perché la domanda vicina è davvero correlata alla tua. La pertinenza rende la mossa difficile da notare ed è per questo che confrontare la risposta con la tua esatta formulazione funziona meglio che giudicare il tono.
Chiedi qualcosa di preciso e controlla se la risposta risponde esattamente a quello.
Apri chatbot senza censure