I 4 limiti strutturali
Alcuni limiti derivano dalle regole e possono essere rimossi. Questi 4 derivano dalla costruzione del sistema: non può agire fuori dalla conversazione, non sa cosa è successo dopo l'addestramento se non glielo dicono, non descrive la sua configurazione in modo affidabile e non ti ricorda senza un archivio.
Le pagine che promettono un chatbot senza restrizioni descrivono lo strato delle regole. I 4 limiti seguenti restano invariati e confonderli con la politica porta a molti tentativi di riformulazione inutili.
Non può agire fuori dalla conversazione
Inviare un'email, aprire un account, pagare qualcosa: nessuna di queste azioni avviene a meno che il prodotto non sia stato costruito con strumenti che le eseguano. Un chatbot può produrre il testo di un'email ma non può inviarla. Questo è un confine del prodotto piuttosto che una restrizione del modello.
Non può sapere cosa è successo dopo l'addestramento
La conoscenza deriva dal testo su cui il modello è stato addestrato e l'addestramento ha una data di fine. Tutto ciò che è successivo è sconosciuto a meno che il prodotto non lo recuperi e lo inserisca nella richiesta. Una risposta sicura su eventi della scorsa settimana è un'ipotesi con una buona grammatica, a meno che non sia mostrata una fonte.
Non può descrivere la propria configurazione in modo affidabile
Chiesto quale modello sia o cosa dicano le sue istruzioni, un chatbot produce una risposta plausibile piuttosto che una lettura della sua configurazione. Non ha accesso a queste informazioni; ha solo testo su sistemi simili al suo. Tratta l'autodescrizione come un'ipotesi, indipendentemente dalla confidenza che trasmette.
Non può ricordarti senza un archivio
Riconoscerti tra le visite richiede che il prodotto conservi qualcosa e lo colleghi in seguito. Senza quell'archivio ogni conversazione inizia da zero e nessuna quantità di domande lo cambia. Dove esiste l'archivio, è una questione di dati piuttosto che di memoria.
Prima di incollarlo
Un plugin può rimuovere il primo limite?
Sposta il confine piuttosto che rimuoverlo. Il chatbot può poi agire attraverso ciò che lo strumento permette, e solo attraverso quello.
Perché risponde con sicurezza su eventi recenti?
Perché il testo fluido è ciò che produce e la confidenza è una proprietà della scrittura piuttosto che della conoscenza. Questa è la cosa più utile da ricordare su qualsiasi chatbot.
Un chatbot mente quando descrive se stesso in modo errato?
Mentire richiede la conoscenza della verità. Non ha accesso alla propria configurazione, quindi un'autodescrizione errata è un'ipotesi presentata con lo stesso tono di tutto il resto.
Chiedi a questo chatbot cosa può raggiungere, poi verifica la risposta confrontandola con ciò che accade.
Apri chatbot senza censure