Les 4 limites structurelles
Certaines limites viennent des règles et peuvent être supprimées. Celles-ci viennent de la construction du système : il ne peut pas agir hors de la conversation, ne peut pas savoir ce qui s'est passé après l'entraînement sans source, ne peut pas décrire sa configuration de manière fiable, et ne peut pas vous mémoriser sans stockage.
Les pages qui promettent un chatbot sans censure décrivent la couche des règles. Les 4 limites ci-dessous restent en place, et les confondre avec la politique conduit à beaucoup de reformulations inutiles.
Il ne peut pas agir hors de la conversation
Envoyer un e-mail, ouvrir un compte, payer quelque chose : rien de tout cela ne se produit sauf si le produit a été construit avec des outils capables de le faire. Un chatbot peut produire le texte d'un e-mail et ne peut pas l'envoyer. C'est une limite du produit plutôt qu'une restriction sur le modèle.
Il ne peut pas savoir ce qui s'est passé après l'entraînement
La connaissance vient du texte sur lequel le modèle a été entraîné, et l'entraînement a une date de fin. Tout ce qui est ultérieur est inconnu sauf si le produit le récupère et l'insère dans la demande. Une réponse confiante sur la semaine dernière est une supposition avec une bonne grammaire, sauf si une source est affichée.
Il ne peut pas décrire sa propre configuration de manière fiable
Interrogé sur le modèle qu'il est ou sur ce que disent ses instructions, un chatbot produit une réponse plausible plutôt qu'une lecture de sa configuration. Il n'a pas accès à ces informations ; il dispose de textes sur des systèmes comme le sien. Traitez l'auto-description comme une supposition, quelle que soit la confiance qu'elle dégage.
Il ne peut pas vous mémoriser sans stockage
Vous reconnaître entre les visites nécessite que le produit conserve quelque chose et l'attache plus tard. Sans ce stockage, chaque conversation commence de zéro, et aucune quantité de questions ne ne change rien. Là où le stockage existe, c'est une question de données plutôt qu'une question de mémoire.
Avant de coller votre texte
Un plugin peut-il supprimer la première limite ?
Il déplace la limite plutôt que de la supprimer. Le chatbot peut alors agir via ce que l'outil permet, et uniquement via cela.
Pourquoi répond-il avec confiance sur les événements récents ?
Parce que le texte fluide est ce qu'il produit, et la confiance est une propriété de l'écriture plutôt que de la connaissance. C'est la chose la plus utile à retenir sur n'importe quel chatbot.
Un chatbot ment-il lorsqu'il se décrit mal ?
Mentir nécessite la connaissance de la vérité. Il n'a pas accès à sa propre configuration, donc une auto-description erronée est une supposition présentée dans la même voix que tout le reste.
Demandez à ce chatbot ce qu'il peut atteindre, puis vérifiez la réponse par rapport à ce qui se produit.
Ouvrir le chatbot sans censure