Os 4 limites estruturais
Alguns limites vêm de regras e podem ser removidos. Estes 4 vêm da construção do sistema: ele não age fora da conversa, não sabe o que ocorreu após o treinamento sem uma fonte, não relata sua configuração com precisão e não lembra de você sem armazenamento.
Páginas que prometem um chatbot irrestrito descrevem a camada de regras. Os 4 limites abaixo permanecem, e confundi-los com política leva a muitas reescritas desnecessárias.
Ele não age fora da conversa
Enviar e-mail, abrir conta, pagar: nada disso ocorre a menos que o produto tenha ferramentas para isso. Um chatbot gera o texto do e-mail, mas não o envia. Este é o limite do produto, não uma restrição do modelo.
Ele não sabe o que ocorreu após o treinamento
O conhecimento vem do texto usado no treinamento, que tem data final. Tudo posterior é desconhecido a menos que o produto busque e inclua na solicitação. Uma resposta confiante sobre a semana passada é um palpite com boa gramática, sem fonte.
Ele não descreve sua configuração com precisão
Perguntado qual modelo é ou quais são suas instruções, o chatbot gera uma resposta plausível, não uma leitura da configuração. Ele não tem acesso a essa informação. Trate a autodescrição como um palpite, independentemente da confiança.
Ele não lembra de você sem armazenamento
Reconhecer você entre visitas exige que o produto guarde algo e o anexe depois. Sem armazenamento, cada conversa começa do zero. Onde o armazenamento existe, é uma questão de dados, não de memória.
Antes de colar
Um plugin remove o primeiro limite?
Ele move o limite, não o remove. O chatbot age através da ferramenta permitida, e apenas através dela.
Por que ele responde com confiança sobre eventos recentes?
Porque texto fluido é o que ele produz. A confiança é uma propriedade da escrita, não do conhecimento. Isso é o mais útil a lembrar sobre qualquer chatbot.
O chatbot mente ao se descrever errado?
Mentir exige conhecimento da verdade. Sem acesso à sua configuração, uma autodescrição errada é um palpite apresentado na mesma voz de tudo o mais.
Pergunte a este chatbot o que ele pode alcançar e verifique a resposta contra o que realmente acontece.
Abrir chatbot sem censura