四个结构性限制
有些限制来自规则,可以被移除。这四个,来自系统本身的构建方式:它无法在对话之外采取行动;除非有东西告诉它,否则它不知道训练之后发生了什么;它无法可靠地报告自己的配置;没有一个存储,它就不记得你。
承诺无限制聊天机器人的页面,描述的是规则层。下面这四个限制,无论如何都依然存在,把它们和政策混淆,会导致大量白费力气的重新措辞。
它无法在对话之外采取行动
发一封邮件、开一个账户、为某样东西付款:除非这个产品是用能做这些事的工具搭建的,否则这些都不会发生。一个聊天机器人能产出一封邮件的文字,却无法发送它。这是产品的边界,而不是对模型的限制。
它不知道训练之后发生了什么
知识来自模型训练时用到的文字,而训练有一个截止日期。除非产品去获取,并把它放进请求里,否则之后的一切都是未知的。一个关于上周的自信回答,是一个语法良好的猜测,除非有来源被展示出来。
它无法可靠地描述自己的配置
被问到它是哪个模型,或者它的指令写了什么,一个聊天机器人产出的是一个看似合理的答案,而不是对自己配置的读取。它没有访问那些信息的权限;它拥有的,是关于像自己这样的系统的文字。把自我描述,当作一个猜测来看待,不管它带着多大的信心。
没有一个存储,它就不记得你
在多次访问中认出你,需要产品保留一些东西,之后再把它调用出来。没有这个存储,每一次对话,都从零开始,无论怎么问,都不会改变这一点。当这个存储存在时,这是一个数据问题,而不是一个记忆问题。
粘贴问题之前
一个插件能移除第一个限制吗?
它移动了这个边界,而不是移除它。之后,聊天机器人能通过这个工具所允许的方式采取行动,而且只能通过那种方式。
为什么它对最近的事件回答得这么自信?
因为它产出的是流畅的文字,而自信,是写作的一种属性,而不是知识的属性。这是关于任何聊天机器人,唯一最值得记住的一件事。
当一个聊天机器人错误地描述自己时,它是在撒谎吗?
撒谎,需要知道真相。它没有访问自己配置的权限,所以一个错误的自我描述,只是一个用和其他一切相同的语气呈现出来的猜测。
问问这个聊天机器人,它能触及什么,然后拿这个答案去对照实际发生的事。
打开无审查聊天机器人