流畅，不是证据
一个聊天机器人，产出的是可能性高的文字。可能性高的文字，读起来很自信，不管背后的说法是否有依据，输出里没有任何东西，能标记出这种区别。这是关于任何一个聊天机器人，唯一最值得知道的一件事，即使过滤器被去掉了，它也不会改变。
人们靠语气来校准信任，因为对人类作者来说，语气会跟随确定性变化。这种经验法则，在这里失效了，而且失效的方向，恰恰是代价最大的那个：一个自信满满的错误答案。
两种情况下，语气是一样的
一个有充分依据的事实，和一个编造出来的细节，是由同一个过程产出的，用同样的语域呈现出来。没有任何内部标记，会渗透进措辞里。从一个回答里读出自信，衡量的其实是训练数据的写作风格，而那大多是自信的散文。
具体的细节，才是风险所在
姓名、日期、数字和引文，正是语言模型擅长生成、却完全不做核实的东西。一个回答，恰恰最可能在它最有用的地方出错，这就是为什么一个听起来很具体的答案，比一个模糊的答案，更值得核查，而不是更不值得。
去掉过滤器，不会增加准确性
一个无审查聊天机器人，会在一个有过滤器的聊天机器人拒绝的地方作答。这个答案，是用同样的方式产出的，所以准确性是一样的。开放性和正确性，是两个独立的属性，一个承诺前者的页面，对后者只字未提。
有用又便宜的检查方法
要求提供来源，看看给出的是一个真实的来源、还是编造出来的。在一段新对话里问同样一个事实性问题，然后对比：一个没有依据的细节，往往会变动，而一个有依据的细节则不会。这两种检查，都只花费一条消息，能抓住大部分问题。
粘贴问题之前
聊天机器人会说出自己不确定的时候吗？
有些被调校成会加上不确定的措辞，而这是按风格添加的，而不是经过衡量的。一个犹豫的说法，不是一个信心估计。
编造出来的引文，常见吗？
常见到值得每次都检查。一条引文，是一个具体的细节，而具体的细节，正是生成文字里最薄弱的部分。
问「你确定吗」有用吗？
这通常只会根据语气，产生附和或反转，而不是一次重新审视。在一段新对话里重新问一遍同样的问题，是一个更好的测试方法。
要求提供一个来源，然后在一段新对话里再问一遍，进行对比。
打开无审查聊天机器人