如果ChatGPT能让我们不那么容易上当受骗怎么办？

在我们的例子中，虽然第一句话没有什么错误，但第二句话是毫无意义的陈词滥调：“挑战我们对世界的理解”或“危及我们知识的有效性”到底是什么意思？第三句话没有多大意义：这些人工智能不传播任何东西，它们也不是最适合操纵的（因为我们对它们产生的东西没有太多控制）。

但这就是问题所在：我们必须思考才能弄清真相。

我们必须了解的是，ChatGPT的编程目的不是回答问题，而是生成听起来似是而非的文本。当有大量文本可供它“阅读”时，它尤其强大，在ChatGPT的案例中，这是惊人的。

当给定一个特定的单词序列时，ChatGPT可以确定最有可能完成它的单词序列。因此，ChatGPT可以以一种必然可信的方式“回答”问题，因为它会计算出最有可能的回答。但是没有涉及逻辑或思维。无非就是概率的计算。ChatGPT丝毫不关心其回复的真实性。换句话说，即使对于像普林斯顿大学计算机科学家Arvind Narayanan和Sayash Kapoor这样的学者来说，它也是一个“废话生成器”。

自从Harry Frankfurt在2000年代将“胡说八道”作为一篇文章和一本书的主题以来，它已经成为一个哲学概念。心理学、哲学、神经科学和管理科学领域的认真研究人员现在正在研究这个主题。这个词变得更加复杂，但在这里我们可以参考它最初的定义：对真相的冷漠。这不是谎言：说谎者关心的是真相，因为他们试图歪曲事实。另一方面，胡说八道者不顾事实，只是想吸引人——他们说的有时是对的，有时是错的，但没关系。

才华横溢的ChatGPT正是这种情况。当它出错时，它并不明显——至少不会立即出现。每个人都可以使用功能强大、易于使用的单词生成器，但没有义务展示事实？确实有理由担心。不难想象，无良内容的编辑如何能够轻易地使用这个工具来生产“信息”，尤其是因为ChatGPT甚至似乎有能力在自己的专业领域愚弄学者。