从愚蠢到危险
Posted: Tue Mar 18, 2025 10:23 am
我将收集一些我见过的最奇怪的人工智能评论，分享一位前谷歌员工对我们现在面临这个功能的看法，并重点关注一个著名的事实核查轶事，它说明了为什么熟悉的人为错误需要负责任地纳入任何大型公共实验中。
人工智能审查失败，
当你看这些例子时，我要求你记住你的个人经历，它告诉你人类是多么容易被欺骗、愚弄、误导或以其他方式误导。
让我们从 Sean Huber 提供的谷歌新人工智能概览功 学生手机清单 能中的一个（可能）无害的例子开始，当搜索者想知道哪些美国总统参加了威斯康星大学麦迪逊分校时：
一份人工智能评论指出，几位美国总统在去世后多次从大学毕业。
我们可以试着告诉自己，任何有逻辑的人都会明白，像 1868 年去世的詹姆斯·布坎南这样的总统不可能在他去世的两个世纪里完成三次毕业，或者 1963 年被暗杀的肯尼迪三十年后也不会去上大学。我们希望大多数人能够意识到，几乎所有人工智能的答案都存在问题。
但是，如果你不是几十年前在学校学习美国历史，而是只有十岁，并试图通过看到这个看起来非常官方的谷歌答案来研究学校报告，而这个答案胜过他们结果中的其他一切，该怎么办？您将从网络中获得什么样的学习？您对谷歌的这些信息、历史有何看法？
让我们尝试一个简单的问题。 Lily Ray只想看一些50多岁女性的例子，结果却找到了一位八旬老人和另一位年龄不详的候选人：
人工智能审查失败，
当你看这些例子时，我要求你记住你的个人经历，它告诉你人类是多么容易被欺骗、愚弄、误导或以其他方式误导。
让我们从 Sean Huber 提供的谷歌新人工智能概览功 学生手机清单 能中的一个（可能）无害的例子开始，当搜索者想知道哪些美国总统参加了威斯康星大学麦迪逊分校时：
一份人工智能评论指出，几位美国总统在去世后多次从大学毕业。
我们可以试着告诉自己，任何有逻辑的人都会明白，像 1868 年去世的詹姆斯·布坎南这样的总统不可能在他去世的两个世纪里完成三次毕业，或者 1963 年被暗杀的肯尼迪三十年后也不会去上大学。我们希望大多数人能够意识到，几乎所有人工智能的答案都存在问题。
但是，如果你不是几十年前在学校学习美国历史，而是只有十岁，并试图通过看到这个看起来非常官方的谷歌答案来研究学校报告，而这个答案胜过他们结果中的其他一切，该怎么办？您将从网络中获得什么样的学习？您对谷歌的这些信息、历史有何看法？
让我们尝试一个简单的问题。 Lily Ray只想看一些50多岁女性的例子，结果却找到了一位八旬老人和另一位年龄不详的候选人：