在葡萄牙波尔图举办的Babell文学文化节上，《使女的故事》与《盲刺客》的作者玛格丽特·阿特伍德再次语出惊人。当被问及对AI的看法时，这位文坛宿将毫不留情地泼了一盆冷水。

一次糟糕的AI体验

阿特伍德透露，她只使用过一次AI聊天机器人——Anthropic旗下的Claude。她原本想查询英国侦探剧《布朗神父》的信息，结果Claude给出了错误答案。“它撒谎了，”阿特伍德直言，“当然，它不知道自己在撒谎，因为它不是人类，只是一个大型语言模型。”她分析道，Claude虽然浏览了大量电视评论，但网络评论通常不会剧透结局，因此模型被误导了。

“垃圾进，垃圾出”

阿特伍德犀利地指出，所有大语言模型的质量都取决于训练数据。“如果输入的是垃圾，输出的也必然是垃圾。”她认为，依赖从网络上抓取的、可能过时的信息训练的机器，绝非明智之举。她甚至将依赖AI的人称为“机会主义者”，因为他们总想走捷径。“人类不是机器人，但他们是机会主义者——如果有容易作弊且难以被发现的方法，人们就会去做。”

技术背景与行业反思

阿特伍德的批评并非空穴来风。当前AI模型普遍存在“幻觉”问题，即生成看似合理但实际错误的内容。这源于模型对统计模式的过度依赖，而非真正的理解。此外，训练数据的质量参差不齐：网络上的错误信息、偏见和过时内容都会被模型吸收。例如，Claude在回答中可能混淆了《布朗神父》不同季的剧情，或混入了其他侦探剧的元素。

对用户的启示

阿特伍德的经历给所有AI用户敲响警钟：即使是最先进的AI也需要人工核查。她强调，即使商业用户也必须检查AI的输出，因为错误在所难免。对于普通用户而言，将AI视为“搜索增强工具”而非“真理源泉”或许更为理性。正如阿特伍德所言，AI可以辅助思考，但无法替代人类的判断力。

这场来自文学界的犀利点评，或许比任何技术报告都更直击AI的软肋：在追求效率的同时，我们是否忽略了数据的质量与模型的局限性？当“垃圾进，垃圾出”成为常态，AI的信任危机恐怕才刚刚开始。