文章摘要

Gary Marcus 在其文章《The whole thing was a scam》中对当前以大型语言模型（LLM）为代表的人工智能热潮提出了尖锐而系统的批判。他认为，整个行业充斥着过度的承诺、有选择性的演示和误导性的宣传，其核心产品（如声称的“通用人工智能”或 AGI）远未达到所宣称的能力。Marcus 指出，LLM 本质上是基于统计模式匹配的“随机鹦鹉”，缺乏真正的理解、推理和世界模型，其表现出的“智能”是脆弱且不可靠的。这篇文章的价值在于，它为身处 AI 狂热中的技术社区提供了一剂必要的“清醒剂”，促使我们超越营销话术，从技术原理和实际能力出发，理性评估 AI 技术的现状与未来。

背景与问题

过去几年，以 OpenAI 的 GPT 系列、Google 的 Gemini 等为代表的大语言模型席卷全球，引发了新一轮的人工智能革命，或者说，是“人工智能狂热”。资本疯狂涌入，科技巨头竞相发布更庞大、参数更多的模型，媒体充斥着“AI 将取代人类工作”、“奇点临近”的论调。AGI（通用人工智能）——即具备人类水平或超越人类的理解、学习和应用知识能力的 AI——似乎近在咫尺。

然而，在这片喧嚣之下，一直存在着理性的质疑声音。Gary Marcus，纽约大学名誉教授、著名 AI 批评家，便是其中最具代表性的一位。他长期从认知科学和人工智能交叉的视角，批判纯粹基于深度学习和海量数据的方法的局限性。在《The whole thing was a scam》一文中，Marcus 将矛头直指当前 AI 热潮的核心叙事，认为整个运动建立在夸大的承诺和有意无意的误导之上。

这个问题之所以至关重要，是因为它关系到巨大的资源分配、技术发展方向和社会预期。如果数万亿美金投资、顶尖人才和公众注意力所追逐的，是一个存在根本性缺陷、无法达成其终极目标的技术路径，那么这不仅是资本的浪费，更可能让我们错过探索其他更有潜力方向的机会。对于开发者、创业者、投资者乃至政策制定者而言，理解 Marcus 的批判，辨析 AI 的真实能力与边界，是做出明智决策的前提。

核心内容解析

3.1 核心观点提取

Marcus 的文章并非简单的情绪化指责，而是建立在一系列具体观察和逻辑论证之上的系统性批判。其核心观点可以提炼为以下几点：

1. 承诺与现实的巨大鸿沟 AI 公司，特别是像 OpenAI 这样的领头羊，持续向公众和投资者描绘 AGI 即将到来的宏伟蓝图。然而，其交付的产品（如 ChatGPT）尽管在某些任务上表现惊艳，但本质上仍是模式匹配引擎，经常犯下荒谬的、人类不可能犯的“幻觉”错误，且缺乏真正的理解、因果推理和规划能力。Marcus 认为，这种系统性、持续性的过度承诺构成了“骗局”的核心。

2. “有选择性的演示”与误导性营销 行业通过精心策划的演示来营造技术远超实际能力的假象。例如，只展示模型成功的案例，而隐藏其大量失败和需要人工干预的情况；使用模糊的、拟人化的语言（如“模型‘知道’或‘理解’某事物”）来描述本质上只是统计关联的过程。这种营销策略误导了非技术背景的公众、媒体甚至部分投资者。

3. 大语言模型（LLM）的根本性局限 Marcus 重申了他长期以来的观点：LLM 是“随机的鹦鹉”。它们通过海量文本数据学习词汇之间的统计关联，并基于此生成看似连贯的文本，但它们没有关于世界如何运作的内在模型，没有目标，没有持续的信念，也无法进行逻辑演绎。它们的“知识”是表面和脆弱的，无法进行可靠的、多步骤的推理。

4. 对“扩展假说”的质疑 当前 AI 发展的主流范式是“规模扩展假说”：只要模型足够大、数据足够多、算力足够强，智能就会“涌现”。Marcus 认为这是一个未经证实且可能错误的假设。更多的数据和参数可能让模型在基准测试上得分更高，但未必能解决其缺乏真正理解和推理能力的根本问题。这就像造一个越来越大的气球，但它永远不会变成飞机。

5. 行业的文化问题：炒作压倒严谨 整个 AI 领域形成了一种鼓励炒作、压制批评的文化。质疑者常被贴上“勒德分子”或“不懂技术”的标签。巨大的商业利益和“赢家通吃”的预期，使得公司有强烈的动机去夸大其词，而学术界在产业界的巨大影响力面前也常常失声。

3.2 技术深度分析

要理解 Marcus 的批判，必须深入到 LLM 的技术原理层面。

技术原理：从 Transformer 到“下一个词预测” 现代 LLM 的核心架构是 Transformer，其关键创新是“自注意力机制”，使得模型能够权衡输入序列中所有词之间的关系，从而更好地处理长距离依赖。然而，LLM 的训练目标极其简单：给定一段文本（前缀），预测下一个词（或子词）是什么。通过在海量互联网文本（可能高达数万亿 tokens）上执行这个任务，模型学会了复杂的统计模式，能够生成语法正确、内容相关且看似合理的文本。

根本局限：缺乏“世界模型”与“接地” 人类智能的基石在于我们拥有一个关于物理世界和社会世界如何运作的丰富内部模型。我们知道物体有恒常性，知道重力作用，知道“如果…那么…”的因果逻辑。我们通过感官体验（视觉、触觉等）将符号（语言）与真实世界的指代物“接地”。而 LLM 的训练数据几乎全是脱离具体感知经验的文本符号。它学习的是符号与符号之间的关联，而非符号与世界之间的关联。因此，它可能完美地复述关于“苹果”的文本特征，但对其颜色、重量、味道或从树上掉下来的物理过程没有任何内在表征。这直接导致了“幻觉”——模型自信地生成与事实或逻辑相悖的内容，因为它只是在组合它见过的文本模式，而非基于对真实世界的理解进行推理。

技术选型与路径依赖的反思 当前“大数据+大模型+大算力”的范式，本质上是将“智能”问题约化为一个大规模的模式识别和序列预测问题。这条路径之所以盛行，部分是因为它在工程上清晰可执行（堆数据、堆算力），且在过去十年取得了显著的成功（如图像识别、机器翻译）。然而，Marcus 和其他批评者认为，这或许是一条“局部最优”的捷径，但可能无法通向真正的通用智能。它回避了认知科学中关于表征、推理、常识和具身认知的核心难题。

与其他技术路线的对比

• 符号 AI（Good Old-Fashioned AI, GOFAI）：强调显式的知识表示和逻辑推理。其优势在于可解释性和推理可靠性，但劣势在于知识获取的“瓶颈”和难以处理不确定性与模糊性。
• 混合智能系统：Marcus 本人长期倡导的路线，即结合神经网络（处理感知、模式识别）和符号系统（处理推理、知识管理）。他认为，这才是克服当前 LLM 局限性的更有希望的方向。
• 具身 AI：强调智能体通过与物理环境的互动来学习和发展认知。这为解决“接地”问题提供了潜在路径。

当前的 LLM 浪潮几乎完全押注在第一条路径的极端扩展上，Marcus 的批判正是提醒我们，其他可能更根本的技术路线不应被忽视。

3.3 实践应用场景

理解 LLM 的局限性，对于技术实践者而言绝非意味着否定其价值，而是为了更安全、更有效地应用它。

适用场景：增强而非替代 LLM 在以下场景中表现出色，可作为强大的增强工具：

• 创意激发与头脑风暴：生成文章草稿、营销文案、代码片段、艺术灵感。
• 信息检索与总结：快速从长文档中提取要点，或对复杂话题进行初步梳理。
• 对话界面与客服：处理标准化、信息明确的问答。
• 代码辅助：根据注释生成代码、解释代码、发现简单 bug。

需要警惕与严格约束的场景：

• 事实性查询与决策支持：任何需要100%准确性的场景，如法律咨询、医疗诊断、财务建议，必须由人类专家严格审核，且模型应被限制在检索已知事实库的范围内，而非自由生成。
• 复杂逻辑与多步骤推理：如数学证明、战略规划、因果分析。LLM 可能给出看似合理的错误答案。
• 涉及伦理、安全与价值观的判断：模型可能放大训练数据中的偏见，或被恶意引导。

最佳实践建议：

1. 永远假设模型会“幻觉”：在设计任何基于 LLM 的系统时，将事实核查和输出验证作为核心架构的一部分。
2. 采用“人在环路”设计：对于关键应用，确保人类能够方便地监督、纠正和否决模型的输出。
3. 明确能力边界：在向用户介绍产品功能时，清晰说明其基于模式匹配的原理和可能出错的领域，避免拟人化描述。
4. 探索混合架构：考虑将 LLM 作为自然语言接口，后端连接传统的、基于规则或符号的知识库和推理引擎，以结合二者的优势。

深度分析与思考

4.1 文章价值与意义

Gary Marcus 这篇文章的价值，首先在于其批判性。在一个被乐观情绪和商业利益主导的领域，他扮演了至关重要的“牛虻”角色，迫使社区停下来反思基本假设。这种反思对于任何健康发展的科学和技术领域都是必不可少的。

其次，文章具有重要的科普与祛魅价值。它用相对通俗的语言，向非专业读者揭示了 LLM 华丽外表下的技术本质，有助于公众建立更理性、更准确的技术认知，避免被科幻叙事所误导。

对于技术社区，这篇文章是一份重要的“技术现实主义”宣言。它提醒工程师和研究者，在追逐 SOTA（最先进水平）基准分数和打造炫酷 demo 的同时，不应忽视那些更根本、更困难但可能更重要的科学问题，如常识表示、因果推理和机器理解。

从行业影响看，如果 Marcus 的警告被广泛听取，可能会促使投资和研究资源部分地从单纯的“规模竞赛”转向对混合智能、神经符号计算、具身学习等替代路径的探索，从而推动 AI 领域形成更健康、更多元的技术生态。

4.2 对读者的实际应用价值

对于不同角色的读者，本文的启示各不相同：

对于开发者与工程师：

• 技能提升：理解 LLM 的底层原理和局限，有助于你设计出更健壮、更可靠的 AI 应用。你将学会如何为模型设置“护栏”，如何设计验证流程，以及何时选择不使用 LLM。
• 问题解决：当遇到模型产生荒谬输出时，你不会再简单地归咎于“数据不够”或“模型太小”，而能从其缺乏世界模型和推理能力的根本原因去思考解决方案，例如引入外部知识库或规则引擎。

对于技术管理者与创业者：

• 战略决策：在规划产品路线图时，你能更清醒地评估 AI 技术的真实能力边界，避免做出不切实际的技术承诺，从而制定更稳健的商业策略。
• 风险管理：你能提前识别将 LLM 应用于高风险场景（如金融、医疗）时可能带来的法律、伦理和声誉风险，并建立相应的缓解机制。

对于投资者与行业观察者：

• 价值判断：你能穿透营销话术，从技术原理和实际演示（而非精心策划的发布会）来评估一家 AI 公司的真实技术实力和长期潜力，做出更明智的投资决策。

4.3 可能的实践场景

1. 项目应用：

   • 在开发一个智能客服系统时，你可以将 LLM 用于理解用户意图和生成初步回复，但将具体的业务规则（如退货政策、账户操作）交给传统的规则引擎处理，并将最终回复交由人工坐席确认后再发送。
   • 在构建一个研究辅助工具时，你可以用 LLM 快速总结论文，但同时链接到原文和相关的权威数据库，并明确标注“此为 AI 生成摘要，请核对原文”。

2. 学习路径：

   • 深入技术：学习 Transformer 架构、注意力机制、提示工程、检索增强生成（RAG）和微调技术。
   • 拓宽视野：学习经典的 AI 知识（知识表示、推理、规划）、认知科学基础，以及神经符号 AI 的初步概念。
   • 关注批判：定期阅读像 Gary Marcus、Yann LeCun（他对纯自回归 LLM 也有批评）、Emily Bender 等学者的文章，保持技术判断的平衡。

3. 工具与资源：

   • 实践框架：LangChain、LlamaIndex 等用于构建 LLM 应用的框架，它们也集成了许多连接外部知识源的工具。
   • 评估工具：学习使用 HELM、Big-Bench 等更全面的基准测试来评估模型，而不仅仅是看宣传中的个别亮点。
   • 社区：参与 LessWrong、Alignment Forum 中关于 AI 能力与局限的理性讨论，关注 ArXiv 上相关批判性论文。

4.4 个人观点与思考

Marcus 的批判总体上是深刻且必要的，但我认为将整个运动定性为“scam”（骗局）可能过于强硬，带有一定的修辞色彩。许多一线研究者是真诚地相信“扩展假说”并为之努力的，而 LLM 也确实带来了前所未有的工具能力。问题更多出在商业宣传与科学探索的边界模糊，以及资本对技术叙事的扭曲。

未来展望：我认为最可能出现的局面是“路径收敛”。纯粹的“暴力扩展”路径会遇到明显的收益递减和能耗、成本的天花板。与此同时，为了解决“幻觉”、推理和可靠性等实际问题，产业界会“悄悄地”引入更多符号化、模块化和混合式的技术元素（例如，RAG 可以看作一种简单的、向外部符号知识库的“求助”）。最终，实用主义的工程解决方案可能会自然而然地走向 Marcus 所倡导的混合道路。

潜在问题：我们需要警惕的是，在反驳过度炒作的同时，不应走向另一种极端——全盘否定深度学习和数据驱动方法的巨大成就。技术发展常常是“先看到能做什么，再理解为什么能”。LLM 暴露出的问题，恰恰为下一代 AI 研究指明了方向。健康的生态应该是“建设者”与“批评者”的良性互动，而非对立。

技术栈/工具清单

本文讨论的核心并非一个具体的技术栈，而是一种技术范式和其批判。但围绕 LLM 的开发与批判性评估，涉及以下关键技术和概念：

• 核心模型架构：Transformer（编码器-解码器结构，自注意力机制）。
• 主流模型与平台：OpenAI GPT 系列（GPT-3.5/4）、Anthropic Claude、Google Gemini、Meta Llama（开源）。通过 API（OpenAI API, Anthropic API）或本地部署使用。
• 开发框架：
  • LangChain：用于构建基于 LLM 的应用程序的框架，支持模块化链、代理、记忆等概念，便于集成外部工具和数据源。
  • LlamaIndex：专注于为 LLM 提供高效的数据索引和检索能力，是实现 RAG 的关键工具。
• 评估与基准测试：
  • HELM（Holistic Evaluation of Language Models）：斯坦福的全面评估框架。
  • Big-Bench：大型语言模型能力基准测试。
  • TruthfulQA：专门评估模型产生真实性和避免模仿虚假信息能力的基准。
• 相关概念：
  • 提示工程：设计输入提示以引导模型产生期望输出的技术和实践。
  • 检索增强生成：通过从外部知识库检索相关信息来增强 LLM 生成内容的准确性和事实性。
  • 微调：在特定数据集上进一步训练预训练模型，使其适应特定任务或领域。

相关资源与延伸阅读

1. 原文链接：The whole thing was a scam - Gary Marcus 的原始文章，是本文分析的基石。
2. Gary Marcus 的相关著作：
   • 博客 garymarcus.com 及其 Substack 专栏，持续发表对 AI 的批判性观点。
   • 书籍 Rebooting AI: Building Artificial Intelligence We Can Trust（与 Ernest Davis 合著），系统阐述了他对 AI 发展路径的看法。
3. 标志性批判文献：
   • 《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?🦜》 by Emily M. Bender, Timnit Gebru, et al. 这篇论文首次提出“随机鹦鹉”的比喻，并引发了广泛讨论。
   • Yann LeCun 关于“自回归 LLM 根本缺陷”的系列观点，可在其社交媒体或公开演讲中找到。
4. 技术深度阅读：
   • 论文《Attention Is All You Need》（Ashish Vaswani et al.），Transformer 的开山之作。
   • 博客文章《The Bitter Lesson》（Rich Sutton），阐述了“利用计算规模的方法最终会胜出”的观点，可作为与 Marcus 批判对立的代表性思想阅读。
5. 社区与论坛：
   • LessWrong / Alignment Forum：深入讨论 AI 能力、安全与长期未来的社区。
   • Hacker News：关于本文及相关 AI 批判话题的讨论通常非常活跃和有见地。

总结

Gary Marcus 的《The whole thing was a scam》是一篇在 AI 狂热时代至关重要的批判性文章。它无情地揭示了当前以大语言模型为核心的人工智能浪潮中存在的过度承诺、营销误导和技术根本局限。核心在于，LLM 作为强大的统计模式匹配器，缺乏真正的理解、推理和世界模型，其通往 AGI 的道路远非宣传的那般清晰平坦。

作为技术从业者，我们应从这篇文章中