理性和智能是深度的多步骤的推理
再说回ChatGPT,它懂语言吗?如同《天才与算法》一书的设问: 机器可以在不理解语言或不接触周围物理世界的情况下,生成有意义的句子,甚至是美的句子吗。老派的AI,试图采用罗素的方法。这类模型认为: 由一个串行过程指挥,并由一个或几个线程组成,使用少量的信息,由少量的强相关变量来表达信息。
对比而言现代的机
器学习模式由浅 少步 推理组成,使用大量信息的大 巴基斯坦号码数据 规模并行处理,并涉及大量弱相关变量。 一个有趣的来描述二者对比的例子是,电影《模仿游戏》里的图灵,炒掉了自己的密码破解小组里的语言学专家。 《人工智能:现代方法》认为,纯粹的数据驱动的模型,对比基于文法句法分析和语义解释的手工构建方法,更容易开发和维护,并且在标准的基准测试中得分更高。
该书作者还提及
可能是Transformer及其相关模型学习到了潜在的表征,这些 挪威电话号码列表 表征捕捉到与语法和语义信息相同的基本思想,也可能是在这些大规模模型中发生了完全不同的事情,但我们根本不知道。 未必那么精确的类比是:AI如孩子般学习语言。这正是当年图灵所所设想的: 有一个孩子般的大脑,然后去学习。而非一开始就设计一个成年人的大脑。