理解语言或音乐的规则

这些模型通过学习大量的数据，然后生成符合这些规则的新的创作。 ChatGPT到底在做什么？为什么它能够成功。大神Wolfram对此解释道：令人惊奇的是，ChatGPT尝试写一篇文章时，基本上只是一次又一次地询问在已有的文本基础上，下一个单词应该是什么。，然后每次都添加一个单词。 更准确地说是一个token  那么，是否每次都选取概率最大的那个单词呢？‍‍‍‍‍‍ 并非简单如此。

 Wolfram告诉了我

们ChatGPT如何靠概率来写出一篇文章：‍‍ 每一步，ChatGPT 马其顿号码数据 都会生成一个带有概率的单词列表。 但若总是选择最高概率的单词，通常会得到一篇非常平淡的文章。 于是巫术出现了，有一个特定的所谓温度参数，它控制了较低排名的单词会被使用的频率。 对于文章生成，我们发现温度为效果最好。

 概率和随机性

再次显示出神奇的魔力。 五 在微软的报告里，研究 立陶宛电话号码列表 者用GPT 模拟了一段对话： 苏格拉底：我的朋友，我对最近这些所谓自回归语言模型的兴起感到不安。 亚里士多德：你是什么意思，苏格拉底。苏格拉底：我的意思是，这些模型被用来生成看起来是人类写的文本，但实际上是由机器产生的。 亚里士多德：那有什么问题呢。