理解语言或音乐的规则

 

这些模型通过学习大量的数据,然后生成符合这些规则的新的创作。 ChatGPT到底在做什么?为什么它能够成功。大神Wolfram对此解释道:令人惊奇的是,ChatGPT尝试写一篇文章时,基本上只是一次又一次地询问在已有的文本基础上,下一个单词应该是什么。,然后每次都添加一个单词。 更准确地说是一个token  那么,是否每次都选取概率最大的那个单词呢?‍‍‍‍‍‍ 并非简单如此。

 

 Wolfram告诉了我

们ChatGPT如何靠概率来写出一篇文章:‍‍ 每一步,ChatGPT 马其顿号码数据 都会生成一个带有概率的单词列表。 但若总是选择最高概率的单词,通常会得到一篇非常平淡的文章。 于是巫术出现了,有一个特定的所谓温度参数,它控制了较低排名的单词会被使用的频率。 对于文章生成,我们发现温度为效果最好。

 

 概率和随机性

手机号码数据

再次显示出神奇的魔力。 五 在微软的报告里,研究 立陶宛电话号码列表 者用GPT 模拟了一段对话: 苏格拉底:我的朋友,我对最近这些所谓自回归语言模型的兴起感到不安。 亚里士多德:你是什么意思,苏格拉底。苏格拉底:我的意思是,这些模型被用来生成看起来是人类写的文本,但实际上是由机器产生的。 亚里士多德:那有什么问题呢。

 

Leave a Reply

Your email address will not be published. Required fields are marked *