ChatGPT：读懂人工智能新纪元

书单推荐：《ChatGPT：读懂人工智能新纪元》

作者：陈根

格式：PDF

强悍的功能背后，技术并不神秘。本质上，ChatGPT是一个出色的NLP新模型。说到NLP，大多数人先想到的是Alexa和Siri这样的语音助手，因为NLP的基础功能就是让机器理解人类的输入，但这只是技术的冰山一角。NLP是人工智能（AI）和机器学习（ML）的子集，专注于让计算机处理和理解人类语言。虽然语音是语言处理的一部分，但NLP最重要的进步在于它对书面文本的分析能力。

ChatGPT是一种基于Transformer模型的预训练语言模型。它通过庞大的文本语料库进行训练，学习自然语言的知识和语法规则。在被人们询问时，它通过对询问的分析和理解，生成回答。

Transformer模型提供了一种并行计算的方法，使得ChatGPT能够快速生成回答。

Transformer模型又是什么呢？这就需要从NLP的技术发展历程来看，在Transformer模型出现以前，NLP领域的主流模型是循环神经网络（RNN），再加入注意力机制（Attention）。循环神经网络模型的优点是，能更好地处理有先后顺序的数据，如语言；而注意力机制就是让AI拥有理解上下文的能力。但是，“RNN+Attention”模型会让整个模型的处理速度变得非常慢，因为RNN是一个词接一个词进行处理的，并且，在处理较长序列，如长文章、书籍时，存在模型不稳定或者模型过早停止有效训练的问题。

单有语言模型没有数据，是“巧妇难为无米之炊”。因此，基于Transformer模型，ChatGPT的开发者们开展了大量的数据训练。

在ChatGPT出现以前，OpenAI已经推出了GPT-1、GPT-2、GPT-3。虽然前几代声量不大，但模型都是极大的。

电子版《ChatGPT：读懂人工智能新纪元》资源下载地址