「浅谈AIGC爆炸的时代」—ChatGPT

频道：ChatGPT 日期： 浏览：

AIGC是什么呀？AIGC全称为AI Generated Content，即人工智慧生成内容，所以AI绘图，AI作曲，AI回答问题都算AIGC。

该系列主要在介绍最近最近几个超红的AIGC应用，ChatGPT、StableDiffusion、Mid-Journey、MusicLM的不足之处以及自我的观看法。

之后也会详细介绍内部演算法以及如何应用这些工具来提高工作上的效率。

ChatGPT

ChatGPT莫过于现在最红的一个AIGC应用了，是由OpenAI这家公司所训练的LLM模型（大型语言模型），ChatGPT的出现直接把AIGC热潮拉到了顶点，上线2个月就吸了1亿的用户， 看下面的图就知道ChatGPT有多大害处了，Instagram跟TikTok都需要9个月以上才能达到1亿的用户，他2个月就达到了，甚至现在还在继续继续增长中。

GPT-3 到 ChatGPT

其实ChatGPT来自以前OpenAI就已经发布了GPT-3的大型语言模型了，ChatGPT算的是GPT-3.5，是微调GPT-3的模型而生成的，在GPT3的时候就已经有了很多新闻稿，
那时候
对AI界来说已经很震惊了，这次OpenAI直接把ChatGPT建立出APP免费让大众使用，因为这样ChatGPT就直接炸锅了，虽然说Chat GPT是GPT3微调的，但是因为ChatGPT的训练资料比GPT3还有很多出很多，因此性能差异其实很大的（我自己有特别比过ChatGPT跟GPT3 davinci模型，2个的性能真的差异很大的），GPT-4也快问了，听说是MultiModal模型，除掉了文字以外甚至可以处理影片，实际上很期待啊

LLM (大型语言模型) & RLHF (Reinforcement learning from human feedback)

ChatGPT主要训练方式就是使用RL(强化学习)做学习，这边我做的不是很详细的解释，我之后会在写一篇做更详细的说明，我之前也有写过RL的基础演算法教学
，有兴趣的可以先看一下
，这边就简单一下RLHF的作法。1. 预训练一个语言模型(LM)2. 训练奖励机制的模型，这部分需要人进行帮助标记3。使用PPO政策的强化学习的方式来进行LM的训练调参

ChatGPT的优势 —全知全能

优点其实际好象不用特别多说什么，就是
全知全能
。你可以把他想像成一个全知全能的聊天机器人，不是说你要叫他帮老婆写文案，帮你想策画，甚至写程式都没有问题（这边我来猜猜下面为啥他写程序也可以这么厉害的原因，除了stack overflow以外，2020微软件收了github，我猜他也应该有用收的github当作培训资源料做训练)，基础上ChatGPT都可以回答你，可以省去很多寻找结果的时间，可以快速的建立文件草稿
、
程序模板。像我们有一个医生客户希望可以提供一个简单的标记软件，我直接使用ChatGPT帮我用Python制作一个QT5的标记工具，从头到尾使用ChatGPT，有错误报错也问他，增加功能也问他，整个制作流程到可以标记花了半天的时间，缩短了很多的发布时间间，不过这之前提应该是你也要懂程序式语言知道那些地方要怎么做修改并知道要怎么问ChatGPT，而这应该仅限于框架不大的程序。

ChatGPT的不足——头是道的唱衰王

ChatGPT其实际上有时会很糟糕，而他们会很糟糕的头是道，让你感觉得好像真的有其事一样，对于有的一些消息其实是不对等也不正确的，所以并不能盲目的完全信任ChatGPT给出来的包裹，建议还是需要花一些时间去表达他所回答的内容，而ChatGPT的培训资料才到2021年，如果你问最新的事情基础上他没有办法回答你的，以下为比较常见的问题。
  1. 领域专业知识: 数学，科学，医学等各领域的专业知识会比容易答错
  2. 个人观点及主要观点问题
  3. 最新的新闻以及政治敏感问题

结论跟进法

当ChatGPT出来的时候产生了很大的轰动，身边有很多做NLP的AI公司都开始担心会影响自己公司本来做的事情，最终如此大型语言模型(LLM)的训练跟本不是一般公司可以做得到的，而ChatGPT的表现真实的让人惊艳，不是说是资源收集或者是训练成本都是非常恐怖的，ChatGPT当初训练的时候就开花了1 200万美元，现在一次的推理成本也不小，以目前这种用户数每个月光烧云端的钱就非常可怕了，虽然现在有ColossalAI可以利用
一些
方式进行LLM的培训，但是光资源收集也是很恐怖很花人力成本的事情。
不想去害怕他，而是去利用他
这是我对ChatGPT的想法，目标ChatGPT要取消代理工程师我认为还有点困难，工程师有他的优势，知道怎么去区分CODE的对错以及更明白去设计程序架构还有询问关键的问题，反而要学习如何善用ChatGPT让自己的工作效率提升，甚至可以让自己变得更全面一点，就像我很熟悉Python但不熟悉JS跟Html的人就可以利了使用ChatGPT帮我快速制作WEB然后串接AI的API ，快速做出DEMO网页做POC，现在或者许人们都可以使用AI，都可以让自己成为初级工程师，那我们工程师是不是应该使用ChatGPT试试让自己自己成为高级工程师还是让自己更全面呢？
文章源自于作者
GGWithRabitLIFE
关键词：

评论