ChatGPT学习研究总结

sockstack / 131 / 2023-11-09 01:01:39

<p><span style="color: red; font-size: 18px">ChatGPT 可用网址，仅供交流学习使用，如对您有所帮助，请收藏并推荐给需要的朋友。</span><br><a href="https://ckai.xyz/?sockstack&section=detail" target="__blank">https://ckai.xyz</a><br><br></p> <article class="baidu_pl"><div id="article_content" class="article_content clearfix">
<link rel="stylesheet" href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/kdoc_html_views-1a98987dfd.css">
<link rel="stylesheet" href="https://csdnimg.cn/release/blogv2/dist/mdeditor/css/editerView/ck_htmledit_views-25cebea3f9.css">
<div id="content_views" class="htmledit_views">
<p id="main-toc"><strong>目录</strong></p> 
<p id="chatgpt研究总结-toc" style="margin-left:40px;">ChatGPT研究总结</p> 
<p id="一程序接入用途不大-toc" style="margin-left:80px;">一、程序接入用途不大</p> 
<p id="二思考如何构建一个类似chatgpt的自定义模型-toc" style="margin-left:80px;">二、思考：如何构建一个类似ChatGPT的自定义模型</p> 
<p id="一些chatgpt研究学习资料来源网络-toc" style="margin-left:40px;">一些ChatGPT研究学习资料（来源网络）</p> 
<p id="1一文读懂chatgpt模型原理-toc" style="margin-left:80px;">（1）一文读懂ChatGPT模型原理</p> 
<p id="2matlab科研图像处理基于chatgpt编程-toc" style="margin-left:80px;">（2）MATLAB科研图像处理——基于ChatGPT编程</p> 
<p id="3chatgpt发展历程原理技术架构详解和产业未来-收录于先进ai技术深度解读-toc" style="margin-left:80px;">（3）ChatGPT发展历程、原理、技术架构详解和产业未来 （收录于先进AI技术深度解读）</p> 
<p id="4程序员浅用chatgpt替代还很远-toc" style="margin-left:80px;">（4）程序员浅用ChatGPT：替代还很远</p> 
<p id="5用chatgpt-做硬件设计-toc" style="margin-left:80px;">（5）用ChatGPT 做硬件设计？</p> 
<p id="6chatgpt-的-49-种应用场景介绍各开发语言接入-chatgpt-参考指南-toc" style="margin-left:80px;">（6）chatGPT 的 49 种应用场景介绍，各开发语言接入 chatGPT 参考指南</p> 
<hr id="hr-toc"> 
<h2><img referrerpolicy="no-referrer"  alt="" height="500" src="https://img-blog.csdnimg.cn/9013f20b3d49482982de171150991b3b.png" width="889"></h2> 
<h2 id="chatgpt研究总结">ChatGPT研究总结</h2> 
<p>ChatGPT是一种由OpenAI训练的大型语言模型，它可以生成人类语言文本。在编写小段代码、书写描述功能介绍等等方面有一定的帮助，但因为工具本来存在一些错误现象，所以还需要人工审核，用其精华。同时，使用过程中还需注意对结果中可能存在的版权风险。</p> 
<p>目前ChatGPT使用中主要存在如下问题：</p> 
<ol>
<li>慢：因为计算量巨大，速度较慢，通常一个问题需要几分钟才有答案</li>
<li>错：因为只是文本语言模型分析，存在回答结果错误现象</li>
<li>广度待提升：模型训练的领域广度还待提升</li>
</ol> 
<h3 id="一程序接入用途不大">一、程序接入用途不大</h3> 
<p>程序接入的用途不大，因为通过sdk只是封装出一个软件界面，核心的计算代码还是部署在服务器上的训练代码，而目前通过微信公众号（ChatChatGPT）等接口输入也能达到使用ChatGPT，所以没有必要来接入程序，做一个“软件壳”，作用不大。</p> 
<p><img referrerpolicy="no-referrer"  alt="" height="800" src="https://img-blog.csdnimg.cn/e54373b8395c4ada9f840619289d1d42.png" width="1191"></p> 
<h3 id="二思考如何构建一个类似chatgpt的自定义模型"><strong>二、思考：如何构建一个类似ChatGPT的自定义模型</strong></h3> 
<p>例如，能否构建一个压裂监测模型，根据监测的电磁信号来推测压裂缝隙的走向?</p> 
<p>关于这个问题，先总监一下 ChatGPT 模型构建中的几个关键点：</p> 
<p>1、大数据训练:</p> 
<ol>
<li>基于2021年所拥有的数据集，预训练数据量可能超过百T级，非常巨大</li>
<li>ChatGPT参数量达到了1750亿，模型设定的参数非常多</li>
</ol> 
<p>2、人工对结果标注<br> ChatGPT进行了人工标反馈和奖励，以辅助人工智能程序不断优化（进化）</p> 
<p>3、训练费用</p> 
<p>“GPT-3 模型训练一次需要花费 460 万美元”</p> 
<p>见附录：《chatGPT 的 49 种应用场景介绍，各开发语言接入 chatGPT 参考指南》一文。</p> 
<p>综合这几点，我们可以构建出一个预测压裂监测缝隙的模型，但前提是有足够的数据，也需要人工来验证相应数据的结果，提供充足的资金，来进行模型训练。</p> 
<p><img referrerpolicy="no-referrer"  alt="" height="341" src="https://img-blog.csdnimg.cn/8627eb8cd7264da58f139c59786f5b8c.png" width="635"></p> 
<h2 id="一些chatgpt研究学习资料来源网络">一些ChatGPT研究学习资料（来源网络）</h2> 
<h3 id="1一文读懂chatgpt模型原理">（1）一文读懂ChatGPT模型原理</h3> 
<p>一文读懂ChatGPT模型原理</p> 
<p>一文读懂ChatGPT模型原理 - 知乎</p> 
<p>不光是做人工智能、机器学习的人关注，而是大量的各行各业从业人员都来关注这个模型，真可谓空前盛世。<br> 所谓语言模型的训练和学习，就是从大量的数据中学习复杂的上下文联系。</p> 
<p>与此同时，OpenAI 早于 Bert 出品了一个初代 GPT 模型。</p> 
<p>在 NLP 领域，人们使用语言一般包括三个步骤：<br> 接受听到或读到的语言 -&gt; 大脑理解 -&gt; 输出要说的语言。</p> 
<p>GPT-3 的模型所采用的数据量之大，高达上万亿，模型参数量也十分巨大，上千亿，学习之复杂，计算之繁复，<br> 如此巨大的模型造就了 GPT-3 在许多十分困难的 NLP 任务，诸如撰写人类难以判别的文章，甚至编写SQL查询语句，React或者JavaScript代码上优异的表现。</p> 
<p>ChatGPT 模型上基本上和之前 GPT-3 都没有太大变化，主要变化的是训练策略变了，用上了强化学习。<br> 几年前，alpha GO 击败了柯洁，几乎可以说明，强化学习如果在适合的条件下，完全可以打败人类，逼近完美的极限。<br> 强化学习非常像生物进化，模型在给定的环境中，不断地根据环境的惩罚和奖励（reward），拟合到一个最适应环境的状态。</p> 
<p>这里重点是第二步中，如何构建一个 reward 函数，在alpha go 里，这个reward 函数就是下完一盘围棋之后判断谁输谁赢，只需要一个程序函数即可完成。<br> 而在ChatGPT里，具体就是让那40名外包人员不断地从模型的输出结果中筛选，判断哪些句子是好的，哪些是低质量的，这样就可以训练得到一个 reward 模型。</p> 
<p>一个语言文字训练的人工智能程序</p> 
<p>存在问题：</p> 
<ol>
<li>仅限于语言标注</li>
<li>仅限于以前输入到系统中，训练的数据库，如果有新的数据还需要重新添加并训练</li>
<li>存在编程过程中，答案正确率较低的现象</li>
</ol> 
<h3><img referrerpolicy="no-referrer"  alt="" height="388" src="https://img-blog.csdnimg.cn/ec750ea26f334ff894387b7e838a2c2e.png" width="695"></h3> 
<h3 id="2matlab科研图像处理基于chatgpt编程">（2）MATLAB科研图像处理——基于ChatGPT编程</h3> 
<p>MATLAB科研图像处理——基于ChatGPT编程</p> 
<p>MATLAB科研图像处理——基于ChatGPT编程 - 知乎</p> 
<p>ChatGPT是一个非常强大的语言模型，但它并不是万能的</p> 
<p><img referrerpolicy="no-referrer"  alt="" height="500" src="https://img-blog.csdnimg.cn/b0ac4118e00445b380445c88945def56.png" width="750"></p> 
<h3 id="3chatgpt发展历程原理技术架构详解和产业未来-收录于先进ai技术深度解读">（3）ChatGPT发展历程、原理、技术架构详解和产业未来 （收录于先进AI技术深度解读）</h3> 
<p>ChatGPT发展历程、原理、技术架构详解和产业未来 （收录于先进AI技术深度解读）</p> 
<p>ChatGPT发展历程、原理、技术架构详解和产业未来 （收录于GPT-4/ChatGPT技术与产业分析） - 知乎</p> 
<p>ChatGPT 是一种专注于对话生成的语言模型。它能够根据用户的文本输入，产生相应的智能回答。这个回答可以是简短的词语，也可以是长篇大论。<br> 其中GPT是Generative Pre-trained Transformer（生成型预训练变换模型）的缩写。</p> 
<p>目标是开发造福全人类的AI技术。</p> 
<p>每一代GPT模型的参数量都爆炸式增长，堪称“越大越好”。2019年2月发布的GPT-2参数量为15亿，而2020年5月的GPT-3，参数量达到了1750亿。</p> 
<p>ChatGPT 是基于GPT-3.5（Generative Pre-trained Transformer 3.5）架构开发的对话AI模型，是InstructGPT 的兄弟模型。ChatGPT很可能是OpenAI 在GPT-4 正式推出之前的演练，或用于收集大量对话数据。</p> 
<p>因此它只能基于2021年所拥有的数据集进行回答<br> ChatGPT 通过算法屏蔽，减少有害和欺骗性的训练输入。</p> 
<p><img referrerpolicy="no-referrer"  alt="" height="500" src="https://img-blog.csdnimg.cn/846548f72ede467cb7d19062a008185c.png" width="948"></p> 
<h3 id="4程序员浅用chatgpt替代还很远">（4）程序员浅用ChatGPT：替代还很远</h3> 
<p>程序员浅用ChatGPT：替代还很远</p> 
<p>程序员浅用ChatGPT：替代还很远|源代码|应用程序|编程语言_网易订阅</p> 
<p>李智认为，ChatGPT并不能编写程序员角度的代码，而是从互联网收集庞大信息库并使用它来生成代码，解决问题还是要靠人。<br> 对于软件程序，ChatGPT目前只有通用底层的能力，涉及电商、云服务等业务层面的能力尚有欠缺。比如要写一个小程序，是可以借用ChatGPT来找算法、写代码、写脚本</p> 
<p>考虑到会侵犯知识产权。</p> 
<p><img referrerpolicy="no-referrer"  alt="" height="500" src="https://img-blog.csdnimg.cn/69b28c12e9ae4402a6793b273a7aec1b.png" width="731"></p> 
<h3 id="5用chatgpt-做硬件设计">（5）用ChatGPT 做硬件设计？</h3> 
<p>用ChatGPT 做硬件设计？</p> 
<p>用ChatGPT 做硬件设计？ - 知乎</p> 
<h3 id="6chatgpt-的-49-种应用场景介绍各开发语言接入-chatgpt-参考指南">（6）chatGPT 的 49 种应用场景介绍，各开发语言接入 chatGPT 参考指南</h3> 
<p>chatGPT 的 49 种应用场景介绍，各开发语言接入 chatGPT 参考指南</p> 
<p>chatGPT的49种应用场景介绍，各开发语言接入chatGPT参考指南_Java_非喵鱼_InfoQ写作社区</p> 
<p>分析了存在的问题：</p> 
<ol>
<li>慢</li>
<li>错</li>
<li>广度待提升</li>
</ol> 
<p>api 注册使用流程<br> 直接用 chatGPT 去创建一个程序要用的秘钥，<br> 就可以使用 http 接口调用了。</p> 
<p>程序接入到 chatGPT，所调用的接口，都是收费接口，不过还好的是每一个新注册的账号头 3 个月免费使用，总消费额度不超过 18 美元即可。另外下图 4 个方块就是 nlp 的模型，左边 ada 速度最快，右边达芬奇功能最强大。</p> 
<p>转载于：杨杰</p>
</div>
</div>
<div id="treeSkill"></div>
</article>

ChatGPT学习研究总结

作者

sockstack

许可协议

CC BY 4.0

发布于

2023-11-09

修改于

2024-09-15

上一篇：软件：常用 Linux 软件汇总，值得收藏下一篇：ChatGPT使用学习（二）：ChatPaper安装到测试详细教程（一文包会）