10.3 模型训练与发布实战ChatGPT文章目录10.3 模型训练与发布实战ChatGPT10.3.1 第一步创建ChatGPT应用10.3.2 第二步设置AI对话提示词10.3.3 第三步设置训练模型及参数10.3.4 第四步构建并填充知识库10.3.5 第五步文本分段与清洗10.3.6 第六步添加数据集并发布ChatGPT应用ChatGPT作为一种先进的自然语言处理模型已经引起了广泛的关注。本节将以 Dify平台为例详细介绍训练和发布ChatGPT模型的步骤最终创建出一个对话型机器人的AI应用。10.3.1 第一步创建ChatGPT应用Dify是一个直观、可操作、可优化的LLMLarge Language Model大型语言模型训练平台赋予了强大的LLMOps能力。不仅如此它还支持Web App的构建 可以让用户迅速开发出专属的ChatGPT应用。同时用户还可以在此基础上对模型进行训练和微调直至它能够完全符合你的需求。温馨提示LLMOpsLarge Language Model Operations大型语言模型运维是一套专门针对大型语言模型如GPT系列的开发、部署、维护和优化的实践与流程。LLMOps 的目标在于确保这些强大AI模型在实际应用中的高效性、可扩展和安全使用这涉及了模型训练、部署、监控、更新、安全性及合规性等多个方面。下面先在Dify平台上创建一个ChatGPT应用具体操作方法如下。步骤01 进入Dify官网首页单击右上角的“Get Started”开始按钮如图 10-6所示。步骤02 执行操作后会提示用户注册或登录账号登录后即可进入Dify的创建应用页面单击“创建应用”按钮如图10-7所示。步骤03 执行操作后弹出“开始创建一个新应用”对话框选择相应的应用类型如“助手”输入相应的应用名称如“与孔明对话”单击“创建”按钮 如图10-8所示。步骤04 执行操作后即可创建一个对话型应用并进入该应用的“概览”页面 在此可以开启应用和后端服务API同时可以看到应用的访问链接如图10-9所示。步骤05 在“概览”页面下方还可以查看该应用的运行数据分析图表包括全部消息数、活跃用户数、平均会话互动数、Token输出速度、用户满意度和费用消耗等信息如图10-10所示。10.3.2 第二步设置AI对话提示词提示词用于对AI的回复做出一系列指令和约束可插入表单变量如{{input}} 变量能使用户输入表单引入提示词或开场白。注意这段提示词不会被最终用户看到。下面介绍设置AI对话提示词的操作方法。步骤01 在“概览”页面左侧的导航栏中单击“编排”按钮进入相应页面在 “提示词”文本框中输入相应的提示词如图10-11所示。步骤02 如果用户不会写提示词可以单击“自动编排”按钮弹出“自动编排” 对话框输入相应的目标用户及希望AI解决的问题单击“生成”按钮即可自动生成相应的提示词如图10-12所示。单击“应用”按钮即可快速将AI生成的提示词填入“提示词”文本框中。下面仍然使用自定义的提示词。10.3.3 第三步设置训练模型及参数在Dify平台上用户可以选择基于不同模型的能力来开发AI应用如OpenAI包括 GPT-4、GPT-3.5系列等、Azure OpenAI Service、Anthropic包括Claude2、 Claude-instant、Replicate、Hugging Face Hub、ChatGLM、Llama2、 MiniMax、讯飞星火认知大模型、文心一言、通义千问等。无论是需要强大的语言生成能力还是需要特定领域的专业知识用户都可以在Dify上找到合适的模型来开发自己的AI应用。下面介绍设置训练模型及参数的操作方法。步骤01 在“编排”页面中单击按钮在弹出的面板中单击“模型”选项右侧的下拉按钮在弹出的下拉列表框中可以选择需要训练的大模型如gpt-3.5- turbo如图10-13所示。步骤02 在“模型及参数”面板的“模型设置”选项区中可以自定义设置温度、 Top P、存在惩罚、频率惩罚、最大标记等参数这里单击“平衡”按钮将其设置为默认的标准参数如图10-14所示。温馨提示温度用于控制模型生成内容的随机性。Top P是指模型在生成每个词时会计算所有可能的下一个词的概率分布并选择概率最高的前P个词作为候选。存在惩罚用于惩罚模型预测中未出现的词或标记。频率惩罚是一种用于控制模型对高频词或标记的关注程度的机制。最大标记用于设置要生成的标记的最大数量。10.3.4 第四步构建并填充知识库在Dify上创建知识库是非常简便的用户只需直接上传准备好的数据集即可。此外Dify还提供API上传功能让用户有更多的选择。下面介绍构建并填充知识库的操作方法。步骤01 在页面顶部的导航栏中单击“知识库”进入相应页面单击“创建知识库”按钮如图10-15所示。步骤02 执行操作后进入“创建知识库”页面切换至“导入已有文本”选项卡单击“选择文件”链接如图10-16所示。步骤03 执行操作后弹出“打开”对话框选择相应的文本文件单击“打开” 按钮即可上传数据集如图10-17所示。温馨提示用户可以通过多种方式快速、方便地创建知识库如使用Notion内容进行同步或者同步来自Web站点的数据。Notion是一个灵活的笔记和项目管理工具允许用户创建各种类型的文档、数据库、任务列表、日历等。10.3.5 第五步文本分段与清洗文本分段是对输入的文本进行分词或分段操作将连续的文字划分成单个词语或分成段落。文本清洗是指通过一系列的操作将原始文本中的噪声、冗余和无用信息去除以获得干净、准确的文本数据。下面介绍文本分段与清洗的操作方法。步骤01 继续上一小节单击“下一步”按钮进入“文本分段与清洗”页面 “分段设置”默认为“自动分段与清洗”让系统自动设置分段规则与预处理规则设置“索引方式”为“经济”这样虽然会降低准确度但无须花费Token 如图10-18所示。温馨提示在自然语言处理和文本处理中Token是一个常用的术语通常指的是对文本进行预处理和标记化时的一个基本单元。在很多情况下一个Token可以是一个单词、标点符号、数字或其他语言学上的基本元素。步骤02 在该页面下方的“检索设置”选项区中设置Top K为3该选项用于筛选与用户问题相似度最高的文本片段单击“保存并处理”按钮如图10-19所示。步骤03 执行操作后进入“处理并完成”页面系统提示知识库已创建单击 “前往文档”按钮如图10-20所示可以查看文档详情及进行召回测试基于给定的查询文本测试知识库的召回效果仅支持“高质量”的索引方式。10.3.6 第六步添加数据集并发布ChatGPT应用添加上下文数据集对于自然语言处理模型的训练和应用具有重要的意义可以提高模型的性能、效率和可解释性降低数据标注成本促进多任务学习和增强泛化能力。下面介绍添加数据集并发布ChatGPT应用的操作方法。步骤01 返回“编排”页面在“上下文”选项区中单击“添加”按钮如图10-21 所示。步骤02 执行操作后弹出“选择引用知识库”对话框选择相应的数据集如图 10-22所示。步骤03 单击“添加”按钮即可将数据集添加到ChatGPT应用中在右侧“调试与预览”的底部输入相应的问题如图10-23所示。步骤04 单击“发送”按钮 即可与AI机器人进行聊天可以看到经过模型训练后的ChatGPT应用已经有了自己的“身份”和知识如图10-24所示。步骤05 单击右上角的“发布”按钮如图10-25所示即可发布该ChatGPT应用。本章小结本章主要介绍如何管理和部署训练好的AI模型。先介绍了4个关键流程模型的开发与管理、数据集的管理和维护、模型部署和性能优化以及持续监控和迭代改进接着详细介绍4种部署方式本地部署、服务器端部署、无服务器部署和容器化部署最后介绍了训练和发布ChatGPT模型的6个步骤包括创建ChatGPT应用、设置AI对话提示词、设置训练模型及参数等。本章强调了模型管理和部署的重要性以及如何选择合适的部署方式来满足不同应用场景的需求同时还通过具体案例进行说明为读者提供了实用的指导。课后习题鉴于本章知识的重要性为了帮助读者更好地掌握所学知识下面将通过课后习题帮助读者进行简单的知识回顾和补充。部署AI模型的主要方式有哪些在Dify平台上传一个用于ChatGPT模型训练的数据集如图10-26所示。