欢迎回来
定义了所有管道参数后
我们就可以开始实际的培训过程了
如果我们查看Axel的吉他页面
我们可以看到
为了启动培训课程
我们只需要运行此命令并将其指向我们的配置文件
因此 在一个新的最佳脚本中
让我们只需粘贴它并更改路径
好了 现在我们可以运行它 训练应该开始了
好了
模型正在被加载
数据集正在被标记
和
现在进行实际训练
我们可以看到每一步损失是如何变小的
这意味着我们的模型实际上能够学习任务
这是一个非常小的数据集
所以时代过得很快
让我们等待它结束 让它结束
好了 就这样 训练结束了
就这么简单
现在 这是一个在小数据集上的相当小的模型
但基本思想是相同的
我们将看到
即使使用如此小而大的语言模型
在如此少的示例上进行训练
我们仍然可以得到非常好的结果
我们的模型就保存在这里
现在
是时候测试它了 看看它到底学到了什么
我们将为此创建一个新的Python文件
如果我们回到小骆驼的模型页面
我们可以看到它已经为我们提供了如何使用
这是运行大多数大型语言模型的通用方法
它的速度并不快 可以进行彻底的优化
但它可以很好地进行测试
让我们从它开始
首先 我们更改模型路径
所以我们使用新训练的模型
然后 我们将保持D类型为浮点数16
因为这是这个模型和设备映射所喜欢的
所以我们可以使用GP US作为输入
我们还没有使用系统提示符对模型进行微调
因此 我们将删除用户内容
这是我们的实际输入
让我们为它写一个大纲作为开始
让我们假设一个聪明的学生在这个项目
上与模糊科学家一起工作
好吧
让我们准备我们的输入提示
我们可以看到聊天模板是以我们在培训期间
指定的相同格式添加的
从用户开始
然后以句尾和助手标记结束
好吧
让我们把它传给我们的模型
现在
我们将保持简单
只说它的最大长度为512个标记
这对于一个小故事来说应该足够了
从这个问题出发
好的 这是输出
让我们来看看
所以这是一个学生努力想出新
点子的故事
他的智慧将每个人从一个相当戏剧性的情况中拯救出来
好吧 有意思
让我们试试另一个
所以这是一个关于全人类的项目
带着拥挤的城市和道路回到人们身边的画面
好吧
很明显 这个模型很好地理解了这个想法
即使从这么小的数据集 样本量 这是伟大的
okay发现了微调大型语言模型的最
基本方法
现在 为了达到下一个水平
我们必须涵盖一些更先进的概念
这将使我们能够训练更好和更大的模型
同时以更快的速度和更少的资源
感谢您到目前为止的关注
我们将在本课程的下一部分继续
合作
祝你好运
我会在那里见到你的