什么是学习率 在LoRA训练中,学习率是一个非常重要的超参数 学习率控制着模型参数更新的幅度,对于模型的收敛速度和最终性能都有很大的影响 在LoRA训练中,我们通常使用两种学习率: 全局...
第十集:省时省力的打标工具Booru
我们知道为图像添加标签就是为了帮助LORA更好地感知和学习图像的细节信息,从而生成效果更优秀的图片 而且整个过程中素材的准备工作收集图片,为图片打标,这2项是最耗费我们时间和精力的 好的...
第九集:正则化技术避免LoRA过拟合
我们前面也介绍过LoRA模型过拟合 什么是过拟合和欠拟合 如果我训练集中没有出现过“户外”,我在生图的时候提示“户外” 过拟合 在LoRA训练中,过拟合是指模型在训练数据上表现良好,但在...
第八集:分析优化LoRA以及判断LoRA训练结果
从LoRA目的角度判断核心追求指标 在开始LoRA训练优化之前,首先我了解什么样的的LoRA可以算作一个好的LoRA LoRA的三重属性 1.易调用性 易调用性是指LoRA模型可以通过文...