预训练模型

【深度学习】 loss不下降，准确率很低的原因

loss不下降，ACC很低（只有0.1，0.2这种）可能的原因有：数据集有问题（噪声过多或存在过多的标签错误或类别不平衡）梯度爆炸梯度消失笔者遇到的梯度爆炸情况下图的矩阵是pooler_output（从bert得到的句子向量）：若干个不同的文本，在训练两个batch后可见模型的输出几乎一样了，...
2021-09-29 14:41 阅读数 67
技术
下载桌面版
GitHub
百度网盘（提取码：draw）
Gitee
云服务器优惠
阿里云优惠券
腾讯云优惠券
华为云优惠券
站点信息
问题反馈
邮箱：[email protected]
QQ群：766591547
关注微信
©2020-2024 ioDraw All rights reserved, Privacy Policy