AIBL论坛

 找回密码
 立即注册
本论坛所有软件旨在帮助用户创建逼真且有趣的内容,帮助做自媒体的人制作原创有趣的视频或广告,如果使用别人的肖像,使用之前需获得同意和许可(建议使用AI生成的人脸),严禁使用软件制作任何不正规视频,如发现用于不正规用途,一律删号处理
查看: 359|回复: 1

batch size和学习率间的取舍?

[复制链接]

8

主题

12

回帖

97

积分

中级丹童

积分
97
发表于 2024-4-29 18:59:05 | 显示全部楼层 |阅读模式
目前在开着扭曲跑模型,没开学习率下降前batch size能跑8,开了学习率以后发现batch size开不了8,报OOM。只好调到4去跑,麻烦有经验的来回答下,这样取舍是否合理?学习率下降一般不可省略对吗?
AIBL论坛免责申明
本论坛刊载的所有内容,包括图片、软件、模型等均在网上搜集。
论坛提供的内容仅用于个人学习、研究或欣赏。我们不保证内容的正确性。通过使用本站内容随之而来的风险与本站无关
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。
发表于 2024-4-29 19:14:20 来自手机 | 显示全部楼层

batch size根据显存大小可以改成4,

训练步骤,https://www.aibl.vip/thread-13-1-1.html

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|AIBL论坛

GMT+8, 2024-9-17 03:42 , Processed in 0.081591 second(s), 22 queries , Gzip On.

Powered by AI技术论坛 X3.5

© 2001-2023 dfl论坛

快速回复 返回顶部 返回列表