【文件属性】：
文件名称：Caffe-AdamW-AdamWR:caffe中AdamW和AdamWR算法的实现
文件大小：347KB
文件格式：ZIP
更新时间：2021-04-30 10:09:54
caffe solver adamw adamwr C++
caffe中AdamW和AdamWR算法的实现
此仓库实现程序caffe代码是参考Fixing Weight Decay Regularization in Adam 的Fixing Weight Decay Regularization in Adam论文。
caffe.proto
id从712到...
1.在caffe.proto的消息SolverParameter中添加所需的参数。
修改caffe.proto如下：
// If true, adamw solver will restart per cosine decay scheduler
optional bool with_restart = 712 [default = false];
// cosine decay, refers to paper of AdamWR
optional
【文件预览】：
Caffe-AdamW-AdamWR-master
----.gitignore(270B)
----sgd_solvers.hpp(6KB)
----README.md(5KB)
----image()
--------Adam.png(37KB)
--------SGD_step_wd(5e-4).png(32KB)
--------AdamWR_cos_decay(3000).png(60KB)
--------SGD_step_lr(0.01).png(46KB)
--------Adam_wd(5e-4).png(42KB)
--------SGD_poly_wd(5e-4).png(32KB)
--------AdamWR.png(59KB)
--------Adam_wd(e-4).png(37KB)
----LICENSE(1KB)
----note(2KB)
----adamwr_solver.cpp(7KB)
----caffe.proto(60KB)
----adamwr_solver.cu(1KB)