robust_overfitting

时间:2021-03-21 15:37:10
【文件属性】:
文件名称:robust_overfitting
文件大小:670KB
文件格式:ZIP
更新时间:2021-03-21 15:37:10
Python 在对抗性强的深度学习中过度拟合 实施实验以探究鲁棒过拟合现象的存储库,其中过强的测试性能会因训练而明显下降。由 , 和。请在查看有关arXiv的论文。 消息 月10日-Croce 的AutoAttack框架使用此存储库评估了我们发布的模型。在CIFAR10上,我们的模型采用标准PGD和早期停止训练,在整体上排名第5,而在不依赖其他数据的防御下排名第1。 2020年2月26日-arXiv发布和版本库发布 健壮的过度拟合伤害-尽早停止是必不可少的! 在过去的几年中,大量研究已针对防御对抗性示例的防御性深层网络进行了研究,与基于PGD的著名对抗性训练防御相比有了显着改进。但是,对抗训练并不总是与标准训练类似。我们发现的主要观察结果是,与标准训练不同,对收敛的训练会严重损害鲁棒的概括性,并且实际上会在训练收敛之前很早地增加鲁棒的测试错误,如以下学习曲线所示: 在初始学习率下降之后,健壮的测试误差
【文件预览】:
robust_overfitting-master
----preactresnet.py(4KB)
----train_cifar100.py(12KB)
----utils.py(4KB)
----generate_validation.py(967B)
----train_cifar_semisupervised_half.py(19KB)
----experiments()
--------cifar10_startlr()
--------cifar10_l1()
--------cifar10_lr()
--------svhn_standard()
--------cifar10_standard_l2()
--------cifar10_trades_l2()
--------imagenet()
--------cifar10_validation()
--------cifar10_dropepoch()
--------cifar10_droplr()
--------cifar10_l2()
--------cifar10_cutout()
--------cifar10_mixup()
--------cifar10_standard()
--------cifar100_standard()
--------svhn_standard_l2()
--------cifar10_trades()
--------cifar100_l2()
--------cifar10_fgsm_l2()
--------cifar10_fgsm()
--------cifar10_wide()
--------cifar10_semisupervised()
----cifar10_curve.png(23KB)
----train_cifar.py(19KB)
----train_svhn.py(13KB)
----imagenet_scripts()
--------resume_l2.sh(442B)
--------resume_linf.sh(457B)
----README.md(5KB)
----wideresnet.py(4KB)

网友评论