MegEngine Inference 卷积优化之 Im2col 和 winograd 优化
作者:于雄雄 陈其友 | 旷视 MegEngine 架构师背景在 CV 领域中,卷积计算是扩充像素的感受野的有效方法,模型大多数的计算量都是卷积操作贡献的。因此在 CV 模型的推理性能优化中,最重要的一项工作是对卷积的优化。MegEngine 在长期的工业界实践和反馈的基础上总结得出卷积优化的基本方...
提速还能不掉点!深度解析 MegEngine 4 bits 量化开源实现
作者:周瑞亮 | 旷视 MegEngine 架构师随着深度学习的发展,其应用场景也越发的广泛与多样。这些多样化的场景往往会对实际的部署提出更加“定制化”的限制。例如,自动驾驶汽车对人体识别的精度要求肯定比图像识别动物分类的精度要求更加严苛,因为二者的应用场景和错误预测带来的后果截然不同。这些“定制化...