BitPack:BitPack是一种实用工具,可有效保存超低精度混合精度量化模型

时间:2021-05-22 20:06:49
【文件属性】:
文件名称:BitPack:BitPack是一种实用工具,可有效保存超低精度混合精度量化模型
文件大小:147KB
文件格式:ZIP
更新时间:2021-05-22 20:06:49
memory pytorch quantization model-compression mixed-precision 比特包 BitPack是一种实用的工具,可以有效地保存具有混合位宽的量化神经网络模型。 安装 版本> = 1.4.0 Python版本> = 3.5 要安装Bitpack,只需运行: git clone https://github.com/Zhen-Dong/BitPack.git cd BitPack 用法 我们可以使用BitPack pack.py保存具有各种位宽的整数检查点,并使用BitPack unpack.py加载打包的检查点,如演示中所示。 要打包以浮点格式保存的整数值,请在命令中添加--force-pack-fp。 要直接在PyTorch中保存打包的检查点,请在pytorch_interface.py中使用save_quantized_state_dict()和load_quantized_state_dict()。 如果不想对state_dict进行联合操作,则
【文件预览】:
BitPack-main
----bitpack()
--------__init__.py(1B)
--------bitpack_utils.py(4KB)
--------pytorch_interface.py(3KB)
----unpack.py(2KB)
----__init__.py(1B)
----illustration.png(233KB)
----LICENSE(1KB)
----pack.py(1KB)
----README.md(2KB)

网友评论