【文件属性】：
文件名称：ELECTRA:中文 预训练 ELECTRA 模型
文件大小：3KB
文件格式：ZIP
更新时间：2021-04-15 07:27:02
gan pretrained-models language-model adversarial-networks albert
ELECTRA
中文 预训练 ELECTREA 模型: 基于对抗学习 pretrain Chinese Model
code Repost from google official code:
具体使用说明：参考 官方链接
Electra Chinese tiny模型路径
google drive
electra-tiny
baidu drive
electra-tiny
code:rs99
模型说明
与 tinyBERT 的 配置相同
generator 为 discriminator的 1/4
How to use official code
Steps
修改 configure_pretraining.py 里面的 数据路径、tpu、gpu 配置
修改 model_size：可在 code/util/training_utils.py 里面 自行定义模型大小
数据输入格式：原始的
【文件预览】：
ELECTRA-master
----.DS_Store(10KB)
----README.md(2KB)