t5-experiments：基于 T5 和 BERT 的多 GPU、多节点训练实验

2023-04-26
t5-experiments 是一个基于🤗 Transfomers 实现的 T5 模型和 BERT 的仓库。该仓库使用了来自原始 T5 仓库的数据处理流程用于预训练（span…