高质量教育中文预训练语料数据集

chinese-fineweb-edu 是 OpenCSG 团队推出的一款面向教育领域的高质量中文预训练语料数据集，后续还迭代出 v2 等优化版本，其中 v2.1 版本已达 188M 条文本（约 420B tokens）并在 Hugging Face 等平台开源。该数据集整合了 CCI2 - Data、SkyPile - 150B 等多个主流数据源，v2 版本更新增 Industry2、WuDao 等优质数据源，涵盖工业、科技等多领域的专业文献与技术文档等内容，还包含 25% 中英对照数据。