OpenLLMData

OpenLLMData: An open source data framework for LLMs

• 开源数据集调研
• LLM的数据集和数据工程调研
• RLHF数据集构建
• pretrain数据集构建
• SFT数据集构建
• 模型层、框架层的数据接口

LLM数据和数据工程综述

Open LLM Data and Data Engineering: A survey. 【腾讯文档】【OpenLLM Doc 001】LLM数据和数据工程综述 https://docs.qq.com/doc/DSHRnUlFnbnNwU2pm

LLM 数据配比探索

LLM Data Blend Exploration: A Practical Guide

LLM 新数据集构建

LLM数据工程

Open Data Engineering: An Efficient and Practical Framework.