Datasets:

bootscoder
/

Medical-ChatBot-CPT

原始数据量: 361,420 条
采样数量: 60,000 条
来源: shibing624/medical (pretrain 子集)
子集: pretrain/train_*.json（本地加载）
处理方式:
- 从本地克隆的 dataset/medical/pretrain/train_*.json 文件加载
- 使用 glob 匹配所有 train_*.json 文件
- 仅保留 text 字段
- 随机采样 60,000 条（seed=42）
用途: 提供医疗领域专业知识和术语

数据格式

每条样本仅包含一个 text 字段，用于继续预训练：

{
  "text": "文章的完整文本内容..."
}

数据混合策略

目标分配: 总样本数 200,000 条，按 70:30 通用/医疗比例分配
通用语料分配: 70,000 英文 Wiki + 70,000 中文 Wiki = 140,000 条（70%）
医疗语料分配: 60,000 条医疗文本（30%）
采样: 对每个数据源使用 shuffle(seed=42) 后采样
合并: 拼接三个数据源
打乱: 使用 shuffle(seed=42) 打乱所有样本
保存: 保存为 Hugging Face Dataset 格式到 dataset/cpt_dataset_from_resume

使用示例

from datasets import load_from_disk

# 从本地加载
dataset = load_from_disk("./dataset/cpt_dataset_from_resume")

# 查看样本
print(dataset[0])
print(f"数据集大小: {len(dataset)}")

数据集统计

数据源	样本数	占比	语言	特点
Wikipedia (英文)	70,000	35.0%	英文	通用领域知识
Wikipedia (中文)	70,000	35.0%	中文	通用领域知识
Medical (医疗)	60,000	30.0%	中文	医疗专业知识
总计	200,000	100%	中英文	-

训练建议

训练目标: 使用 Causal Language Modeling (CLM) 进行继续预训练
学习率: 建议使用较小的学习率（如 1e-5 ~ 5e-5），避免灾难性遗忘
序列长度: 根据显存情况设置（如 512, 1024, 2048）
训练轮数: 1-3 epochs，避免过拟合
领域适应: CPT 后的模型更适合医疗领域的下游任务（SFT, DPO, PPO）

注意事项

领域平衡: 数据集保持了通用能力（70%）和医疗专业性（30%）的平衡
语言覆盖: 英文和中文各占 35%，医疗数据为中文
数据质量: 维基百科数据经过社区审核，医疗数据来自专业医疗问答
适用场景: 适合作为医疗领域 LLM 的第一阶段训练（CPT → SFT → DPO → PPO）

引用

如果使用本数据集，请引用原始数据来源：

@misc{wikipedia,
  author = {Wikimedia Foundation},
  title = {Wikipedia Dumps},
  year = {2023},
  url = {https://huggingface.co/datasets/wikimedia/wikipedia}
}

@misc{medical,
  author = {Xu Ming},
  title = {Medical: Chinese Medical Corpus},
  year = {2023},
  url = {https://huggingface.co/datasets/shibing624/medical}
}

许可证

Wikipedia 数据遵循 CC BY-SA 3.0 许可协议
Medical 数据请查阅原始仓库的许可协议