# CPT (Continual Pre-Training) 数据集

## 数据集概述

本数据集用于 LLaMA-8B 模型的继续预训练（Continual Pre-Training, CPT），旨在让通用大模型适应医疗领域。数据集包含 **200,000 条样本**，按照 **70% 通用语料 + 30% 医疗语料** 的比例混合，覆盖中英文维基百科和医疗专业文本。

## 数据来源与处理

### 1. Wikipedia 英文 (wikimedia/wikipedia)
- **原始数据量**: 6,407,814 条
- **采样数量**: 70,000 条
- **来源**: [wikimedia/wikipedia (20231101.en)](https://huggingface.co/datasets/wikimedia/wikipedia)
- **处理方式**:
  - 加载 2023-11-01 版本的英文维基百科
  - 仅保留 `text` 字段
  - 随机采样 70,000 条（seed=42）
- **用途**: 提供通用领域英文知识

### 2. Wikipedia 中文 (wikimedia/wikipedia)
- **原始数据量**: 1,384,748 条
- **采样数量**: 70,000 条
- **来源**: [wikimedia/wikipedia (20231101.zh)](https://huggingface.co/datasets/wikimedia/wikipedia)
- **处理方式**:
  - 加载 2023-11-01 版本的中文维基百科
  - 仅保留 `text` 字段
  - 随机采样 70,000 条（seed=42）
- **用途**: 提供通用领域中文知识

### 3. 医疗预训练语料 (shibing624/medical)
- **原始数据量**: 361,420 条
- **采样数量**: 60,000 条
- **来源**: [shibing624/medical (pretrain 子集)](https://huggingface.co/datasets/shibing624/medical)
- **子集**: pretrain/train_*.json（本地加载）
- **处理方式**:
  - 从本地克隆的 `dataset/medical/pretrain/train_*.json` 文件加载
  - 使用 glob 匹配所有 train_*.json 文件
  - 仅保留 `text` 字段
  - 随机采样 60,000 条（seed=42）
- **用途**: 提供医疗领域专业知识和术语

## 数据格式

每条样本仅包含一个 `text` 字段，用于继续预训练：

```json
{
  "text": "文章的完整文本内容..."
}
```

## 数据混合策略

1. **目标分配**: 总样本数 200,000 条，按 70:30 通用/医疗比例分配
2. **通用语料分配**: 70,000 英文 Wiki + 70,000 中文 Wiki = 140,000 条（70%）
3. **医疗语料分配**: 60,000 条医疗文本（30%）
4. **采样**: 对每个数据源使用 `shuffle(seed=42)` 后采样
5. **合并**: 拼接三个数据源
6. **打乱**: 使用 `shuffle(seed=42)` 打乱所有样本
7. **保存**: 保存为 Hugging Face Dataset 格式到 `dataset/cpt_dataset_from_resume`

## 使用示例

```python
from datasets import load_from_disk

# 从本地加载
dataset = load_from_disk("./dataset/cpt_dataset_from_resume")

# 查看样本
print(dataset[0])
print(f"数据集大小: {len(dataset)}")
```

## 数据集统计

| 数据源 | 样本数 | 占比 | 语言 | 特点 |
|--------|--------|------|------|------|
| Wikipedia (英文) | 70,000 | 35.0% | 英文 | 通用领域知识 |
| Wikipedia (中文) | 70,000 | 35.0% | 中文 | 通用领域知识 |
| Medical (医疗) | 60,000 | 30.0% | 中文 | 医疗专业知识 |
| **总计** | **200,000** | **100%** | 中英文 | - |

## 训练建议

1. **训练目标**: 使用 Causal Language Modeling (CLM) 进行继续预训练
2. **学习率**: 建议使用较小的学习率（如 1e-5 ~ 5e-5），避免灾难性遗忘
3. **序列长度**: 根据显存情况设置（如 512, 1024, 2048）
4. **训练轮数**: 1-3 epochs，避免过拟合
5. **领域适应**: CPT 后的模型更适合医疗领域的下游任务（SFT, DPO, PPO）

## 注意事项

1. **领域平衡**: 数据集保持了通用能力（70%）和医疗专业性（30%）的平衡
2. **语言覆盖**: 英文和中文各占 35%，医疗数据为中文
3. **数据质量**: 维基百科数据经过社区审核，医疗数据来自专业医疗问答
4. **适用场景**: 适合作为医疗领域 LLM 的第一阶段训练（CPT → SFT → DPO → PPO）

## 引用

如果使用本数据集，请引用原始数据来源：

```bibtex
@misc{wikipedia,
  author = {Wikimedia Foundation},
  title = {Wikipedia Dumps},
  year = {2023},
  url = {https://huggingface.co/datasets/wikimedia/wikipedia}
}

@misc{medical,
  author = {Xu Ming},
  title = {Medical: Chinese Medical Corpus},
  year = {2023},
  url = {https://huggingface.co/datasets/shibing624/medical}
}
```

## 许可证

- Wikipedia 数据遵循 [CC BY-SA 3.0](https://creativecommons.org/licenses/by-sa/3.0/) 许可协议
- Medical 数据请查阅原始仓库的许可协议