Wapic 中文分词数据 (wapic-cws-data)

训练 / 评估 Ismantic/wapic-cws 分词模型所用的固化数据集。 现代中文标准：人名整体、标点独立、数字/英文按字符类型边界（"retag2" 约定， 如 2015年 → 2015 年）。

结构

dataset/
  wapic-cws-data-1.{jsonl,txt}.gz    Stage-1 训练:蒸馏数据，9,501,182 句
  wapic-cws-data-2.{jsonl,txt}.gz    Stage-2 训练:针对 badcase 的增强数据，4,388,498 句
  wapic-cws-data-test-1.{jsonl,txt}  12M 泛化评测，79,703 句（已去污染）
  wapic-cws-data-test-2.{jsonl,txt}  PD-1998 (modern+punct) 主评测，17,265 句（已去污染）

两种格式

• .jsonl — 每行 {"source": "原句", "cut": "词 词 词"}，词间空格分隔，通用可读。
• .txt — BMES 列式（<字> <BMES标签>，空行分句），wapic 训练/评估的原生输入格式。

训练数据（-1 / -2）为 .gz 压缩，测试数据（-test-1 / -test-2）未压缩。 评测时喂给 wapic test 的"纯字符输入"可从 gold .txt 去掉标签列生成： awk '{print $1}' wapic-cws-data-test-2.txt。

{"source": "李镇全今天接受了记者的采访", "cut": "李镇全 今天 接受 了 记者 的 采访"}

用法

from datasets import load_dataset
ds = load_dataset("Ismantic/wapic-cws-data", data_files={
    "stage2":    "dataset/wapic-cws-data-2.jsonl.gz",
    "test_pdmp": "dataset/wapic-cws-data-test-2.jsonl",
})

模型在 wapic-cws-data-test-2（PD-1998）/ wapic-cws-data-test-1（12M）上的 F1 = 98.01 / 97.95。

去污染说明：测试集已剔除与训练数据（data-1/data-2）逐字重合的句子 （PD-1998 剔除 6.3%，12M 剔除 16.5%——12M 与 Stage-1 语料同源，重合较多）。 留下的句子模型在训练中从未见过，F1 反映真实泛化能力。

训练

发布模型 Ismantic/wapic-cws 采用两阶段 warm-start：

• Stage 1（wapic-cws-data-1，蒸馏数据）→ 训练出 base 模型 wapic-cws-base.wac。
• Stage 2（wapic-cws-data-2，针对 badcase 的增强数据）→ 在 base 上 --init-from 精修。

复现命令（.gz 解压为 .txt 后使用；Stage-2 共 60 迭代 = 3×20 链式、 禁用早停，为迭代-F1 曲线的峰值区间；100 迭代起过拟合）：

# Stage 1 base（蒸馏数据训练出 wapic-cws-base.wac，一般直接复用，不重训）
# Stage 2（ck20 → ck40 → ck60 链式三段）:
./build/wapic fit -p data/pattern.txt --init-from data/wapic-cws-base.wac \
    -a l-bfgs -i 20 -e 0.0000001 -1 0.005 -2 0.0001 -t 8 --histsz 5 --save-binary \
    data/wapic-cws-data-2.txt data/ck20.wac
# 同参数 --init-from data/ck20.wac → ck40.wac，再 --init-from ck40 → ck60.wac，然后：
./build/wapic convert -m data/ck60.wac --save-binary --save-prune \
    --prune-threshold 0.04 data/wapic-cws.wac

来源与许可

数据卡与打包脚本为 MIT。底层语料源自人民日报 1998、LTP/base1 自动标注及公开新闻语料 （OpenNews / PeopleDaily），原始语料版权归各自所有者，此处仅提供分词标注衍生形式， 供研究复现使用。