KuoKuoYeah/dcd-pdf-demo

DCD PDF Demo Dataset

arxiv、libgen、xiaoyi 等来源的原始 PDF 示例数据集，以 LanceDB 格式存储。

每个数据源包含两个 LanceDB 数据集：

数据集	内容
pdfs.lance	PDF 原始字节（id、pdf_bytes、sha256）
pdf_labels.lance	元数据与标注（id、info JSON、tags）

注意：pdfs.lance 和 pdf_labels.lance 是目录，不是单个文件，这是 LanceDB 的存储格式。

数据集概览

来源	条数	原始批次
arxiv	762	arxiv_20251203
libgen	88	libgen_scihub_1026_all_0930
xiaoyi	436	knowledge_xiaoyi_books_all_1114_3_2M

仓库结构

dcd-pdf-demo/
├── arxiv/
│   ├── pdfs.lance/        ← PDF 原始字节（LanceDB 目录）
│   └── pdf_labels.lance/  ← 元数据与标注（LanceDB 目录）
├── libgen/
│   ├── pdfs.lance/
│   └── pdf_labels.lance/
└── xiaoyi/
    ├── pdfs.lance/
    └── pdf_labels.lance/

直接访问（无需下载全部数据）

pip install lance huggingface_hub

import lance

# 按需拉取，不下载全部 974 MB
pdfs = lance.dataset("hf://datasets/KuoKuoYeah/dcd-pdf-demo/arxiv/pdfs.lance")
print(pdfs.count_rows())
sample = pdfs.take([0, 1, 2]).to_pydict()

labels = lance.dataset("hf://datasets/KuoKuoYeah/dcd-pdf-demo/arxiv/pdf_labels.lance")
print(labels.schema)

完整下载后本地访问

from huggingface_hub import snapshot_download
import lance

local_dir = snapshot_download(
    repo_id="KuoKuoYeah/dcd-pdf-demo",
    repo_type="dataset",
    local_dir="/tmp/dcd-pdf-demo",
)

# 选择需要的数据源（arxiv / libgen / xiaoyi）
source = "arxiv"
pdfs   = lance.dataset(f"{local_dir}/{source}/pdfs.lance")
labels = lance.dataset(f"{local_dir}/{source}/pdf_labels.lance")

注册到 DCD 平台可视化（内部用户）

# 1. 下载数据到本地
huggingface-cli download KuoKuoYeah/dcd-pdf-demo \
  --repo-type dataset --local-dir /tmp/dcd-pdf-demo

# 2. 在 DCD 的 datasets/ 目录下创建符号链接
ln -s /tmp/dcd-pdf-demo/arxiv /path/to/adp/datasets/arxiv-demo

启动 DCD 服务器后访问 http://localhost:8000/datasets/arxiv-demo。