Dataset Card for fineweb-edu-zhtw-sm

📚 fineweb-edu-zhtw-sm 是 lianghsun/fineweb-edu-zhtw 的小型子集，保留與母資料集相同的欄位與篩選邏輯，但檔案數量縮小，方便使用者進行快速試跑、原型驗證或小規模微調實驗。

Dataset Details

Dataset Description

fineweb-edu-zhtw-sm 是 fineweb-edu-zhtw 的取樣版本，用於下列情境：

• 在訓練 pipeline 上做煙霧測試（smoke test）。
• 評估 tokenization、清理、loss curve 等而不需要載入完整資料集。
• 教學或 demo 用途，提供與正式版完全相同的 schema 但更小的檔案量。

每筆樣本包含原始網頁文本、原始 metadata（dump 名稱、URL、日期、語言等）以及在 fineweb pipeline 中加上的品質指標。

• Curated by: Huang Liang Hsun
• Language(s) (NLP): Traditional Chinese
• License: MIT

Dataset Sources

• Repository: lianghsun/fineweb-edu-zhtw-sm
• Parent dataset: lianghsun/fineweb-edu-zhtw
• Paper: TBA

Uses

Direct Use

• 預訓練 / 持續預訓練 pipeline 的快速驗證。
• 教學與 demo：示範繁中教育類語料的格式與內容。
• 小規模 ablation 實驗。

Out-of-Scope Use

• 不適合作為主要的預訓練語料來源，請改用完整版 fineweb-edu-zhtw。

Dataset Structure

{
  "text": "...",
  "id": "<urn:uuid:...>",
  "metadata": {
    "avg_words_per_line": 12.3,
    "date": "2024-09-01",
    "dump": "CC-MAIN-2024-38",
    "file_path": "...",
    "language": "zh",
    "language_score": 0.98,
    "token_count": 1234,
    "url": "https://example.com/..."
  }
}

詳細欄位定義與母資料集相同，請參考 fineweb-edu-zhtw。

Dataset Creation

Curation Rationale

完整版 fineweb-edu-zhtw 約 8GB，在許多 PoC、教學、CI/CD 場景中過於龐大。本子集刻意取樣到較小規模，方便快速嘗試。

Source Data

Data Collection and Processing

直接從 fineweb-edu-zhtw 取得隨機取樣後的子集，未額外重新過濾。

Who are the source data producers?

與母資料集相同：來自 Common Crawl 之繁體中文網頁，經 fineweb 與 fineweb-edu-zhtw classifier 過濾。

Annotations

Annotation process

無額外標註；保留母資料集的 metadata 欄位。

Who are the annotators?

無人工標註者。

Personal and Sensitive Information

資料為公開網頁內容，與母資料集處理一致。

Bias, Risks, and Limitations

• 由於採樣隨機，子集的領域分布不必與母集完全一致。
• 規模偏小，無法用於需要大量資料的實驗（如完整 pretraining）。

Recommendations

僅作 PoC、教學、CI 用；正式訓練請改用 fineweb-edu-zhtw。

Citation

@misc{fineweb_edu_zhtw_sm,
  title        = {fineweb-edu-zhtw-sm: Small Subset of FineWeb-Edu-zhtw},
  author       = {Huang, Liang Hsun},
  year         = {2025},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/fineweb-edu-zhtw-sm}}
}

Dataset Card Authors

Huang Liang Hsun

Dataset Card Contact

Huang Liang Hsun