zetavg's picture
Update README.md
d0dbc5a
metadata
dataset_info:
  features:
    - name: page_title
      dtype: string
    - name: page_summary
      dtype: string
  splits:
    - name: train
      num_bytes: 3985664
      num_examples: 9997
  download_size: 2934142
  dataset_size: 3985664

Dataset Card for "wikipedia_random_page_summaries_zh_tw_10k"

page_title 是維基百科原始的頁面名稱,因此可能是簡體中文。page_summary 則一律是台灣正體版本。

使用了 vinta/pangu 來確保中英文之間都有加上空格。

https://github.com/zetavg/LLM-Research/blob/3b79836/Wikipedia_Random_Page_Summaries_Dataset_Generator.ipynb 產生。