intfloat commited on
Commit
1c24f61
1 Parent(s): b074c1a

update README.md

Browse files
Files changed (1) hide show
  1. README.md +202 -1
README.md CHANGED
@@ -8,4 +8,205 @@ language:
8
  - de
9
  - af
10
  - ar
11
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
8
  - de
9
  - af
10
  - ar
11
+ ---
12
+
13
+ ### Dataset Summary
14
+
15
+ This dataset is based on [CloverSearch/cc-news-mutlilingual](https://huggingface.co/datasets/CloverSearch/cc-news-mutlilingual).
16
+
17
+ We add a script to support access multilingual CC-News dataset with HuggingFace datasets API instead of directly downloading raw data files.
18
+
19
+ ### Data Fields
20
+
21
+ - `title`: a `string` feature.
22
+ - `maintext`: a `string` feature.
23
+ - `url`: a `string` feature.
24
+ - `date_publish`: a `string` feature.
25
+
26
+ ### How to use this dataset
27
+
28
+ You can load any subset of CC-News per language:
29
+
30
+ ```python
31
+ from datasets import load_dataset
32
+
33
+ dataset = load_dataset("intfloat/multilingual_cc_news", languages=["af"])
34
+ ```
35
+
36
+ ## Supported Languages
37
+
38
+ ```
39
+ af
40
+ als
41
+ am
42
+ an
43
+ ar
44
+ arz
45
+ as
46
+ ast
47
+ av
48
+ az
49
+ azb
50
+ ba
51
+ bar
52
+ bcl
53
+ be
54
+ bg
55
+ bh
56
+ bn
57
+ bo
58
+ bpy
59
+ br
60
+ bs
61
+ bxr
62
+ ca
63
+ cbk
64
+ ce
65
+ ceb
66
+ ckb
67
+ co
68
+ cs
69
+ cv
70
+ cy
71
+ da
72
+ de
73
+ diq
74
+ dsb
75
+ dty
76
+ dv
77
+ el
78
+ eml
79
+ en
80
+ eo
81
+ es
82
+ et
83
+ eu
84
+ fa
85
+ fi
86
+ fr
87
+ fy
88
+ ga
89
+ gd
90
+ gl
91
+ gn
92
+ gom
93
+ gu
94
+ gv
95
+ he
96
+ hi
97
+ hif
98
+ hr
99
+ hsb
100
+ ht
101
+ hu
102
+ hy
103
+ ia
104
+ id
105
+ ie
106
+ ilo
107
+ io
108
+ is
109
+ it
110
+ ja
111
+ jbo
112
+ jv
113
+ ka
114
+ kk
115
+ km
116
+ kn
117
+ ko
118
+ krc
119
+ ku
120
+ kv
121
+ kw
122
+ ky
123
+ la
124
+ lb
125
+ lez
126
+ li
127
+ lmo
128
+ lo
129
+ lt
130
+ lv
131
+ mai
132
+ mg
133
+ mhr
134
+ min
135
+ mk
136
+ ml
137
+ mn
138
+ mr
139
+ mrj
140
+ ms
141
+ mt
142
+ mwl
143
+ my
144
+ myv
145
+ mzn
146
+ nah
147
+ nap
148
+ nds
149
+ ne
150
+ new
151
+ nl
152
+ nn
153
+ no
154
+ oc
155
+ or
156
+ os
157
+ pa
158
+ pam
159
+ pfl
160
+ pl
161
+ pms
162
+ pnb
163
+ ps
164
+ pt
165
+ qu
166
+ rm
167
+ ro
168
+ ru
169
+ sa
170
+ sah
171
+ sc
172
+ scn
173
+ sco
174
+ sd
175
+ sh
176
+ si
177
+ sk
178
+ sl
179
+ so
180
+ sq
181
+ sr
182
+ su
183
+ sv
184
+ sw
185
+ ta
186
+ te
187
+ tg
188
+ th
189
+ tk
190
+ tl
191
+ tr
192
+ tt
193
+ tyv
194
+ ug
195
+ uk
196
+ ur
197
+ uz
198
+ vec
199
+ vep
200
+ vi
201
+ vls
202
+ vo
203
+ wa
204
+ war
205
+ wuu
206
+ xal
207
+ xmf
208
+ yi
209
+ yo
210
+ yue
211
+ zh
212
+ ```