AlienKevin/electra-hongkongese-small-6-dropped-hkcancor-multi
Token Classification
•
Updated
•
8
Datasets:
Tasks:
Token Classification
Modalities:
Text
Formats:
parquet
Languages:
Yue Chinese
Size:
10K - 100K
License:
chars
sequencelengths 2
145
| labels
sequencelengths 2
145
|
|---|---|
[
"喂",
"!",
"J",
"e",
"s",
"s",
"i",
"c",
"a",
",",
"你",
"又",
"話",
"想",
"去",
"剪",
"頭",
"髮",
"𠸏",
"."
] | [
3,
3,
3,
1,
1,
1,
1,
1,
1,
3,
3,
3,
3,
3,
3,
3,
3,
1,
3,
3
] |
[
"係",
"喇",
",",
"但",
"係",
"呢",
",",
"我",
"又",
"唔",
"知",
"點",
"喎",
",",
"因",
"為",
"我",
"我",
"諗",
"住",
"譬",
"如",
"如",
"果",
"長",
"頭",
"髮",
"噉",
"樣",
",",
"噉",
"我",
"一",
"係",
"呢",
"就",
"噉",
"修",
"短",
"幾",
"寸",
"噉",
"樣",
"喇",
",",
"一",
"係",
"呢",
"就",
"係",
"即",
"係",
"剪",
"到",
"好",
"短",
"噉",
"樣",
"囖",
"."
] | [
3,
3,
3,
3,
1,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
1,
3,
3,
3,
0,
3,
1,
3,
1,
3,
3,
1,
3,
1,
3,
3,
3,
3,
1,
3,
3,
1,
3,
3,
3,
0,
3,
1,
3,
3,
3,
1,
3,
3,
3,
3,
1,
3,
3,
3,
3,
3,
1,
3,
3
] |
[
"但",
"係",
"我",
"又",
"覺",
"得",
"因",
"為",
"我",
"以",
"前",
"試",
"過",
"剪",
"短",
"呢",
",",
"就",
"會",
"個",
"樣",
"好",
"細",
"個",
"."
] | [
3,
1,
3,
3,
3,
1,
3,
1,
3,
3,
1,
3,
0,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
0,
3
] |
[
"即",
"係",
"我",
"而",
"家",
"個",
"樣",
"已",
"經",
"好",
"細",
"個",
"喇",
"嗎",
",",
"如",
"果",
"再",
"剪",
"落",
"去",
"就",
"會",
"覺",
"得",
"好",
"細",
"個",
"."
] | [
3,
1,
3,
3,
1,
3,
3,
3,
1,
3,
3,
0,
3,
0,
3,
3,
1,
3,
3,
3,
0,
3,
3,
3,
1,
3,
3,
0,
3
] |
[
"就",
"驚",
"住",
"好",
"似",
"唔",
"係",
"咁",
"好",
"噉",
"樣",
"囖",
"."
] | [
3,
3,
0,
3,
1,
3,
3,
3,
3,
3,
1,
3,
3
] |
[
"噉",
"所",
"以",
"\"",
"\"",
"我",
"都",
"未",
"決",
"定",
"啊",
"所",
"以",
"."
] | [
3,
3,
1,
3,
3,
3,
3,
3,
3,
1,
3,
3,
1,
3
] |
[
"所",
"以",
"就",
"而",
"家",
"都",
"未",
"去",
"剪",
"囖",
"."
] | [
3,
1,
3,
3,
1,
3,
3,
3,
3,
3,
3
] |
[
"C",
"a",
"t",
"h",
"y",
",",
"你",
"記",
"唔",
"記",
"得",
"呢",
",",
"佢",
"嗰",
"陣",
"時",
"呢",
",",
"唔",
"知",
"f",
"i",
"r",
"s",
"t",
"y",
"e",
"a",
"r",
"嗰",
"陣",
"時",
"呢",
"咪",
"咪",
"剪",
"過",
"短",
"𠸏",
"."
] | [
3,
1,
1,
1,
1,
3,
3,
3,
0,
0,
1,
3,
3,
3,
3,
0,
1,
3,
3,
3,
3,
3,
1,
1,
1,
1,
3,
1,
1,
1,
3,
0,
1,
3,
3,
3,
3,
0,
3,
3,
3
] |
[
"你",
"記",
"唔",
"記",
"得",
"佢",
"嗰",
"陣",
"時",
"個",
"樣",
"啊",
"?"
] | [
3,
3,
0,
0,
1,
3,
3,
0,
1,
3,
3,
3,
3
] |
[
"我",
"唔",
"記",
"得",
"嘍",
"."
] | [
3,
3,
1,
1,
3,
3
] |
[
"係",
"呀",
"."
] | [
3,
3,
3
] |
[
"係",
"咩",
"?"
] | [
3,
3,
3
] |
[
"我",
"我",
"都",
"覺",
"得",
"唔",
"係",
"幾",
"好",
"睇",
"啊",
"嗰",
"個",
"."
] | [
3,
3,
3,
3,
1,
3,
3,
3,
3,
1,
3,
3,
0,
3
] |
[
"你",
"剪",
"到",
"幾",
"短",
"啊",
"?"
] | [
3,
3,
3,
3,
3,
3,
3
] |
[
"即",
"係",
"噉",
"樣",
"嗰",
"啲",
"呀",
"?"
] | [
3,
1,
3,
1,
3,
0,
3,
3
] |
[
"係",
"嘞",
"."
] | [
3,
3,
3
] |
[
"係",
"嘞",
"."
] | [
3,
3,
3
] |
[
"係",
"嘞",
"."
] | [
3,
3,
3
] |
[
"係",
"嘞",
"."
] | [
3,
3,
3
] |
[
"哦",
"."
] | [
3,
3
] |
[
"好",
"似",
"你",
"而",
"家",
"噉",
"樣",
"囖",
"."
] | [
3,
1,
3,
3,
1,
3,
1,
3,
3
] |
[
"即",
"係",
"齊",
"嘅",
"又",
"係",
"係",
"唔",
"係",
"齊",
"𡃉",
"?"
] | [
3,
1,
3,
3,
3,
3,
3,
0,
0,
3,
3,
3
] |
[
"係",
"嘞",
",",
"係",
"啊",
",",
"齊",
"𡃉",
"齊",
"𡃉",
"."
] | [
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3
] |
[
"噉",
"我",
"又",
"覺",
"得",
"唔",
"好",
"睇",
"囖",
"."
] | [
3,
3,
3,
3,
1,
3,
3,
1,
3,
3
] |
[
"同",
"埋",
",",
"即",
"係",
"又",
"會",
"拱",
"起",
"噉",
"樣",
"呢",
",",
"\"",
"\"",
"好",
"似",
"好",
"肉",
"酸",
"噉",
"樣",
"啊",
"."
] | [
3,
1,
3,
3,
1,
3,
3,
3,
1,
3,
1,
3,
3,
3,
3,
3,
1,
3,
3,
1,
3,
1,
3,
3
] |
[
"嗯",
"."
] | [
3,
3
] |
[
"同",
"埋",
"好",
"似",
"好",
"厚",
"啊",
"."
] | [
3,
1,
3,
1,
3,
3,
3,
3
] |
[
"係",
"啊",
"好",
"細",
"個",
",",
"\"",
"你",
"知",
"唔",
"知",
"\"",
"我",
"啲",
"頭",
"髮",
"又",
"唔",
"係",
"好",
"重",
"嗰",
"隻",
"啊",
"."
] | [
3,
3,
3,
3,
0,
3,
3,
3,
3,
0,
0,
3,
3,
3,
3,
1,
3,
3,
3,
3,
3,
3,
0,
3,
3
] |
[
"即",
"係",
"比",
"較",
"輕",
"啲",
",",
"同",
"埋",
"有",
"少",
"少",
"攣",
"攣",
"哋",
"噉",
"樣",
"呢",
"."
] | [
3,
1,
3,
1,
3,
0,
3,
3,
1,
3,
3,
1,
3,
0,
0,
3,
1,
3,
3
] |
[
"嗯",
"."
] | [
3,
3
] |
[
"噉",
"我",
"覺",
"得",
"唔",
"好",
"睇",
"囖",
"."
] | [
3,
3,
3,
1,
3,
3,
1,
3,
3
] |
[
"你",
"估",
"你",
"剪",
"碎",
"好",
"唔",
"好",
"睇",
"啊",
"?"
] | [
3,
3,
3,
3,
3,
3,
0,
0,
1,
3,
3
] |
[
"即",
"係",
",",
"唔",
"係",
",",
"即",
"係",
"長",
",",
"長",
",",
"但",
"係",
"剪",
"碎",
"啲",
"呢",
"."
] | [
3,
1,
3,
3,
3,
3,
3,
1,
3,
3,
3,
3,
3,
1,
3,
3,
0,
3,
3
] |
[
"但",
"係",
"我",
"唔",
"鍾",
"意",
"佢",
"剪",
"頭",
"髮",
"嘅",
"方",
"式",
"啊",
"."
] | [
3,
1,
3,
3,
3,
1,
3,
3,
3,
1,
3,
3,
1,
3,
3
] |
[
"喀",
"."
] | [
3,
3
] |
[
"削",
"削",
"削",
"\"",
"\"",
"度",
"削",
"."
] | [
3,
3,
3,
3,
3,
3,
3,
3
] |
[
"削",
"呢",
",",
"就",
"削",
"到",
"我",
"啲",
"頭",
"髮",
"好",
"傷",
"."
] | [
3,
3,
3,
3,
3,
3,
3,
3,
3,
1,
3,
3,
3
] |
[
"同",
"埋",
"好",
"容",
"易",
"開",
"叉",
"啊",
"."
] | [
3,
1,
3,
3,
1,
3,
1,
3,
3
] |
[
"如",
"果",
"佢",
"唔",
"削",
"噉",
"剪",
"剪",
"剪",
"呢",
"."
] | [
3,
1,
3,
3,
3,
3,
3,
3,
3,
3,
3
] |
[
"喀",
"喀",
"喀",
"."
] | [
3,
3,
3,
3
] |
[
"剪",
"嘅",
"形",
"式",
"去",
"我",
"就",
"會",
"覺",
"得",
"好",
"啲",
"囖",
"."
] | [
3,
3,
3,
1,
3,
3,
3,
3,
3,
1,
3,
0,
3,
3
] |
[
"唔",
"係",
"啊",
"."
] | [
3,
3,
3,
3
] |
[
"如",
"果",
"你",
"係",
"削",
"\"",
"\"",
",",
"剪",
"一",
"層",
"層",
"."
] | [
3,
1,
3,
3,
3,
3,
3,
3,
3,
3,
0,
0,
3
] |
[
"係",
"嚹",
"."
] | [
3,
3,
3
] |
[
"係",
"噉",
"樣",
"𠺢",
"嗎",
"."
] | [
3,
3,
1,
3,
1,
3
] |
[
"其",
"實",
"其",
"實",
"唔",
"會",
"傷",
"頭",
"髮",
"𡃉",
"喎",
"."
] | [
3,
1,
3,
1,
3,
3,
3,
3,
1,
3,
0,
3
] |
[
"唔",
"係",
",",
"因",
"為",
"我",
"試",
"過",
"啊",
"."
] | [
3,
3,
3,
3,
1,
3,
3,
0,
3,
3
] |
[
"所",
"以",
"呢",
",",
"佢",
"噉",
"削",
"呢",
",",
"佢",
"就",
"覺",
"得",
"佢",
"會",
"即",
"係",
"呢",
"佢",
"削",
"嘅",
"時",
"候",
"同",
"你",
"剪",
"係",
"唔",
"同",
"𠺢",
"嗎",
"."
] | [
3,
1,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
1,
3,
3,
3,
1,
3,
3,
3,
3,
3,
1,
3,
3,
3,
3,
3,
1,
3,
1,
3
] |
[
"嗯",
"."
] | [
3,
3
] |
[
"你",
"一",
"削",
"嘅",
"時",
"候",
"會",
"拉",
"條",
"頭",
"髮",
"呢",
",",
"噉",
"就",
"會",
"變",
"咗",
"呢",
",",
"就",
"會",
"好",
"容",
"易",
"開",
"叉",
"."
] | [
3,
3,
3,
3,
3,
1,
3,
3,
3,
3,
1,
3,
3,
3,
3,
3,
3,
0,
3,
3,
3,
3,
3,
3,
1,
3,
1,
3
] |
[
"因",
"為",
"開",
"親",
"叉",
"都",
"係",
"嗰",
"啲",
"開",
"𡃉",
"喎",
"."
] | [
3,
1,
3,
0,
3,
3,
3,
3,
0,
3,
3,
0,
3
] |
[
"我",
"而",
"家",
"留",
"到",
"咁",
"長",
"都",
"未",
"開",
"叉",
"."
] | [
3,
3,
1,
3,
3,
3,
3,
3,
3,
3,
1,
3
] |
[
"反",
"而",
"嗰",
"陣",
"時",
"短",
"嗰",
"陣",
"時",
"噉",
"樣",
"削",
"法",
"呢",
",",
"就",
"反",
"而",
"啲",
"頭",
"髮",
"開",
"叉",
"囖",
"."
] | [
3,
1,
3,
0,
1,
3,
3,
0,
1,
3,
1,
3,
3,
3,
3,
3,
3,
1,
3,
3,
1,
3,
1,
3,
3
] |
[
"所",
"以",
"我",
"又",
",",
"誒",
",",
"又",
"唔",
"想",
"噉",
"樣",
"剪",
"囖",
"."
] | [
3,
1,
3,
3,
3,
3,
3,
3,
3,
3,
3,
1,
3,
3,
3
] |
[
"嗯",
"."
] | [
3,
3
] |
[
"喀",
"."
] | [
3,
3
] |
[
"嗰",
"陣",
"時",
",",
"我",
"都",
"剪",
"過",
"削",
"嗰",
"啲",
"喎",
"."
] | [
3,
0,
1,
3,
3,
3,
3,
0,
3,
3,
0,
3,
3
] |
[
"喀",
"."
] | [
3,
3
] |
[
"但",
"係",
"我",
"都",
"覺",
"得",
"o",
"k",
"喎",
"."
] | [
3,
1,
3,
3,
3,
1,
3,
1,
3,
3
] |
[
"我",
"覺",
"得",
"."
] | [
3,
3,
1,
3
] |
[
"我",
"估",
"你",
"啲",
"頭",
"髮",
"好",
"啲",
"啩",
"."
] | [
3,
3,
3,
3,
3,
1,
3,
0,
3,
3
] |
[
"哦",
"."
] | [
3,
3
] |
[
"同",
"埋",
"我",
"成",
"日",
"都",
"削",
"𡃉",
"我",
"剪",
",",
"即",
"係",
"\"",
"\"",
"."
] | [
3,
1,
3,
3,
0,
3,
3,
3,
3,
3,
3,
3,
1,
3,
3,
3
] |
[
"短",
"頭",
"髮",
"都",
"會",
"削",
"."
] | [
3,
3,
1,
3,
3,
3,
3
] |
[
"喀",
"喀",
"."
] | [
3,
3,
3
] |
[
"同",
"埋",
"我",
"又",
"唔",
"鍾",
"意",
"即",
"係",
"我",
"一",
"齊",
"呢",
"我",
"又",
"覺",
"得",
",",
"哎",
"吔",
",",
"好",
"似",
"好",
"悶",
"噉",
"成",
"日",
"都",
"齊",
"噉",
"樣",
"."
] | [
3,
1,
3,
3,
3,
3,
1,
3,
1,
3,
3,
1,
3,
3,
3,
3,
1,
3,
3,
1,
3,
3,
1,
3,
3,
3,
3,
0,
3,
3,
3,
1,
3
] |
[
"喀",
",",
"係",
"呀",
"."
] | [
3,
3,
3,
3,
3
] |
[
"其",
"實",
"所",
"以",
"我",
"都",
"覺",
"得",
"好",
"悶",
"𡃉",
"其",
"實",
"."
] | [
3,
1,
3,
1,
3,
3,
3,
1,
3,
3,
3,
3,
1,
3
] |
[
"噉",
"所",
"以",
"我",
"呢",
"又",
"成",
"日",
"都",
"話",
"我",
"想",
"偷",
"薄",
"啲",
",",
"噉",
"佢",
"就",
"會",
"剪",
"到",
"一",
"層",
"層",
"噉",
"樣",
"."
] | [
3,
3,
1,
3,
3,
3,
3,
0,
3,
3,
3,
3,
3,
3,
0,
3,
3,
3,
3,
3,
3,
3,
3,
0,
0,
3,
1,
3
] |
[
"喀",
"喀",
"."
] | [
3,
3,
3
] |
[
"就",
"會",
"覺",
"得",
"即",
"係",
"好",
"似",
"好",
",",
"即",
"係",
"多",
"啲",
"款",
"噉",
"樣",
"囖",
"."
] | [
3,
3,
3,
1,
3,
1,
3,
1,
3,
3,
3,
1,
3,
0,
3,
3,
1,
3,
3
] |
[
"其",
"實",
"我",
"去",
"到",
"剪",
"頭",
"髮",
"都",
"唔",
"知",
"點",
"講",
"𡃉",
"其",
"實",
"."
] | [
3,
1,
3,
3,
3,
3,
3,
1,
3,
3,
3,
3,
3,
3,
3,
1,
3
] |
[
"嗯",
"."
] | [
3,
3
] |
[
"即",
"係",
"我",
"\"",
"\"",
"其",
"實",
",",
"我",
"心",
"目",
"中",
"又",
"冇",
"一",
"個",
",",
"即",
"係",
",",
"特",
"定",
"嘅",
",",
"即",
"係",
"s",
"t",
"y",
"l",
"e",
"噉",
"樣",
"喇",
"."
] | [
3,
1,
3,
3,
3,
3,
1,
3,
3,
3,
1,
0,
3,
3,
3,
0,
3,
3,
1,
3,
3,
1,
3,
3,
3,
1,
3,
1,
1,
1,
1,
3,
1,
3,
3
] |
[
"但",
"係",
"我",
"去",
"到",
"嘅",
"時",
"候",
"我",
"唔",
"知",
"剪",
"短",
",",
"噉",
"佢",
"會",
"問",
"你",
"想",
"點",
"樣",
"剪",
"短",
"喇",
"."
] | [
3,
1,
3,
3,
3,
3,
3,
1,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
1,
3,
3,
3,
3
] |
[
"跟",
"住",
"你",
"又",
"剪",
"齊",
",",
"但",
"係",
"我",
"又",
"其",
"實",
"我",
"又",
"唔",
"想",
"剪",
"齊",
"."
] | [
3,
1,
3,
3,
3,
3,
3,
3,
1,
3,
3,
3,
1,
3,
3,
3,
3,
3,
3,
3
] |
[
"噉",
"但",
"係",
"我",
"又",
"唔",
"知",
"點",
"樣",
"講",
",",
"形",
"容",
"俾",
"佢",
"聽",
"我",
"應",
"該",
"想",
"我",
"個",
"頭",
"想",
"點",
"樣",
"噉",
"樣",
"囖",
"."
] | [
3,
3,
1,
3,
3,
3,
3,
3,
1,
3,
3,
3,
1,
3,
3,
3,
3,
3,
1,
3,
3,
3,
3,
3,
3,
1,
3,
1,
3,
3
] |
[
"你",
"可",
"唔",
"可",
"以",
"睇",
"嗰",
"啲",
"呢",
",",
"咪",
"好",
"多",
"髮",
"即",
"係",
"嗰",
"啲",
"髮",
"型",
"嗰",
"啲",
"書",
"𠺢",
"嗎",
"."
] | [
3,
3,
0,
0,
1,
3,
3,
0,
3,
3,
3,
3,
1,
3,
3,
1,
3,
0,
3,
1,
3,
0,
3,
3,
1,
3
] |
[
"你",
"點",
"解",
"唔",
"睇",
"下",
",",
"噉",
"指",
"俾",
"佢",
"睇",
",",
"你",
"想",
"剪",
"邊",
"個",
"?"
] | [
3,
3,
1,
3,
3,
0,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
3,
0,
3
] |
[
"唔",
"係",
",",
"但",
"係",
"其",
"實",
"不",
"過",
"呢",
",",
"不",
"過",
"我",
"覺",
"得",
"如",
"果",
"你",
",",
"你",
"係",
"想",
"即",
"係",
"你",
"係",
"唔",
"係",
"想",
"保",
"留",
"返",
"長",
"𡃉",
"其",
"實",
"?"
] | [
3,
3,
3,
3,
1,
3,
1,
3,
1,
3,
3,
3,
1,
3,
3,
1,
3,
1,
3,
3,
3,
3,
3,
3,
1,
3,
3,
0,
0,
3,
3,
1,
0,
3,
3,
3,
1,
3
] |
[
"我",
"都",
"唔",
"知",
"啊",
"."
] | [
3,
3,
3,
3,
3,
3
] |
[
"我",
"覺",
"得",
"長",
"我",
"個",
"樣",
"會",
"冇",
"咁",
"細",
"個",
"囖",
"."
] | [
3,
3,
1,
3,
3,
3,
3,
3,
3,
3,
3,
0,
3,
3
] |
[
"會",
"."
] | [
3,
3
] |
[
"喀",
"喀",
"喀",
"."
] | [
3,
3,
3,
3
] |
[
"係",
"囖",
",",
"係",
"囖",
",",
"係",
"囖",
"."
] | [
3,
3,
3,
3,
3,
3,
3,
3,
3
] |
[
"即",
"係",
"但",
"係",
"如",
"果",
"長",
"呢",
"我",
"覺",
"得",
"都",
"係",
",",
"即",
"係",
"冇",
"乜",
"變",
"化",
"啊",
"."
] | [
3,
1,
3,
1,
3,
1,
3,
3,
3,
3,
1,
3,
3,
3,
3,
1,
3,
3,
3,
1,
3,
3
] |
[
"冇",
"乜",
"變",
"化",
"."
] | [
3,
3,
3,
1,
3
] |
[
"係",
"嘞",
",",
"係",
"嘞",
",",
"係",
"嘞",
"."
] | [
3,
3,
3,
3,
3,
3,
3,
3,
3
] |
[
"一",
"係",
"就",
"剪",
"碎",
"噉",
"樣",
"囖",
"."
] | [
3,
1,
3,
3,
3,
3,
1,
3,
3
] |
[
"係",
"啊",
"係",
"啊",
"."
] | [
3,
3,
3,
3,
3
] |
[
"我",
"都",
"覺",
"得",
"係",
"啊",
"."
] | [
3,
3,
3,
1,
3,
3,
3
] |
[
"即",
"係",
"如",
"果",
"你",
"係",
"長",
",",
"一",
"定",
"係",
"剪",
"碎",
"."
] | [
3,
1,
3,
1,
3,
3,
3,
3,
3,
1,
3,
3,
3,
3
] |
[
"噉",
"你",
"又",
"唔",
"會",
"電",
"𡃉",
"喇",
"."
] | [
3,
3,
3,
3,
3,
3,
3,
0,
3
] |
[
"喀",
",",
"我",
"覺",
"得",
"電",
"重",
"衰",
"啊",
"."
] | [
3,
3,
3,
3,
1,
3,
3,
3,
3,
3
] |
[
"啲",
"頭",
"髮",
"已",
"經",
"唔",
"好",
"喇",
"."
] | [
3,
3,
1,
3,
1,
3,
3,
3,
3
] |
[
"係",
"囖",
"."
] | [
3,
3,
3
] |
[
"即",
"係",
"其",
"實",
"一",
"定",
"剪",
"碎",
"."
] | [
3,
1,
3,
1,
3,
1,
3,
3,
3
] |
[
"所",
"以",
"如",
"果",
"剪",
"碎",
"你",
"又",
"唔",
"想",
",",
"即",
"係",
"噉",
"樣",
"削",
"啲",
"頭",
"髮",
"呢",
"."
] | [
3,
1,
3,
1,
3,
3,
3,
3,
3,
3,
3,
3,
1,
3,
1,
3,
3,
3,
1,
3,
3
] |
[
"係",
"喇",
",",
"冇",
"得",
"剪",
"𡃉",
"其",
"實",
"."
] | [
3,
3,
3,
3,
0,
3,
3,
3,
1,
3
] |
[
"係",
"啊",
"."
] | [
3,
3,
3
] |
End of preview. Expand
in Dataset Viewer.
This data is the subset of the Hong Kong Cantonese Corpus (HKCanCor) that has been re-segmented by the multi-tiered word segmentation scheme described in the following paper:
Charles Lam, Chaak-ming Lau, and Jackson L. Lee. 2024. Multi-Tiered Cantonese Word Segmentation. In Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024), pages 11993–12002, Torino, Italy. ELRA and ICCL.
Processing from original format
Chinese word segmentation is commonly framed as a sequence labelling task. To ease the adoption of the original dataset, we have transformed it into two columns:
chars: The original sentence split into characterslabels: One ofD(Dash),I(Intermediate),P(Pipe),S(Space). This labelling scheme expands the common BI (Beginning/Intermediate) scheme into four labels. In particular, the I is the same as the BI scheme but the B tag is further split into D, P, and S.
Here's a sample segmented sentence in the original format and the processed format:
Original: 即係 噉樣 嗰-啲 呀 ?
Processed:
- chars: 即 係 噉 樣 嗰 啲 呀 ?
- labels: S I S I S D S S
Note how the label is taken from the left boundary of the labelled character. For the left most character in a sentence, there is no boundary character to its left. In these cases, we set up a convention to always label the left most character as S (Space).
Check out https://github.com/AlienKevin/dips for more details.
- Downloads last month
- 36
Size of downloaded dataset files:
341 kB
Size of the auto-converted Parquet files:
341 kB
Number of rows:
12,768
Models trained or fine-tuned on AlienKevin/hkcancor-multi