hf-seamless-m4t-large / tokenizer_config.json
ylacombe's picture
ylacombe HF staff
Upload processor (#1)
7516311
raw
history blame
1.57 kB
{
"additional_special_tokens": null,
"bos_token": "<s>",
"clean_up_tokenization_spaces": true,
"cls_token": "<s>",
"eos_token": "</s>",
"language_code": [
"afr",
"amh",
"arb",
"ary",
"arz",
"asm",
"azj",
"bel",
"ben",
"bos",
"bul",
"cat",
"ceb",
"ces",
"ckb",
"cmn",
"cmn_Hant",
"cym",
"dan",
"deu",
"ell",
"eng",
"est",
"eus",
"fin",
"fra",
"fuv",
"gaz",
"gle",
"glg",
"guj",
"heb",
"hin",
"hrv",
"hun",
"hye",
"ibo",
"ind",
"isl",
"ita",
"jav",
"jpn",
"kan",
"kat",
"kaz",
"khk",
"khm",
"kir",
"kor",
"lao",
"lit",
"lug",
"luo",
"lvs",
"mai",
"mal",
"mar",
"mkd",
"mlt",
"mni",
"mya",
"nld",
"nno",
"nob",
"npi",
"nya",
"ory",
"pan",
"pbt",
"pes",
"pol",
"por",
"ron",
"rus",
"sat",
"slk",
"slv",
"sna",
"snd",
"som",
"spa",
"srp",
"swe",
"swh",
"tam",
"tel",
"tgk",
"tgl",
"tha",
"tur",
"ukr",
"urd",
"uzn",
"vie",
"yor",
"yue",
"zlm",
"zul"
],
"model_max_length": 1000000000000000019884624838656,
"pad_token": "<pad>",
"processor_class": "SeamlessM4TProcessor",
"sep_token": "</s>",
"sp_model_kwargs": {},
"src_lang": "__eng__",
"tgt_lang": "__fra__",
"tokenizer_class": "SeamlessM4TTokenizer",
"tokenizer_file": null,
"unk_token": "<unk>"
}