| """ | |
| Declares which languages are available in the Wikipedia dataset per date. | |
| Source: https://meta.wikimedia.org/wiki/Names_of_Wikimedia_languages (2023/09/06) | |
| """ | |
| WIKIPEDIA_LANGUAGES = { | |
| "20230901": [ | |
| # "aa", # closed and no dump | |
| "ab", | |
| "ace", | |
| "ady", | |
| "af", | |
| "ak", # closed | |
| "als", | |
| "alt", | |
| "am", | |
| "ami", | |
| "an", | |
| "ang", | |
| "anp", | |
| "ar", | |
| "arc", | |
| "ary", | |
| "arz", | |
| "as", | |
| "ast", | |
| "atj", | |
| "av", | |
| "avk", | |
| "awa", | |
| "ay", | |
| "az", | |
| "azb", | |
| "ba", | |
| "ban", | |
| "bar", | |
| "bat-smg", | |
| "be-x-old", | |
| "bcl", | |
| "be", | |
| "bg", | |
| "bh", | |
| "bi", | |
| "bjn", | |
| "blk", | |
| "bm", | |
| "bn", | |
| "bo", | |
| "bpy", | |
| "br", | |
| "bs", | |
| "bug", | |
| "bxr", | |
| "ca", | |
| "cbk-zam", | |
| "cdo", | |
| "ce", | |
| "ceb", | |
| "ch", | |
| "cho", # closed | |
| "chr", | |
| "chy", | |
| "ckb", | |
| "co", | |
| "cr", | |
| "crh", | |
| "cs", | |
| "csb", | |
| "cu", | |
| "cv", | |
| "cy", | |
| "da", | |
| "dag", | |
| "de", | |
| "din", | |
| "diq", | |
| "dsb", | |
| "dty", | |
| "dv", | |
| "dz", | |
| "ee", | |
| "el", | |
| "eml", | |
| "en", | |
| "eo", | |
| "es", | |
| "et", | |
| "eu", | |
| "ext", | |
| "fa", | |
| "fat", | |
| "ff", | |
| "fi", | |
| "fiu-vro", | |
| "fj", | |
| "fo", | |
| "fr", | |
| "frp", | |
| "frr", | |
| "fur", | |
| "fy", | |
| "ga", | |
| "gag", | |
| "gan", | |
| "gcr", | |
| "gd", | |
| "gl", | |
| "glk", | |
| "gn", | |
| "gom", | |
| "gor", | |
| "got", | |
| "gu", | |
| "guc", | |
| "gur", | |
| "guw", | |
| "gv", | |
| "ha", | |
| "hak", | |
| "haw", | |
| "he", | |
| "hi", | |
| "hif", | |
| "ho", # closed | |
| "hr", | |
| "hsb", | |
| "ht", | |
| "hu", | |
| "hy", | |
| "hyw", | |
| # "hz", # closed and no dump | |
| "ia", | |
| "id", | |
| "ie", | |
| "ig", | |
| "ii", # closed | |
| "ik", | |
| "ilo", | |
| "inh", | |
| "io", | |
| "is", | |
| "it", | |
| "iu", | |
| "ja", | |
| "jam", | |
| "jbo", | |
| "jv", | |
| "ka", | |
| "kaa", | |
| "kab", | |
| "kbd", | |
| "kbp", | |
| "kcg", | |
| "kg", | |
| "ki", | |
| "kj", # closed | |
| "kk", | |
| "kl", | |
| "km", | |
| "kn", | |
| "ko", | |
| "koi", | |
| # "kr", # closed and no dump | |
| "krc", | |
| "ks", | |
| "ksh", | |
| "ku", | |
| "kv", | |
| "kw", | |
| "ky", | |
| "la", | |
| "lad", | |
| "lb", | |
| "lbe", | |
| "lez", | |
| "lfn", | |
| "lg", | |
| "li", | |
| "lij", | |
| "lld", | |
| "lmo", | |
| "ln", | |
| "lo", | |
| "lrc", # closed | |
| "lt", | |
| "ltg", | |
| "lv", | |
| "mad", | |
| "mai", | |
| "map-bms", | |
| "mdf", | |
| "mg", | |
| "mh", # closed | |
| "mhr", | |
| "mi", | |
| "min", | |
| "mk", | |
| "ml", | |
| "mn", | |
| "mni", | |
| "mnw", | |
| "mr", | |
| "mrj", | |
| "ms", | |
| "mt", | |
| "mus", # closed | |
| "mwl", | |
| "my", | |
| "myv", | |
| "mzn", | |
| # "na", # closed and no dump | |
| "nah", | |
| "nap", | |
| "nds", | |
| "nds-nl", | |
| "ne", | |
| "new", | |
| "ng", # closed | |
| "nia", | |
| "nl", | |
| "nn", | |
| "no", | |
| "nov", | |
| "nqo", | |
| "nrm", | |
| "nso", | |
| "nv", | |
| "ny", | |
| "oc", | |
| "olo", | |
| "om", | |
| "or", | |
| "os", | |
| "pa", | |
| "pag", | |
| "pam", | |
| "pap", | |
| "pcd", | |
| "pcm", | |
| "pdc", | |
| "pfl", | |
| "pi", | |
| "pih", | |
| "pl", | |
| "pms", | |
| "pnb", | |
| "pnt", | |
| "ps", | |
| "pt", | |
| "pwn", | |
| "qu", | |
| "rm", | |
| "rmy", | |
| "rn", | |
| "ro", | |
| "roa-rup", | |
| "roa-tara", | |
| "ru", | |
| "rue", | |
| "rw", | |
| "sa", | |
| "sah", | |
| "sat", | |
| "sc", | |
| "scn", | |
| "sco", | |
| "sd", | |
| "se", | |
| "sg", | |
| "sh", | |
| "shi", | |
| "shn", | |
| "si", | |
| "simple", | |
| "sk", | |
| "skr", | |
| "sl", | |
| "sm", | |
| "smn", | |
| "sn", | |
| "so", | |
| "sq", | |
| "sr", | |
| "srn", | |
| "ss", | |
| "st", | |
| "stq", | |
| "su", | |
| "sv", | |
| "sw", | |
| "szl", | |
| "szy", | |
| "ta", | |
| "tay", | |
| "tcy", | |
| "te", | |
| "tet", | |
| "tg", | |
| "th", | |
| "ti", | |
| "tk", | |
| "tl", | |
| "tn", | |
| "to", | |
| "tpi", | |
| "tr", | |
| "trv", | |
| "ts", | |
| "tt", | |
| "tum", | |
| "tw", | |
| "ty", | |
| "tyv", | |
| "udm", | |
| "ug", | |
| "uk", | |
| "ur", | |
| "uz", | |
| "ve", | |
| "vec", | |
| "vep", | |
| "vi", | |
| "vls", | |
| "vo", | |
| "wa", | |
| "war", | |
| "wo", | |
| "wuu", | |
| "xal", | |
| "xh", | |
| "xmf", | |
| "yi", | |
| "yo", | |
| "za", | |
| "zea", | |
| "zh", | |
| "zh-classical", | |
| "zh-min-nan", | |
| "zh-yue", | |
| "zu", | |
| ], | |
| "20230601": [ | |
| # "aa", # closed and no dump | |
| "ab", | |
| "ace", | |
| "ady", | |
| "af", | |
| "ak", # 1 placeholder article, but not closed | |
| "als", | |
| "alt", | |
| "am", | |
| "ami", | |
| "an", | |
| "ang", | |
| "anp", | |
| "ar", | |
| "arc", | |
| "ary", | |
| "arz", | |
| "as", | |
| "ast", | |
| "atj", | |
| "av", | |
| "avk", | |
| "awa", | |
| "ay", | |
| "az", | |
| "azb", | |
| "ba", | |
| "ban", | |
| "bar", | |
| "bat-smg", | |
| "be-x-old", | |
| "bcl", | |
| "be", | |
| "bg", | |
| "bh", | |
| "bi", | |
| "bjn", | |
| "blk", | |
| "bm", | |
| "bn", | |
| "bo", | |
| "bpy", | |
| "br", | |
| "bs", | |
| "bug", | |
| "bxr", | |
| "ca", | |
| "cbk-zam", | |
| "cdo", | |
| "ce", | |
| "ceb", | |
| "ch", | |
| "cho", # closed | |
| "chr", | |
| "chy", | |
| "ckb", | |
| "co", | |
| "cr", | |
| "crh", | |
| "cs", | |
| "csb", | |
| "cu", | |
| "cv", | |
| "cy", | |
| "da", | |
| "dag", | |
| "de", | |
| "din", | |
| "diq", | |
| "dsb", | |
| "dty", | |
| "dv", | |
| "dz", | |
| "ee", | |
| "el", | |
| "eml", | |
| "en", | |
| "eo", | |
| "es", | |
| "et", | |
| "eu", | |
| "ext", | |
| "fa", | |
| "fat", | |
| "ff", | |
| "fi", | |
| "fiu-vro", | |
| "fj", | |
| "fo", | |
| "fr", | |
| "frp", | |
| "frr", | |
| "fur", | |
| "fy", | |
| "ga", | |
| "gag", | |
| "gan", | |
| "gcr", | |
| "gd", | |
| "gl", | |
| "glk", | |
| "gn", | |
| "gom", | |
| "gor", | |
| "got", | |
| "gu", | |
| "guc", | |
| "gur", | |
| "guw", | |
| "gv", | |
| "ha", | |
| "hak", | |
| "haw", | |
| "he", | |
| "hi", | |
| "hif", | |
| "ho", # closed | |
| "hr", | |
| "hsb", | |
| "ht", | |
| "hu", | |
| "hy", | |
| "hyw", | |
| # "hz", # closed and no dump | |
| "ia", | |
| "id", | |
| "ie", | |
| "ig", | |
| "ii", # closed | |
| "ik", | |
| "ilo", | |
| "inh", | |
| "io", | |
| "is", | |
| "it", | |
| "iu", | |
| "ja", | |
| "jam", | |
| "jbo", | |
| "jv", | |
| "ka", | |
| "kaa", | |
| "kab", | |
| "kbd", | |
| "kbp", | |
| "kcg", | |
| "kg", | |
| "ki", | |
| "kj", # closed | |
| "kk", | |
| "kl", | |
| "km", | |
| "kn", | |
| "ko", | |
| "koi", | |
| # "kr", # closed and no dump | |
| "krc", | |
| "ks", | |
| "ksh", | |
| "ku", | |
| "kv", | |
| "kw", | |
| "ky", | |
| "la", | |
| "lad", | |
| "lb", | |
| "lbe", | |
| "lez", | |
| "lfn", | |
| "lg", | |
| "li", | |
| "lij", | |
| "lld", | |
| "lmo", | |
| "ln", | |
| "lo", | |
| "lrc", # closed | |
| "lt", | |
| "ltg", | |
| "lv", | |
| "mad", | |
| "mai", | |
| "map-bms", | |
| "mdf", | |
| "mg", | |
| "mh", # closed | |
| "mhr", | |
| "mi", | |
| "min", | |
| "mk", | |
| "ml", | |
| "mn", | |
| "mni", | |
| "mnw", | |
| "mr", | |
| "mrj", | |
| "ms", | |
| "mt", | |
| "mus", # closed | |
| "mwl", | |
| "my", | |
| "myv", | |
| "mzn", | |
| # "na", # closed and no dump | |
| "nah", | |
| "nap", | |
| "nds", | |
| "nds-nl", | |
| "ne", | |
| "new", | |
| "ng", # closed | |
| "nia", | |
| "nl", | |
| "nn", | |
| "no", | |
| "nov", | |
| "nqo", | |
| "nrm", | |
| "nso", | |
| "nv", | |
| "ny", | |
| "oc", | |
| "olo", | |
| "om", | |
| "or", | |
| "os", | |
| "pa", | |
| "pag", | |
| "pam", | |
| "pap", | |
| "pcd", | |
| "pcm", | |
| "pdc", | |
| "pfl", | |
| "pi", | |
| "pih", | |
| "pl", | |
| "pms", | |
| "pnb", | |
| "pnt", | |
| "ps", | |
| "pt", | |
| "pwn", | |
| "qu", | |
| "rm", | |
| "rmy", | |
| "rn", | |
| "ro", | |
| "roa-rup", | |
| "roa-tara", | |
| "ru", | |
| "rue", | |
| "rw", | |
| "sa", | |
| "sah", | |
| "sat", | |
| "sc", | |
| "scn", | |
| "sco", | |
| "sd", | |
| "se", | |
| "sg", | |
| "sh", | |
| "shi", | |
| "shn", | |
| "si", | |
| "simple", | |
| "sk", | |
| "skr", | |
| "sl", | |
| "sm", | |
| "smn", | |
| "sn", | |
| "so", | |
| "sq", | |
| "sr", | |
| "srn", | |
| "ss", | |
| "st", | |
| "stq", | |
| "su", | |
| "sv", | |
| "sw", | |
| "szl", | |
| "szy", | |
| "ta", | |
| "tay", | |
| "tcy", | |
| "te", | |
| "tet", | |
| "tg", | |
| "th", | |
| "ti", | |
| "tk", | |
| "tl", | |
| "tn", | |
| "to", | |
| "tpi", | |
| "tr", | |
| "trv", | |
| "ts", | |
| "tt", | |
| "tum", | |
| "tw", | |
| "ty", | |
| "tyv", | |
| "udm", | |
| "ug", | |
| "uk", | |
| "ur", | |
| "uz", | |
| "ve", | |
| "vec", | |
| "vep", | |
| "vi", | |
| "vls", | |
| "vo", | |
| "wa", | |
| "war", | |
| "wo", | |
| "wuu", | |
| "xal", | |
| "xh", | |
| "xmf", | |
| "yi", | |
| "yo", | |
| "za", | |
| "zea", | |
| "zh", | |
| "zh-classical", | |
| "zh-min-nan", | |
| "zh-yue", | |
| "zu", | |
| ], | |
| } | |