|
import os |
|
import re |
|
from ctypes import Array |
|
from dataclasses import dataclass |
|
from typing import List |
|
import xml.etree.ElementTree as ET |
|
import ffmpeg |
|
|
|
import datasets |
|
import numpy as np |
|
|
|
_CITATION = """\ |
|
@misc{11403/eslo/v1, |
|
title = {ESLO}, |
|
author = {LLL}, |
|
url = {https://hdl.handle.net/11403/eslo/v1}, |
|
note = {{ORTOLANG} ({Open} {Resources} {and} {TOols} {for} {LANGuage}) \textendash www.ortolang.fr}, |
|
copyright = {Licence Creative Commons Attribution - Pas d'Utilisation Commerciale - Partage dans les Mêmes Conditions 4.0 International}, |
|
year = {2023} |
|
} |
|
""" |
|
|
|
_DESCRIPTION = """\ |
|
ESLO dataset, each utterance are taken out individually |
|
""" |
|
SAMPLING_RATE = 16000 |
|
AUDIO_FOLDER = "audio" |
|
TEST_TRANSCRIPTS = ['ESLO2_ENT_1052_C.trs', 'ESLO1_ENT_026_C.trs', 'ESLO2_ECOLE_1280_C.trs', 'ESLO1_CONSCMPP_727_C.trs', |
|
'ESLO1_ENT_002_C.trs', 'ESLO1_TEL_338_C.trs', 'ESLO1_ENTCONT_213_C.trs', 'ESLO1_INTPERS_449_C.trs', |
|
'ESLO1_CONSCMPP_740_C.trs', 'ESLO2_ENT_1008_C.trs', 'ESLO2_REPAS_1268_C.trs', |
|
'ESLO2_ITI_1121_C.trs', 'ESLO2_LIVRENF_1306_C.trs', 'ESLO1_INTPERS_452_C.trs', |
|
'ESLO1_CONSCMPP_742_C.trs', 'ESLO1_ENT_147_C.trs', 'ESLO2_ENT_1030_C.trs', 'ESLO2_CINE_1212_C.trs', |
|
'ESLO2_ENT_1014_C.trs', 'ESLO1_INTPERS_409_C.trs', 'ESLO2_CINE_1194_C.trs', 'ESLO2_ENT_1272_C.trs', |
|
'ESLO2_ITI_1100_C.trs', 'ESLO1_CONSCMPP_741_C.trs', 'ESLO1_ENT_144_C.trs', 'ESLO2_ENT_1034_C.trs', |
|
'ESLO2_ITI_1122_C.trs', 'ESLO2_LIVRENF_1309_C.trs', 'ESLO1_INTPERS_425_C.trs', |
|
'ESLO2_DIA_1226_C.trs', 'ESLO2_ITI_1092_C.trs', 'ESLO1_INTPERS_401_C.trs', 'ESLO1_ENT_130_C.trs', |
|
'ESLO1_TEL_317_C.trs', 'ESLO1_ENTCONT_205_C.trs', 'ESLO1_TEL_370_C.trs', 'ESLO2_CINE_1207_C.trs', |
|
'ESLO2_ITI_1109_C.trs', 'ESLO2_ITI_1088_C.trs', 'ESLO1_VISIT_601_C.trs', 'ESLO1_ENT_115_C.trs', |
|
'ESLO2_LIVRENF_1308_B.trs', 'ESLO1_ENT_011_C.trs', 'ESLO2_ITI_1073_B.trs', 'ESLO2_ITI_1132_C.trs', |
|
'ESLO1_ENT_050_C.trs', 'ESLO2_ITI_1175_C.trs', 'ESLO2_ENT_1063_C.trs', 'ESLO2_ENT_1026_C.trs', |
|
'ESLO1_ENT_092_C.trs'] |
|
TRAIN_TRANSCRIPTS = ['ESLO1_INTPERS_437_C.trs', 'ESLO2_ENT_1017_C.trs', 'ESLO1_ENTCONT_208_C.trs', |
|
'ESLO1_ENT_063_C.trs', 'ESLO2_ECOLE_1299_C.trs', 'ESLO2_ITI_1101_C.trs', 'ESLO2_ITI_1144_C.trs', |
|
'ESLO2_LIVRENF_1326_C.trs', 'ESLO1_CONSCMPP_703_C.trs', 'ESLO2_CINE_1211_C.trs', |
|
'ESLO2_CINE_1195_C.trs', 'ESLO1_ENTCONT_235_C.trs', 'ESLO1_ENT_106_C.trs', 'ESLO1_ENT_143_C.trs', |
|
'ESLO2_ECOLE_1301_C.trs', 'ESLO1_TEL_366_C.trs', 'ESLO2_ITI_1099_C.trs', 'ESLO2_ITI_1118_C.trs', |
|
'ESLO1_ENTCONT_211_C.trs', 'ESLO2_CINE_1208_C.trs', 'ESLO1_ENT_087_C.trs', |
|
'ESLO1_ENTCLO_264_C.trs', 'ESLO1_TEL_307_C.trs', 'ESLO1_ENT_122_C.trs', 'ESLO1_ENT_167_C.trs', |
|
'ESLO1_REU_554_C.trs', 'ESLO2_ENT_1033_C.trs', 'ESLO2_ENT_1076_C.trs', 'ESLO1_ENTCLO_259_C.trs', |
|
'ESLO2_LIVRENF_1302_C.trs', 'ESLO1_ENT_047_C.trs', 'ESLO2_ITI_1125_C.trs', 'ESLO2_ITI_1160_C.trs', |
|
'ESLO1_CONF_505_C.trs', 'ESLO1_REU_513_C.trs', 'ESLO2_ENT_1031_C.trs', 'ESLO1_ENT_045_C.trs', |
|
'ESLO2_ITI_1127_C.trs', 'ESLO2_ITI_1162_C.trs', 'ESLO2_REPAS_1253_C.trs', |
|
'ESLO1_CONSCMPP_725_C.trs', 'ESLO1_ENT_085_C.trs', 'ESLO1_CONSCMPP_718_C.trs', |
|
'ESLO2_ECOLE_1282_C.trs', 'ESLO1_ENT_078_C.trs', 'ESLO2_ENT_1049_C.trs', 'ESLO1_ENT_120_C.trs', |
|
'ESLO1_ENT_165_C.trs', 'ESLO1_ENT_019_C.trs', 'ESLO1_ENTCONT_237_C.trs', 'ESLO2_CINE_1197_C.trs', |
|
'ESLO2_LIVRENF_1319_C.trs', 'ESLO1_INTPERS_408_C.trs', 'ESLO2_ENT_1329_C.trs', |
|
'ESLO1_TEL_364_C.trs', 'ESLO1_ENT_104_C.trs', 'ESLO2_ENT_1028_C.trs', 'ESLO1_ENT_141_C.trs', |
|
'ESLO2_ENT_1015_C.trs', 'ESLO1_ENT_139_C.trs', 'ESLO2_ENT_1050_C.trs', 'ESLO1_INTPERS_435_C.trs', |
|
'ESLO1_CONSCMPP_701_C.trs', 'ESLO2_CINE_1213_C.trs', 'ESLO2_LIVRENF_1324_C.trs', |
|
'ESLO1_ENT_061_C.trs', 'ESLO1_ENT_024_C.trs', 'ESLO2_ITI_1103_C.trs', 'ESLO2_ITI_1146_C.trs', |
|
'ESLO2_ENT_1069_C.trs', 'ESLO1_ENT_100_C.trs', 'ESLO1_ENT_145_C.trs', 'ESLO1_REPAS_278_C.trs', |
|
'ESLO1_TEL_360_C.trs', 'ESLO2_CINE_1193_C.trs', 'ESLO1_ENT_058_C.trs', 'ESLO1_ENT_065_C.trs', |
|
'ESLO1_ENT_020_C.trs', 'ESLO2_ITI_1107_C.trs', 'ESLO2_ITI_1142_C.trs', 'ESLO1_CONSCMPP_705_C.trs', |
|
'ESLO2_CINE_1217_C.trs', 'ESLO1_ENT_098_C.trs', 'ESLO2_LIVRENF_1320_C.trs', |
|
'ESLO1_INTPERS_431_C.trs', 'ESLO1_TEL_318_C.trs', 'ESLO2_ENT_1011_C.trs', 'ESLO2_ENT_1054_C.trs', |
|
'ESLO2_LIVRENF_1304_C.trs', 'ESLO1_CONSCMPP_721_C.trs', 'ESLO2_REPAS_1257_C.trs', |
|
'ESLO1_ENT_041_C.trs', 'ESLO1_ENT_004_C.trs', 'ESLO2_ITI_1123_C.trs', 'ESLO2_CINE_1177_C.trs', |
|
'ESLO2_ITI_1166_C.trs', 'ESLO1_REU_517_C.trs', 'ESLO2_ENT_1035_C.trs', 'ESLO1_ENT_119_C.trs', |
|
'ESLO2_ENT_1070_C.trs', 'ESLO2_ITI_1086_C.trs', 'ESLO1_INTPERS_450_C.trs', |
|
'ESLO1_INTPERS_415_C.trs', 'ESLO1_TEL_301_C.trs', 'ESLO1_MAG_627_C.trs', 'ESLO1_MAG_662_C.trs', |
|
'ESLO2_CONF_1243_C.trs', 'ESLO1_ENT_124_C.trs', 'ESLO1_ENT_161_C.trs', 'ESLO1_ENTCONT_217_C.trs', |
|
'ESLO2_ECOLE_1286_C.trs', 'ESLO2_RUMEUR_1339_C.trs', 'ESLO1_ENT_081_C.trs', |
|
'ESLO2_CONF_1241_C.trs', 'ESLO1_ENT_126_C.trs', 'ESLO1_ENT_163_C.trs', 'ESLO2_REPAS_1330_C.trs', |
|
'ESLO1_TEL_346_C.trs', 'ESLO1_MAG_625_C.trs', 'ESLO1_ENT_083_C.trs', 'ESLO2_ECOLE_1279_C.trs', |
|
'ESLO2_ECOLE_1284_C.trs', 'ESLO2_ITI_1159_C.trs', 'ESLO1_ENTCONT_215_C.trs', 'ESLO1_ENT_043_C.trs', |
|
'ESLO1_ENT_006_C.trs', 'ESLO2_ITI_1164_C.trs', 'ESLO1_ENTCONT_228_C.trs', |
|
'ESLO1_CONSCMPP_723_C.trs', 'ESLO2_REPAS_1255_C.trs', 'ESLO2_CINE_1188_C.trs', |
|
'ESLO1_CONF_503_C.trs', 'ESLO1_INTPERS_417_C.trs', 'ESLO2_ENT_1037_C.trs', |
|
'ESLO2_LIVRENF_1322_C.trs', 'ESLO1_CONSCMPP_707_C.trs', 'ESLO2_REPAS_1271_C.trs', |
|
'ESLO2_CINE_1215_C.trs', 'ESLO1_ENT_067_C.trs', 'ESLO1_ENT_022_C.trs', 'ESLO2_ITI_1105_C.trs', |
|
'ESLO2_ITI_1140_C.trs', 'ESLO2_ENT_1013_C.trs', 'ESLO2_ENT_1056_C.trs', 'ESLO1_ENTOUV_260_C.trs', |
|
'ESLO1_TEL_362_C.trs', 'ESLO2_DISC_1237_C.trs', 'ESLO1_ENT_102_C.trs', 'ESLO2_ITI_1138_C.trs', |
|
'ESLO2_CINE_1191_C.trs', 'ESLO1_ENT_164_C.trs', 'ESLO2_ENT_1048_C.trs', 'ESLO1_ENT_121_C.trs', |
|
'ESLO1_TEL_341_C.trs', 'ESLO1_ENT_084_C.trs', 'ESLO1_ENTCONT_212_C.trs', 'ESLO1_ENT_079_C.trs', |
|
'ESLO2_ECOLE_1283_C.trs', 'ESLO1_ENT_001_C.trs', 'ESLO1_ENT_044_C.trs', 'ESLO2_ITI_1163_C.trs', |
|
'ESLO2_ITI_1126_C.trs', 'ESLO1_CONSCMPP_724_C.trs', 'ESLO1_CONF_504_C.trs', 'ESLO2_ENT_1075_C.trs', |
|
'ESLO1_ENT_159_C.trs', 'ESLO2_LIVRENF_1325_C.trs', 'ESLO1_ENT_025_C.trs', 'ESLO1_ENT_060_C.trs', |
|
'ESLO2_ITI_1147_C.trs', 'ESLO2_ITI_1102_C.trs', 'ESLO1_ENT_138_C.trs', 'ESLO2_ENT_1051_C.trs', |
|
'ESLO1_TEL_365_C.trs', 'ESLO2_ENT_1029_C.trs', 'ESLO1_ENT_140_C.trs', 'ESLO1_ENT_105_C.trs', |
|
'ESLO1_ENT_018_C.trs', 'ESLO1_ENTCONT_236_C.trs', 'ESLO2_CINE_1196_C.trs', |
|
'ESLO2_LIVRENF_1318_C.trs', 'ESLO1_ENT_142_C.trs', 'ESLO1_ENT_107_C.trs', 'ESLO2_ECOLE_1300_C.trs', |
|
'ESLO1_TEL_367_C.trs', 'ESLO1_MAG_290_C.trs', 'ESLO2_ITI_1098_C.trs', 'ESLO1_ENTOUV_258_C.trs', |
|
'ESLO1_ENT_027_C.trs', 'ESLO2_ECOLE_1298_C.trs', 'ESLO1_ENT_062_C.trs', 'ESLO2_ITI_1145_C.trs', |
|
'ESLO2_LIVRENF_1327_C.trs', 'ESLO1_CONSCMPP_702_C.trs', 'ESLO2_CINE_1210_C.trs', |
|
'ESLO1_INTPERS_436_C.trs', 'ESLO2_ENT_1053_C.trs', 'ESLO2_ENT_1016_C.trs', |
|
'ESLO1_CONSCMPP_726_C.trs', 'ESLO2_LIVRENF_1303_C.trs', 'ESLO1_ENT_003_C.trs', |
|
'ESLO1_ENT_046_C.trs', 'ESLO2_ITI_1161_C.trs', 'ESLO2_ITI_1124_C.trs', 'ESLO2_ENT_1077_C.trs', |
|
'ESLO2_ENT_1032_C.trs', 'ESLO1_TEL_343_C.trs', 'ESLO1_ENT_166_C.trs', 'ESLO1_ENT_123_C.trs', |
|
'ESLO2_CONF_1244_C.trs', 'ESLO2_ECOLE_1281_C.trs', 'ESLO2_ITI_1119_C.trs', 'ESLO2_CINE_1209_C.trs', |
|
'ESLO1_ENT_086_C.trs', 'ESLO1_INTPERS_416_C.trs', 'ESLO1_INTPERS_453_C.trs', |
|
'ESLO1_CONF_502_C.trs', 'ESLO1_REU_551_C.trs', 'ESLO2_ENT_1036_C.trs', 'ESLO1_ENT_007_C.trs', |
|
'ESLO1_ENT_042_C.trs', 'ESLO2_ITI_1165_C.trs', 'ESLO2_ITI_1120_C.trs', 'ESLO1_ENTCONT_229_C.trs', |
|
'ESLO2_REPAS_1254_C.trs', 'ESLO1_CONSCMPP_722_C.trs', 'ESLO2_CINE_1189_C.trs', |
|
'ESLO2_LIVRENF_1307_C.trs', 'ESLO2_REPAS_1269_C.trs', 'ESLO2_ECOLE_1278_C.trs', |
|
'ESLO1_ENT_082_C.trs', 'ESLO2_ECOLE_1285_C.trs', 'ESLO2_ITI_1158_C.trs', 'ESLO1_ENTCONT_214_C.trs', |
|
'ESLO1_ENT_127_C.trs', 'ESLO2_CONF_1240_C.trs', 'ESLO1_TEL_302_C.trs', 'ESLO1_TEL_347_C.trs', |
|
'ESLO1_ENTCONT_230_C.trs', 'ESLO2_ITI_1139_C.trs', 'ESLO2_CINE_1190_C.trs', 'ESLO1_MAG_645_C.trs', |
|
'ESLO1_ENT_146_C.trs', 'ESLO1_ENT_103_C.trs', 'ESLO2_ENT_1057_C.trs', 'ESLO2_ENT_1012_C.trs', |
|
'ESLO2_LIVRENF_1323_C.trs', 'ESLO1_CONSCMPP_743_C.trs', 'ESLO2_REPAS_1270_C.trs', |
|
'ESLO2_CINE_1214_C.trs', 'ESLO1_ENT_023_C.trs', 'ESLO1_ENT_066_C.trs', 'ESLO2_ITI_1141_C.trs', |
|
'ESLO2_ITI_1104_C.trs', 'ESLO1_INTPERS_430_C.trs', 'ESLO1_ENTOUV_263_C.trs', 'ESLO1_TEL_319_C.trs', |
|
'ESLO2_ENT_1055_C.trs', 'ESLO2_ENT_1010_C.trs', 'ESLO1_ENT_021_C.trs', 'ESLO1_ENT_064_C.trs', |
|
'ESLO2_ITI_1143_C.trs', 'ESLO2_ITI_1106_C.trs', 'ESLO1_CONSCMPP_704_C.trs', |
|
'ESLO2_CINE_1216_C.trs', 'ESLO1_ENT_099_C.trs', 'ESLO2_LIVRENF_1321_C.trs', |
|
'ESLO2_CINE_1192_C.trs', 'ESLO1_ENT_059_C.trs', 'ESLO2_INTPERS_1245_C.trs', 'ESLO2_ENT_1068_C.trs', |
|
'ESLO1_ENT_101_C.trs', 'ESLO1_REPAS_279_C.trs', 'ESLO1_INTPERS_448_C.trs', 'ESLO1_TEL_361_C.trs', |
|
'ESLO1_ENTCONT_216_C.trs', 'ESLO2_ECOLE_1287_C.trs', 'ESLO2_RUMEUR_1338_C.trs', |
|
'ESLO1_ENT_080_C.trs', 'ESLO1_TEL_345_C.trs', 'ESLO1_MAG_626_C.trs', 'ESLO1_INTPERS_429_C.trs', |
|
'ESLO2_ENT_1009_C.trs', 'ESLO1_ENT_160_C.trs', 'ESLO1_ENT_125_C.trs', 'ESLO2_CONF_1242_C.trs', |
|
'ESLO1_ENT_118_C.trs', 'ESLO2_ENT_1071_C.trs', 'ESLO2_ITI_1087_C.trs', 'ESLO1_INTPERS_414_C.trs', |
|
'ESLO1_INTPERS_451_C.trs', 'ESLO2_LIVRENF_1305_C.trs', 'ESLO2_REPAS_1256_C.trs', |
|
'ESLO1_CONSCMPP_720_C.trs', 'ESLO1_ENT_005_C.trs', 'ESLO2_CINE_1176_C.trs', 'ESLO2_ITI_1167_C.trs', |
|
'ESLO1_ENT_114_C.trs', 'ESLO2_ENT_1038_C.trs', 'ESLO1_ENT_151_C.trs', 'ESLO2_24H_1249_C.trs', |
|
'ESLO1_INTPERS_418_C.trs', 'ESLO2_LIVRENF_1251_C.trs', 'ESLO2_ENT_1080_C.trs', |
|
'ESLO2_CINE_1187_C.trs', 'ESLO1_ENT_009_C.trs', 'ESLO2_ITI_1113_C.trs', 'ESLO2_ITI_1156_C.trs', |
|
'ESLO2_RUMEUR_1334_C.trs', 'ESLO1_ENT_071_C.trs', 'ESLO2_CINE_1203_C.trs', |
|
'ESLO2_REPAS_1267_C.trs', 'ESLO1_CONSCMPP_711_C.trs', 'ESLO2_ECOLE_1276_C.trs', |
|
'ESLO1_TEL_349_C.trs', 'ESLO2_ENT_1005_C.trs', 'ESLO1_ENT_129_C.trs', 'ESLO2_ENT_1040_C.trs', |
|
'ESLO2_ECOLE_1252_C.trs', 'ESLO2_LIVRENF_1310_C.trs', 'ESLO1_CONSCMPP_735_C.trs', |
|
'ESLO2_ITI_1137_C.trs', 'ESLO2_ITI_1172_C.trs', 'ESLO1_ENT_055_C.trs', 'ESLO1_ENT_010_C.trs', |
|
'ESLO2_ENTJEUN_1234_C.trs', 'ESLO1_REPAS_275_C.trs', 'ESLO1_ENT_148_C.trs', 'ESLO2_ENT_1021_C.trs', |
|
'ESLO2_ENT_1064_C.trs', 'ESLO2_DISC_1238_C.trs', 'ESLO1_MAR_617_C.trs', 'ESLO1_REU_296_C.trs', |
|
'ESLO1_ENTOUV_252_C.trs', 'ESLO1_TEL_350_C.trs', 'ESLO2_ENT_1059_C.trs', 'ESLO1_ENTCONT_203_C.trs', |
|
'ESLO2_ECOLE_1292_C.trs', 'ESLO1_ENT_068_C.trs', 'ESLO1_ENT_095_C.trs', 'ESLO1_CONSCMPP_708_C.trs', |
|
'ESLO1_ENT_132_C.trs', 'ESLO1_MAG_631_C.trs', 'ESLO1_TEL_352_C.trs', 'ESLO2_CINE_1218_C.trs', |
|
'ESLO1_ENT_097_C.trs', 'ESLO2_ITI_1108_C.trs', 'ESLO2_ECOLE_1290_C.trs', 'ESLO1_ENTCONT_201_C.trs', |
|
'ESLO2_ITI_1135_C.trs', 'ESLO2_ITI_1170_C.trs', 'ESLO1_ENT_057_C.trs', 'ESLO1_ENT_012_C.trs', |
|
'ESLO1_CONSCMPP_737_C.trs', 'ESLO2_CONF_1074_C.trs', 'ESLO2_LIVRENF_1312_C.trs', |
|
'ESLO1_INTPERS_446_C.trs', 'ESLO1_REU_294_C.trs', 'ESLO2_RUMEUR_1336_B.trs', |
|
'ESLO1_INTPERS_403_C.trs', 'ESLO2_BOUL_1332_A.trs', 'ESLO2_ITI_1090_C.trs', 'ESLO2_ENT_1023_C.trs', |
|
'ESLO2_ENT_1066_C.trs', 'ESLO1_VISIT_602_B.trs', 'ESLO2_ENTJEUN_1236_C.trs', |
|
'ESLO2_ECOLE_1274_C.trs', 'ESLO2_CINE_1201_C.trs', 'ESLO2_REPAS_1265_C.trs', |
|
'ESLO1_CONSCMPP_713_C.trs', 'ESLO1_ENTCONT_218_C.trs', 'ESLO2_ITI_1111_C.trs', |
|
'ESLO2_ITI_1154_C.trs', 'ESLO1_ENT_073_C.trs', 'ESLO2_ECOLE_1289_C.trs', 'ESLO2_ENT_1007_C.trs', |
|
'ESLO2_ENT_1042_C.trs', 'ESLO2_DIA_1224_C.trs', 'ESLO1_INTPERS_462_C.trs', |
|
'ESLO1_INTPERS_427_C.trs', 'ESLO1_MAG_650_C.trs', 'ESLO2_ITI_1089_C.trs', 'ESLO2_ENT_1082_C.trs', |
|
'ESLO1_ENT_116_C.trs', 'ESLO1_ENT_153_C.trs', 'ESLO1_ENTCONT_225_C.trs', 'ESLO2_CINE_1178_C.trs', |
|
'ESLO2_ITI_1169_C.trs', 'ESLO2_CINE_1185_C.trs', 'ESLO2_REPAS_1258_C.trs', |
|
'ESLO1_INTPERS_423_C.trs', 'ESLO2_ENT_1003_C.trs', 'ESLO2_ENT_1046_C.trs', 'ESLO2_ITI_1115_C.trs', |
|
'ESLO2_ITI_1150_C.trs', 'ESLO1_ENT_077_C.trs', 'ESLO2_CINE_1205_C.trs', 'ESLO1_CONSCMPP_717_C.trs', |
|
'ESLO2_REPAS_1261_C.trs', 'ESLO1_CONSCMPP_752_C.trs', 'ESLO2_CINE_1181_C.trs', |
|
'ESLO2_ITI_1128_C.trs', 'ESLO1_ENT_112_C.trs', 'ESLO2_ITI_1149_C.trs', 'ESLO2_ECOLE_1294_C.trs', |
|
'ESLO1_ENT_093_C.trs', 'ESLO1_ENT_136_C.trs', 'ESLO1_ENT_173_C.trs', 'ESLO2_ENT_1027_C.trs', |
|
'ESLO2_ENT_1062_C.trs', 'ESLO2_ENTJEUN_1232_C.trs', 'ESLO1_REPAS_273_C.trs', |
|
'ESLO1_INTPERS_407_C.trs', 'ESLO1_ENTOUV_254_C.trs', 'ESLO2_ITI_1094_C.trs', |
|
'ESLO1_CONSCMPP_733_C.trs', 'ESLO2_LIVRENF_1316_C.trs', 'ESLO2_CINE_1198_C.trs', |
|
'ESLO2_ITI_1131_C.trs', 'ESLO2_ITI_1174_C.trs', 'ESLO1_ENT_053_C.trs', 'ESLO1_ENTCONT_238_C.trs', |
|
'ESLO2_ITI_1096_C.trs', 'ESLO1_INTPERS_440_C.trs', 'ESLO2_ENTJEUN_1230_C.trs', |
|
'ESLO2_ENT_1025_C.trs', 'ESLO1_ENT_109_C.trs', 'ESLO2_ENT_1060_C.trs', 'ESLO1_REU_542_C.trs', |
|
'ESLO2_ITI_1133_C.trs', 'ESLO1_ENT_051_C.trs', 'ESLO1_ENT_014_C.trs', 'ESLO2_LIVRENF_1314_C.trs', |
|
'ESLO1_CONSCMPP_731_C.trs', 'ESLO2_REPAS_1247_C.trs', 'ESLO1_ENT_091_C.trs', |
|
'ESLO1_ENTCONT_207_C.trs', 'ESLO1_ENT_029_C.trs', 'ESLO2_ECOLE_1296_C.trs', 'ESLO2_ENT_1018_C.trs', |
|
'ESLO1_TEL_354_C.trs', 'ESLO1_INTPERS_438_C.trs', 'ESLO1_ENT_048_C.trs', 'ESLO1_ENTCONT_223_C.trs', |
|
'ESLO1_CONSCMPP_728_C.trs', 'ESLO2_CINE_1183_C.trs', 'ESLO1_ENTCLO_256_C.trs', |
|
'ESLO2_ENT_1084_C.trs', 'ESLO2_ENT_1079_C.trs', 'ESLO1_ENT_110_C.trs', 'ESLO1_ENT_155_C.trs', |
|
'ESLO2_ITI_1072_C.trs', 'ESLO2_ENTJEUN_1229_C.trs', 'ESLO2_ENT_1001_C.trs', 'ESLO2_ENT_1044_C.trs', |
|
'ESLO1_INTPERS_421_C.trs', 'ESLO1_TEL_308_C.trs', 'ESLO2_DIA_1222_C.trs', 'ESLO2_REPAS_1263_C.trs', |
|
'ESLO1_ENT_088_C.trs', 'ESLO2_ITI_1117_C.trs', 'ESLO2_ITI_1152_C.trs', 'ESLO1_ENT_075_C.trs', |
|
'ESLO1_ENT_030_C.trs', 'ESLO1_INTPERS_402_C.trs', 'ESLO1_INTPERS_447_C.trs', |
|
'ESLO2_ITI_1091_C.trs', 'ESLO2_ENT_1067_C.trs', 'ESLO2_ENT_1022_C.trs', 'ESLO2_ITI_1171_C.trs', |
|
'ESLO2_ITI_1134_C.trs', 'ESLO1_ENT_013_C.trs', 'ESLO1_ENT_056_C.trs', 'ESLO2_LIVRENF_1313_C.trs', |
|
'ESLO2_CINE_1219_C.trs', 'ESLO1_ENT_096_C.trs', 'ESLO2_ECOLE_1291_C.trs', 'ESLO1_ENT_133_C.trs', |
|
'ESLO1_MAG_630_C.trs', 'ESLO1_TEL_316_C.trs', 'ESLO1_TEL_353_C.trs', 'ESLO1_ENTCONT_224_C.trs', |
|
'ESLO2_CINE_1179_C.trs', 'ESLO2_ITI_1168_C.trs', 'ESLO2_CINE_1184_C.trs', 'ESLO2_REPAS_1259_C.trs', |
|
'ESLO2_ENT_1083_C.trs', 'ESLO1_TEL_332_C.trs', 'ESLO1_ENT_152_C.trs', 'ESLO1_ENT_117_C.trs', |
|
'ESLO1_REU_519_C.trs', 'ESLO2_ENT_1043_C.trs', 'ESLO2_ENT_1006_C.trs', 'ESLO1_MAG_629_C.trs', |
|
'ESLO2_DIA_1225_C.trs', 'ESLO1_INTPERS_426_C.trs', 'ESLO1_INTPERS_463_C.trs', |
|
'ESLO2_ECOLE_1275_C.trs', 'ESLO1_VISIT_603_C.trs', 'ESLO2_CINE_1200_C.trs', |
|
'ESLO1_CONSCMPP_712_C.trs', 'ESLO2_REPAS_1264_C.trs', 'ESLO1_ENTCONT_219_C.trs', |
|
'ESLO2_ITI_1155_C.trs', 'ESLO2_RUMEUR_1337_C.trs', 'ESLO2_ITI_1110_C.trs', |
|
'ESLO2_ECOLE_1288_C.trs', 'ESLO1_ENT_072_C.trs', 'ESLO1_INTPERS_424_C.trs', |
|
'ESLO1_INTPERS_461_C.trs', 'ESLO1_TEL_348_C.trs', 'ESLO2_DIA_1227_C.trs', 'ESLO1_ENT_128_C.trs', |
|
'ESLO2_ENT_1041_C.trs', 'ESLO2_ENT_1004_C.trs', 'ESLO2_ITI_1157_C.trs', 'ESLO2_RUMEUR_1335_C.trs', |
|
'ESLO2_ITI_1112_C.trs', 'ESLO1_ENT_070_C.trs', 'ESLO2_CINE_1202_C.trs', 'ESLO1_CONSCMPP_710_C.trs', |
|
'ESLO2_REPAS_1266_C.trs', 'ESLO2_ECOLE_1277_C.trs', 'ESLO2_CINE_1186_C.trs', 'ESLO1_ENT_008_C.trs', |
|
'ESLO1_ENTCONT_226_C.trs', 'ESLO1_DIV_292_C.trs', 'ESLO2_ENT_1039_C.trs', 'ESLO1_ENT_150_C.trs', |
|
'ESLO1_INTPERS_419_C.trs', 'ESLO2_ENT_1081_C.trs', 'ESLO1_ENTCLO_253_C.trs', |
|
'ESLO1_ENTCONT_202_C.trs', 'ESLO1_ENT_069_C.trs', 'ESLO2_ECOLE_1293_C.trs', 'ESLO1_ENT_094_C.trs', |
|
'ESLO1_CONSCMPP_709_C.trs', 'ESLO1_TEL_351_C.trs', 'ESLO2_ENT_1058_C.trs', 'ESLO1_ENT_131_C.trs', |
|
'ESLO2_ENTJEUN_1235_C.trs', 'ESLO1_REPAS_274_C.trs', 'ESLO2_ENT_1065_C.trs', 'ESLO1_ENT_149_C.trs', |
|
'ESLO2_ENT_1020_C.trs', 'ESLO2_DISC_1239_C.trs', 'ESLO2_ITI_1093_C.trs', 'ESLO1_INTPERS_445_C.trs', |
|
'ESLO2_LIVRENF_1311_C.trs', 'ESLO1_CONSCMPP_734_C.trs', 'ESLO2_ITI_1173_C.trs', |
|
'ESLO2_ITI_1136_C.trs', 'ESLO1_ENT_054_C.trs', 'ESLO2_ENT_1019_C.trs', 'ESLO1_ENT_170_C.trs', |
|
'ESLO1_ENT_135_C.trs', 'ESLO1_MAG_673_C.trs', 'ESLO1_TEL_355_C.trs', 'ESLO1_INTPERS_439_C.trs', |
|
'ESLO2_LIVRENF_1328_C.trs', 'ESLO1_ENT_090_C.trs', 'ESLO1_ENTCONT_206_C.trs', |
|
'ESLO1_ENT_028_C.trs', 'ESLO2_ECOLE_1297_C.trs', 'ESLO1_ENT_015_C.trs', 'ESLO2_LIVRENF_1315_C.trs', |
|
'ESLO1_CONSCMPP_730_C.trs', 'ESLO2_ITI_1097_C.trs', 'ESLO2_MEDIA_1248_C.trs', |
|
'ESLO1_MAR_612_C.trs', 'ESLO1_ENTOUV_257_C.trs', 'ESLO1_INTPERS_441_C.trs', |
|
'ESLO2_ENTJEUN_1231_C.trs', 'ESLO1_REPAS_270_C.trs', 'ESLO1_ENT_108_C.trs', 'ESLO2_ENT_1024_C.trs', |
|
'ESLO2_CINE_1206_C.trs', 'ESLO2_ENT_1061_B.trs', 'ESLO1_CONSCMPP_751_C.trs', |
|
'ESLO2_REPAS_1262_C.trs', 'ESLO1_ENT_089_C.trs', 'ESLO2_LIVRENF_1331_C.trs', |
|
'ESLO2_ECOLE_1273_C.trs', 'ESLO2_ITI_1153_C.trs', 'ESLO2_ITI_1116_C.trs', 'ESLO2_ENT_1045_C.trs', |
|
'ESLO1_ENT_169_C.trs', 'ESLO1_INTPERS_420_C.trs', 'ESLO2_DIA_1223_C.trs', 'ESLO1_TEL_334_C.trs', |
|
'ESLO2_ENT_1085_C.trs', 'ESLO1_TEL_371_C.trs', 'ESLO2_ENT_1078_C.trs', 'ESLO1_ENT_111_C.trs', |
|
'ESLO2_ENTJEUN_1228_C.trs', 'ESLO2_CINE_1182_C.trs', 'ESLO1_ENT_156_C.trs', 'ESLO1_ENT_113_C.trs', |
|
'ESLO1_TEL_336_C.trs', 'ESLO1_ENTCLO_255_C.trs', 'ESLO1_TEL_373_C.trs', 'ESLO2_CINE_1180_C.trs', |
|
'ESLO2_ITI_1129_C.trs', 'ESLO2_ITI_1151_C.trs', 'ESLO2_ITI_1114_C.trs', 'ESLO1_ENT_076_C.trs', |
|
'ESLO2_CINE_1204_C.trs', 'ESLO2_REPAS_1260_C.trs', 'ESLO1_CONSCMPP_716_C.trs', |
|
'ESLO2_DIA_1221_C.trs', 'ESLO1_INTPERS_422_C.trs', 'ESLO2_ENT_1047_C.trs', 'ESLO2_ENT_1002_C.trs', |
|
'ESLO1_REU_520_C.trs', 'ESLO2_CINE_1220_C.trs', 'ESLO1_CONSCMPP_732_C.trs', |
|
'ESLO2_LIVRENF_1317_C.trs', 'ESLO2_CINE_1199_C.trs', 'ESLO2_ITI_1130_C.trs', 'ESLO1_ENT_017_C.trs', |
|
'ESLO1_ENT_052_C.trs', 'ESLO1_ENTCONT_239_C.trs', 'ESLO2_ENTJEUN_1233_C.trs', |
|
'ESLO1_REPAS_272_C.trs', 'ESLO1_INTPERS_406_C.trs', 'ESLO2_ITI_1095_C.trs', 'ESLO1_MAG_634_C.trs', |
|
'ESLO1_TEL_312_C.trs', 'ESLO1_ENT_172_C.trs', 'ESLO2_BOUL_1250_C.trs', 'ESLO1_ENT_137_C.trs', |
|
'ESLO2_ITI_1148_C.trs', 'ESLO2_ECOLE_1295_C.trs', 'ESLO1_ENTCONT_204_C.trs'] |
|
|
|
|
|
@dataclass |
|
class Utterance: |
|
speaker: str |
|
sentence: str |
|
start_timestamp: float |
|
end_timestamp: float |
|
overlap: bool |
|
|
|
|
|
class ESLOConfig(datasets.BuilderConfig): |
|
"""BuilderConfig for ESLO.""" |
|
|
|
def __init__(self, name, **kwargs): |
|
""" |
|
Args: |
|
name: `string`, name of dataset config (=language) |
|
**kwargs: keyword arguments forwarded to super. |
|
""" |
|
super(ESLOConfig, self).__init__( |
|
version=datasets.Version("2.11.0", ""), name=name, **kwargs |
|
) |
|
self.single_samples = (name == "single_samples") |
|
if not self.single_samples: |
|
self.max_duration = float(name.split("=")[1][:-1]) |
|
else: |
|
self.max_duration = None |
|
|
|
|
|
class ESLO(datasets.GeneratorBasedBuilder): |
|
"""ESLO dataset.""" |
|
|
|
BUILDER_CONFIGS = [ |
|
ESLOConfig(name="single_samples", description="all samples taken separately, can be very short and imprecise"), |
|
ESLOConfig(name="max=30s", description="samples are merged in order to reach a max duration of 30 seconds." |
|
"Does not remove single utterances that may exceed " |
|
"the maximum duration"), |
|
|
|
ESLOConfig(name="max=10s", description="samples are merged in order to reach a max duration of 10 seconds" |
|
"Does not remove single utterances that may exceed " |
|
"the maximum duration"), |
|
] |
|
|
|
DEFAULT_CONFIG_NAME = "single_samples" |
|
|
|
def _info(self): |
|
return datasets.DatasetInfo( |
|
description=_DESCRIPTION, |
|
features=datasets.Features( |
|
{ |
|
"file": datasets.Value("string"), |
|
"path": datasets.Value("string"), |
|
"audio": datasets.features.Audio(sampling_rate=SAMPLING_RATE), |
|
"sentence": datasets.Value("string"), |
|
"speaker": datasets.Value("string"), |
|
"start_timestamp": datasets.Value("float"), |
|
"end_timestamp": datasets.Value("float"), |
|
"overlap": datasets.Value("bool"), |
|
} |
|
), |
|
citation=_CITATION, |
|
) |
|
|
|
def _split_generators(self, dl_manager): |
|
transcripts_train = dl_manager.download( |
|
[os.path.join("transcripts_deduplicated_train", transcript) for transcript in |
|
TRAIN_TRANSCRIPTS]) |
|
transcripts_test = dl_manager.download( |
|
[os.path.join("transcripts_deduplicated_test", transcript) for transcript in |
|
TEST_TRANSCRIPTS]) |
|
train_filenames = [os.path.splitext(transcript)[0] for transcript in TRAIN_TRANSCRIPTS] |
|
test_filenames = [os.path.splitext(transcript)[0] for transcript in TEST_TRANSCRIPTS] |
|
audio_train = dl_manager.download( |
|
{transcript: f"audio/{transcript[:-2]}.mp4" for transcript in train_filenames}) |
|
audio_test = dl_manager.download( |
|
{transcript: f"audio/{transcript[:-2]}.mp4" for transcript in test_filenames}) |
|
|
|
splits = [ |
|
datasets.SplitGenerator( |
|
name=datasets.Split.TRAIN, |
|
gen_kwargs={ |
|
"transcripts": transcripts_train, |
|
"audio_files": audio_train |
|
} |
|
), |
|
datasets.SplitGenerator( |
|
name=datasets.Split.TEST, |
|
gen_kwargs={ |
|
"transcripts": transcripts_test, |
|
"audio_files": audio_test |
|
} |
|
), |
|
|
|
] |
|
|
|
return splits |
|
|
|
@staticmethod |
|
def extract_text(elem): |
|
text = elem.text or '' |
|
for child in elem: |
|
text += ESLO.extract_text(child) |
|
if child.tail: |
|
text += child.tail |
|
return text |
|
|
|
@staticmethod |
|
def load_one(file) -> List[Utterance]: |
|
first_line = file.readline().decode() |
|
encoding = re.search(r'encoding=["\']([^"]+)["\']', first_line).group(1) |
|
text_content = file.read().decode(encoding) |
|
root = ET.fromstring(text_content) |
|
utts = [] |
|
for turn in root.findall(".//Turn"): |
|
speaker = turn.get('speaker') |
|
if not speaker: |
|
continue |
|
start_time = float(turn.get('startTime')) |
|
end_time = float(turn.get('endTime')) |
|
text = re.sub(r"[\r\n\s]+", " ", ESLO.extract_text(turn).strip()) |
|
if any(c.isalnum() for c in text): |
|
utts.append(Utterance( |
|
speaker=speaker, |
|
sentence=text, |
|
start_timestamp=start_time, |
|
end_timestamp=end_time, |
|
overlap=len(speaker.split(" ")) > 1, |
|
)) |
|
return utts |
|
|
|
@staticmethod |
|
def load_audio(file: str, sr: int = SAMPLING_RATE): |
|
""" |
|
Open an audio file and read as mono waveform, resampling as necessary |
|
Parameters |
|
---------- |
|
file:vThe audio file to read |
|
sr: int |
|
The sample rate to resample the audio if necessary |
|
Returns |
|
------- |
|
A NumPy array containing the audio waveform, in float32 dtype. |
|
""" |
|
try: |
|
|
|
|
|
out, _ = ( |
|
ffmpeg.input(file) |
|
.output('-', format='s16le', acodec='pcm_s16le', ac=1, ar=sr) |
|
.run(capture_stdout=True, capture_stderr=True) |
|
) |
|
except ffmpeg.Error as e: |
|
raise RuntimeError(f"Failed to load audio: {e.stderr.decode()}") from e |
|
return np.frombuffer(out, np.int16).flatten().astype(np.float32) / 32768.0 |
|
|
|
@staticmethod |
|
def merge_utterances(utterance1: Utterance, utterance2: Utterance) -> Utterance: |
|
return Utterance( |
|
speaker="merged", |
|
sentence=re.sub(r"\s+", " ", utterance1.sentence + " " + utterance2.sentence), |
|
start_timestamp=utterance1.start_timestamp, |
|
end_timestamp=utterance2.end_timestamp, |
|
overlap=utterance1.overlap or utterance2.overlap |
|
) |
|
|
|
def _merged_utterances_iterator(self, utterances: List): |
|
utterances = iter(utterances) |
|
if self.config.single_samples: |
|
yield from utterances |
|
return |
|
merged_utterance = next(utterances) |
|
start_time = merged_utterance.start_timestamp |
|
while True: |
|
try: |
|
new_utterance = next(utterances) |
|
except StopIteration: |
|
yield merged_utterance |
|
return |
|
end_time = new_utterance.end_timestamp |
|
if end_time - start_time > self.config.max_duration: |
|
yield merged_utterance |
|
merged_utterance = new_utterance |
|
start_time = merged_utterance.start_timestamp |
|
else: |
|
merged_utterance = ESLO.merge_utterances(merged_utterance, new_utterance) |
|
|
|
@staticmethod |
|
def _cut_audio(audio: Array, start_timestamp: float, end_timestamp: float): |
|
return audio[int(round(start_timestamp * SAMPLING_RATE)): int(round(end_timestamp * SAMPLING_RATE)) + 1] |
|
|
|
def _generate_examples(self, transcripts, audio_files): |
|
"""Generate examples from a Multilingual LibriSpeech data dir.""" |
|
for path in transcripts: |
|
transcript_name = os.path.splitext(os.path.basename(path))[0] |
|
audio = self.load_audio(audio_files[transcript_name]) |
|
with open(path, "rb") as file: |
|
for utterance in self._merged_utterances_iterator(ESLO.load_one(file)): |
|
uid = f"{transcript_name}_{utterance.start_timestamp}-{utterance.end_timestamp}" |
|
yield uid, { |
|
"file": transcript_name, |
|
"path": uid, |
|
"sentence": utterance.sentence, |
|
"start_timestamp": utterance.start_timestamp, |
|
"end_timestamp": utterance.end_timestamp, |
|
"speaker": utterance.speaker, |
|
"overlap": utterance.overlap, |
|
"audio": {"path": transcript_name, |
|
"array": self._cut_audio(audio, utterance.start_timestamp, utterance.end_timestamp), |
|
"sampling_rate": 16000}} |
|
|
