数据大小不一致

#1
by yangyx9 - opened

你好,简介说整个IndustryCorpus2数据大小有3T,但是实际download下来,只有1.7T,请问这是正常的吗?
简介:
image.png
下载:

image.png

Beijing Academy of Artificial Intelligence org
edited 4 days ago

我们在数据构建的时候使用的是jsonline明文字符的形式存储的,统计的大小是readme里面给出来的3.2T左右,在上传的时候为了减小上传的开销,离线进行了压缩,大概压缩了50%左右,也就是这里看到的1.7T的大小

Sign up or log in to comment