Hugging Face's logo

Datasets:
saifulhaq9
/
indicmarco

ArXiv:
License:
Dataset card Viewer Files Community
2
Dataset Preview
Full Screen
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed because of a cast error
Error code:   DatasetGenerationCastError
Exception:    DatasetGenerationCastError
Message:      An error occurred while generating the dataset

All the data files must have the same columns, but at some point there are 1 new columns ({' সংজ্ঞায়িত করা'}) and 1 missing columns ({' অতিৰিক্ত সংজ্ঞায়িত কৰা '}).

This happened while the csv dataset builder was generating data using

hf://datasets/saifulhaq9/indicmarco/ben_Beng/query.train.tsv (at revision ed947e50f2f0f2ead636a8b885fd2c77456bb8c7)

Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 2011, in _prepare_split_single
                  writer.write_table(table)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 585, in write_table
                  pa_table = table_cast(pa_table, self._schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2302, in table_cast
                  return cast_table_to_schema(table, schema)
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2256, in cast_table_to_schema
                  raise CastError(
              datasets.table.CastError: Couldn't cast
              121352 : int64
               সংজ্ঞায়িত করা: string
              -- schema metadata --
              pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 634
              to
              {'121352 ': Value(dtype='int64', id=None), ' অতিৰিক্ত সংজ্ঞায়িত কৰা ': Value(dtype='string', id=None)}
              because column names don't match
              
              During handling of the above exception, another exception occurred:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1316, in compute_config_parquet_and_info_response
                  parquet_operations, partial = stream_convert_to_parquet(
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 909, in stream_convert_to_parquet
                  builder._prepare_split(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1882, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 2013, in _prepare_split_single
                  raise DatasetGenerationCastError.from_cast_error(
              datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset
              
              All the data files must have the same columns, but at some point there are 1 new columns ({' সংজ্ঞায়িত করা'}) and 1 missing columns ({' অতিৰিক্ত সংজ্ঞায়িত কৰা '}).
              
              This happened while the csv dataset builder was generating data using
              
              hf://datasets/saifulhaq9/indicmarco/ben_Beng/query.train.tsv (at revision ed947e50f2f0f2ead636a8b885fd2c77456bb8c7)
              
              Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

121352
int64
অতিৰিক্ত সংজ্ঞায়িত কৰা
string
634,306
ঋণৰ ইতিহাসত চটেলৰ অৰ্থ কি?
920,825
কি আছিল সেই ডাঙৰ ডাঙৰ ধাপটো?
510,633
টাটু ফিক্সাৰ কিমান খৰচ হয়
737,889
বিকেন্দ্রীকৰণ প্ৰক্ৰিয়া কি?.
278,900
La Jolla Concours d'Eleganceত কিমানখন গাড়ী প্ৰৱেশ কৰিব?
674,172
বেংক ট্ৰানজিট নম্বৰ কি?
303,205
মই কিমান পৰিমাণে অপৰিহাৰ্য ইৰাত অৱদান আগবঢ়াব পাৰোঁ?
570,009
চাৰিটা প্ৰধান উপাদান কি?
492,875
ছেনিটাইজাৰ তাপমাত্রা
54,528
মেনোপাউজৰ পিছত প্ৰস্ৰাৱত ৰক্তৰ জমাটনি
203,218
উচ্চাৰণ ঠিকনা
473,204
ক্যালিফোৰনিয়াত ভাড়াঘৰৰ বাবে প্ৰতি এসএফ ব্যয়
738,368
ডেল্টা ইন'ভিশন কি?
507,001
কুকুৰাৰ হৃদযন্ত্ৰৰ প্ৰসাৰিত লক্ষণ
466,926
কংগ্ৰেছে এই আইন বাতিলৰ বাবে ভোটদান কৰা বহুবাৰ
837,327
সেনাবাহিনীৰ পদৰ ৰেঙসমূহৰ আনুষ্ঠানিক ৰং কি?
406,897
৩ সপ্তাহৰ পোৱালিৰ বাবে কলষ্ট্ৰাম উপকাৰী নেকি?
1,181,095
আচৰণগত সংকটক কিদৰে সংজ্ঞায়িত কৰা হয়?
224,811
এটা ফায়াৰফ্লাই কেনেকৈ জ্বলি উঠে?
730,323
কি হ'ব পছন্দৰ গাৰান্টি প্লাছ
265,218
UIC দাঁত চিকিৎসা বিদ্যালয়ত স্ক্রিনিং প্ৰক্ৰিয়া কিমান সময় লয়
918,533
কোন বছৰত মানৱ খাদ্যত কি প্ৰয়োগ কৰা হৈছিল
143,302
পশু গ্ৰহই চিৰিয়াখানাখন বাতিল কৰিছে নেকি?
479,951
প'ল' খেলত কি জুতা পিন্ধিছিল সেই প'লকা ডট ৰান্ধনীখন?
940,088
উত্তৰ ক'ৰ'লিনাই আইএফএত কেতিয়া যোগদান কৰিছিল?
422,912
কুকুৰবোৰৰ বাবে rv এণ্টিফ্ৰিজ বিষাক্ত
80,926
আপুনি আপোনাৰ কম্পিউটাৰত ৱালপপ ব্যৱহাৰ কৰিব পাৰেনে?
350,732
মেলামিনৰ কলমযুক্ত কাপসমূহ কেনেকৈ পৰিষ্কাৰ কৰিব
1,067,511
মোৰ পাৰ্শ্বিক কোলেটেৰেল লিগামেণ্ট কিয় বেয়াকৈ ব্যাধিছে?
906,071
স্বাস্থ্যকৰ হ'বলৈ আপোনাৰ পানীত কি যোগ কৰিব লাগে
628,391
এটা ক'ৰবাৰ ৫৮ কোটি টকা কিমান খৰচ হয়
385,906
কৰ পৰিষ্কাৰকৰণ প্ৰমাণপত্ৰ কেনেকৈ পৰীক্ষা কৰিব
428,191
কিপ্ৰ' ডেক্সৰ বাবে এটা সাধাৰণ ঔষধ আছে?
790,457
কি কি ৰক্ষণাবেক্ষণৰ জাল
1,067,371
বৃষ্টিপাতৰ সময়ত মোৰ গাড়ীখন কিয় স্পুটাৰ কৰে
242,081
মই কিমান দিনলৈ পহু মাংস হিমায়িত কৰিব পাৰিম?
1,006,418
কোনখন কেলেণ্ডাৰ ষ্টেট স্কুলত ফুটবল দল আছে?
843,270
লোহাৰ আটাইতকৈ বিৰল ৰূপটো কি?
551,231
শিশুৰ চিকিৎসা কত বয়সত হয়?
166,621
পেট্ৰ'ল প্ৰাকৃতিক গেছৰ পৰা আহিছে নেকি?
490,462
ৰুটিং নম্বৰ hdfc
316,859
এটা উইণ্ডোত স্ক্ৰীণ কৰাটো কিমান খৰচ কৰে
45,248
আগষ্টত লণ্ডনৰ গড় তাপমাত্রা ছেলছিয়াছ
1,176,220
মধ্যম তাপমাত্ৰা বাৰ্ছেলোনা ইজৰাইল
540,340
লিলিয়ান ৱাল্ড এগৰাকী নাৰ্ছিং থিঅৰিষ্ট আছিল।
867,974
কি ধৰণৰ এনজাইমে ষ্ট্ৰেপ্টোমাইচ জান্তিনছ উৎপন্ন কৰে?
529,604
ছাদৰ লাইনসমূহৰ প্ৰকাৰ
439,538
লেউজভিল টেক্সাছ কোনখন জিলাত অৱস্থিত?
436,798
বিশ্বৰ বৃহত্তম লেজাৰ কাটাৰ
1,074,527
কিয় চাইপ্রেছ মালচ ব্যৱহাৰ কৰা
167,374
হাইপোকেলমিয়ায়ে ডিছৰিথমিয়া সৃষ্টি কৰে নেকি?
398,039
আইফোন 4s আপডেট পৰীক্ষা 9.3.1 কিমান দিনলৈ
389,298
মানৱ শৰীৰৰ ফ্লেক্সন সংজ্ঞা
640,699
চিনি খালে মূৰৰ বিষ হোৱা মানে কি?
132,366
মানৱ ভীতিৰ সংজ্ঞা
280,817
আপুনি ৱাশ্বিংটন ষ্টেট মেডিকেডত থাকিলে কিমান দিনলৈ ৰাতিপুৱালৈ থাকিব পাৰিব?
932,727
বাল্টিমোৰ মেৰিলেণ্ডৰ জনসংখ্যা কিমান?
197,752
ঘোঁৰাটোৰ বাবে মৃত্যু হোৱা লোকজন।
466,858
ধান ইক্ল'ছ ষ্টেডিয়ামত আসনৰ সংখ্যা
1,079,617
কৰ্ম অধ্যয়নৰ গড় দৰমহা
1,013,915
যিটো স্নায়ুৱে মোক শ্বাস-প্ৰশ্বাস ল'বলৈ বাধ্য কৰে।
381,728
কেনেকৈ এটা বৃক্ষৰ বগা অৱস্থাত থকা অৱস্থাত ইয়াক শুদ্ধ কৰিব পাৰি?
672,091
কি হৈছে.arf ফাইল
560,432
কি কি অসৰল পলিচাকৰিড
895,696
24° উৰ্দ্ধভূমিৰ পুলৰ বাবে মোক কিমান পৰিমাণৰ পাম্প লাগে?
4,801
কিনা নামৰ অৰ্থ
122,479
হাইপাৰছোনিক সংজ্ঞায়িত কৰক
1,180,498
বিমানৰ পঠিওৱা চিঠিখন কিমান সময় লাগে
628,984
চতুৰ্থ শ্ৰেণীৰ ধাৰণাটো কি?
668,701
কি কি স্বল্পমেয়াদী স্মৃতিশক্তিৰ ক্ষতিৰ বাবে সহায় কৰে
797,201
ধুমুহাৰ কাৰণ কি?
293,603
নৰৱেজীয়ান এপিচত কিমানটা পুল আছে
547,843
ওজন নজৰ কৰা কাৰিকৰী সহায়ক নম্বৰ
906,893
আপুনি জ্বৰত পৰিলে কি কৰিব?
456,284
অতি সঠিক ব্যান্ডউইথ পৰীক্ষা
335,970
মেট'ৰে'ল'জিষ্ট কেৰেন ৰ'জাৰছৰ বয়স কিমান?
1,057,322
কেনেকুৱা অভিনেত্ৰী আছিল?
1,168,693
আমি স্নায়ুসংক্রান্ত অংশীদাৰ নেভাদা
641,469
আপোনাৰ নখৰ পখিলা পখিলা হ'লে ইয়াৰ অৰ্থ কি?
922,753
ড্ৰেড স্কট গোচৰৰ উচ্চতম ন্যায়ালয়ৰ ৰায় কি আছিল?
693,178
পাৰমাণৱিক ইন্ধনৰ পিললেট কি?
983,342
গাৰ্ট্ৰুড ষ্টেইন পিকাসো ক'ত আছে?
1,161,518
কিহৰ অৰ্থ হৈছে অজ্ঞাত ঘটনা?
23,229
কেটোনবোৰে শক্তিৰ বাবে ব্যৱহাৰ কৰা হয়নে?
874,646
ভেকুয়ুলৰ প্ৰধান কাৰ্য কি?
924,673
যদি মই ১১০ ভল্টৰ মটৰ এটা ২২০ ভল্টৰ যোগান ধৰো তেন্তে কি হ'ব?
207,697
পলিমাৰসমূহ কেনেকৈ তৈয়াৰ কৰা হয়
445,243
মাৰাণ্ডা নামৰ অৰ্থ
291,569
এজন মানুহৰ কোষত কিমান জোৰা ক্ৰ'ম'জ'ম আছে?
493,513
schmidt প্ৰাকৃতিক কোম্পানীৰ ঠিকনা
506,152
আদিবাসী আমেৰিকান সংস্কৃতিত ভালুকৰ প্ৰতীকবাদ
322,801
পেৰেছ হিল্টনৰ মূল্য কিমান?
953,121
ৰাজপথত আইনী অপৰাধীৰ নতুন ঋতু কেতিয়া আৰম্ভ হ'ব?
76,299
তুমি কি ক্ৰীট পেইণ্ট ৱিকাৰ কৰিব পাৰা?
881,296
ৱেষ্টব্ৰুকত এন বি এৰ স্থান কিমান?
41,007
বিদ্যুতৰ একক মূল্যৰ গড় মূল্য
268,413
কিমান দিন হত্যাকাৰীসকলৰ বিশ্বাসৰ পৰা মুক্তিৰ চিঞৰ-বাখৰ হ'ব?
293,140
16GB মেমৰি কাৰ্ডত আপুনি কিমানখন ফটো সংগ্ৰহ কৰিব পাৰে
1,142,466
শিশুৰ সৈতে সময়সীমা কেতিয়া আৰম্ভ কৰা উচিত
20,627
আগ্ৰহী প্ৰেমৰ সংজ্ঞা
End of preview.

IndicIRSuite: Multilingual Dataset and Neural Information Models for Indian Languages

Paper link: https://arxiv.org/abs/2312.09508

Dataset link: https://huggingface.co/datasets/saifulhaq9/indicmarco

Model link: https://huggingface.co/saifulhaq9/indiccolbert

Contributors & Acknowledgements

Key Contributors and Team Members: Saiful Haq, Ashutosh Sharma, Pushpak Bhattacharyya

Kindly cite our paper, If you are are using our datasets or models:

@article{haq2023indicirsuite, title={IndicIRSuite: Multilingual Dataset and Neural Information Models for Indian Languages}, author={Haq, Saiful and Sharma, Ashutosh and Bhattacharyya, Pushpak}, journal={arXiv preprint arXiv:2312.09508}, year={2023} }

About

This repository contains query.train.tsv and collection.tsv files in 11 Indian Languages, to train multilingual IR models.

Language Code to Language Mapping

asm_Beng: Assamese Language

ben_Beng: Bengali Language

guj_Gujr: Gujarati Language

hin_Deva: Hindi Language

kan_Knda: Kannada Language

mal_Mlym: Malyalam Language

mar_Deva: Marathi Language

ory_Orya: Oriya Language

pan_Guru: Punjabi Language

tam_Taml: Tamil Language

tel_Telu: Telugu Language

Downloads last month
127
Edit dataset card

Models trained or fine-tuned on saifulhaq9/indicmarco