turkish-nlp-suite/temiz-mC4

Dataset Card for Temiz mC4

Temiz mC4 is the cleaned version of CulturaX corpus' Turkish split. This corpus is a part of large scale Turkish corpus Bella Turca. For more details about Bella Turca, please refer to the publication.

split	num instances	size	num of words
train	76.432.893	168GB	21.06B
Total	76.432.893	168GB	21.06B

This collection includes web text, crawled from internet for mC4 corpus. CulturaX is even refined version of mC4 with quality filtering and our version is even a more quality version of CulturaX. Though CulturaX is already good quality we were still able to catch some low quality content, such as ads, SEO optimized websites and adult content. For all the details please visit the publication.

Instances

A typical instance from the dataset looks like:

{
"id": 0,
"text":"Düzce'de Murat Öztürk adlı güvenlik görevlisi, pazarda 10 kuruşa poşet sattı. 'Gel vatandaş, cıvıl cıvıl poşetler 10 kuruş' ve \
        'Pazarda bedava, markette 25 kuruş. Yırtılmaz, yıpranmaz' diyerek müşterilere seslenen Öztürk, marketlere \
        tepki göstererek, \"Bedavadan... Fenerbahçe'nin efsane futbolcusu ve spor yorumcusu Rıdvan Dilmen, sosyal medya hesabından önemli \
        bir paylaşımda bulundu. Dilmen, Fenerbahçe Başkanı Ali Koç'un, görevine son verilen 3 antrenör ile bir araya geldiğini belirtti. \
        F. Bahçe Başkanı Ali Koç'tan hocalara ret! Fenerbahçe'de bir süre önce dışarıya bilgi sızdırdıkları ve takımı sabote ettikleri \
        gerekçesiyle görevlerine son verilen 3 yardımcı hoca, kendilerini savunmak için Başkan Ali Koç'tan randevu talep etmişti. RANDEVU \
        YOK! Haklarındaki iddiaların doğru olmadığını... Fener'de 3 yardımcı antrenörle yolların ayrılması ve 3 futbolcunun da kadro dışı \
        bırakılmasıyla gerçekleşen operasyonun yankıları devam ediyor... TAKVİM, operasyonla ilgili önemli bir bilgiye daha ulaştı. Başkan \
        Ali Koç, FB TV'de geçen sezonun verilerinin silindiğini... Fenerbahçe'de görevden alınan teknik heyetten analist Turgay Altay, \
        kaleci antrenörü Murat Öztürk ve kondisyoner Alper Aşçı, Başkan Ali Koç ile görüşme talebinde bulunduklarını duyurdu. Yazılı \
        açıklamada şu ifadeler kullanıldı \"Şunun bilinmesini isteriz ki... \"Fenerbahçeli antrenörler ilk kez konuştu\" haberi için lütfen \
        tıklayın... Fenerbahçe'de yardımcı antrenörler Turgay Altay, Murat Öztürk ve Alper Aşçı'nın kulüpten gönderilmesi, Volkan, Aatif ve\
        Dirar'ın da kadro dışı bırakılması Samandıra'da huzursuzluk yarattı. Takımdan ayrılanların \"Başkan yanlış bilgilendirilmiş\" demeleri  gözleri... Fenerbahçe'de büyük kaosa neden olan Aykut Kocaman'ın analiz ekibi ve yardımcılarının var olan antrenman verilerini sildiği iddiası Mustafa Reşit Akçay'ın açıklamasıyla başka bir noktaya gitti. Teknik heyetten analist Turgay Altay, kaleci antrenörü Murat... Fenerbahçe Başkanı Ali Koç'un önceki gün yaptığı açıklamalar sonrası tüm gözler Aykut Kocaman'a çevrildi... Koç, tecrübeli hocanın eski yardımcıları Turgay Altay, Murat Öztürk ve Alper Aşçı'yı takımın gizli bilgilerini dışarıya sızdırmakla suçladı. Aykut Kocaman ve Murat Öztürk, Ali Koç'un iddialarına cevap verecek! Spor Toto Süper Lig'e kötü bir başlangıç yapan Fenerbahçe'de geçtiğimiz günlerde 3 yardımcı antrenör ile yollar ayrılmıştı. Fenerbahçe Başkanı Ali Koç, bugün kulüp kanalı FBTV'de yaptığı açıklamalarda Beşiktaş maçı öncesi yardımcı antrenörlerin bir halı..."

id field is an internal info, please discard while using the dataset.

Citation

@InProceedings{10.1007/978-3-031-70563-2_16,
author="Altinok, Duygu",
editor="N{\"o}th, Elmar
and Hor{\'a}k, Ale{\v{s}}
and Sojka, Petr",
title="Bella Turca: A Large-Scale Dataset of Diverse Text Sources for Turkish Language Modeling",
booktitle="Text, Speech, and Dialogue",
year="2024",
publisher="Springer Nature Switzerland",
address="Cham",
pages="196--213",
abstract="In recent studies, it has been demonstrated that incorporating diverse training datasets enhances the overall knowledge and generalization capabilities of large-scale language models, especially in cross-domain scenarios. In line with this, we introduce Bella Turca: a comprehensive Turkish text corpus, totaling 265GB, specifically curated for training language models. Bella Turca encompasses 25 distinct subsets of 4 genre, carefully chosen to ensure diversity and high quality. While Turkish is spoken widely across three continents, it suffers from a dearth of robust data resources for language modelling. Existing transformers and language models have primarily relied on repetitive corpora such as OSCAR and/or Wiki, which lack the desired diversity. Our work aims to break free from this monotony by introducing a fresh perspective to Turkish corpora resources. To the best of our knowledge, this release marks the first instance of such a vast and diverse dataset tailored for the Turkish language. Additionally, we contribute to the community by providing the code used in the dataset's construction and cleaning, fostering collaboration and knowledge sharing.",
isbn="978-3-031-70563-2"
}

Acknowledgments

This research was supported with Cloud TPUs from Google's TPU Research Cloud (TRC).