initial commit

.gitattributes

@@ -1,3 +1,4 @@
+*.csv filter=lfs diff=lfs merge=lfs -text
 *.7z filter=lfs diff=lfs merge=lfs -text
 *.arrow filter=lfs diff=lfs merge=lfs -text
 *.bin filter=lfs diff=lfs merge=lfs -text

.gitignore

@@ -0,0 +1,28 @@
+# Python
+__pycache__/
+*.py[cod]
+*.ipynb_checkpoints
+*.DS_Store
+
+# Temporary files
+*.tmp
+*.log
+*.bak
+*.swp
+
+# VSCode / Jupyter
+.vscode/
+.ipynb_checkpoints/
+.env
+.venv
+
+# OS metadata
+Thumbs.db
+Desktop.ini
+
+# Hugging Face cache (local downloads)
+~/.cache/huggingface/
+
+# Do not ignore data/ — it's used for dataset splits
+# But you can uncomment below if you don’t want to upload large CSVs
+# data/*.csv

README.md

@@ -1,3 +1,101 @@
 ---
-license: cc-by-4.0
+pretty_name: TradeNewsSum
+tags:
+  - summarization
+  - multilingual
+  - russian
+  - english
+  - news
+  - trade
+  - abstractive
+language:
+  - ru
+  - en
+language_creators:
+  - found
+  - expert-generated
+annotations_creators:
+  - expert-generated
+task_categories:
+  - summarization
+task_ids:
+  - news-articles-summarization
+multilinguality:
+  - multilingual
+license:
+  - cc-by-4.0
+source_datasets:
+  - original
+size_categories:
+  - 50K<n<100K
 ---
+
+# TradeNewsSum: Multilingual Summarization Dataset for Trade News
+
+TradeNewsSum is a multilingual dataset for **abstractive summarization** of trade-related news.  
+It includes over **59,000 manually aligned article-summary pairs** in Russian and English, focused on topics such as international trade, sanctions, investment, and oil markets.
+
+The dataset is intended for training and evaluating summarization systems in both **monolingual** and **cross-lingual** settings.
+
+### Annotation Guidelines
+
+Each summary was manually annotated by **three independent experts**. Cross-verification was conducted to ensure **high factual accuracy** and **consistent wording**.
+
+Summaries were created in accordance with the editorial standards of [trade-news.vavt.ru](https://trade-news.vavt.ru), with the following key requirements:
+
+#### Must include:
+- Numerical indicators: **volumes, percentages, dates**
+- Names of **companies** (if present in the original)
+- Mentioned **countries and goods**
+
+#### Must exclude:
+- Introductory phrases (e.g., *"it is worth noting"*, *"earlier it was reported"*)
+- **Quotes** and **subjective statements**
+
+#### Should replace:
+- Vague time references (e.g., *"yesterday"*, *"recently"*) → **precise date + year** (based on the `dates` field)
+
+
+---
+
+## Dataset Structure
+
+Each example in the dataset contains:
+
+- `text`: full article (usually a news report)
+- `summary_orig_lang`: human-written summary in the same language
+- `summary_translated`: translated version of the summary
+- `orig_lang`: original language of the article (`ru` or `en`)
+- `locations`: countries/regions mentioned
+- `url`: source link
+- `dates`: publication date (string)
+
+---
+
+## Dataset Splits
+
+The dataset is split into training, validation, and test sets, stratified by language:
+
+| Split         | Russian (`ru`) | English (`en`) |
+|---------------|----------------|----------------|
+| Train         | 32,041         | 15,475         |
+| Validation    | 4,005          | 1,934          |
+| Test          | 4,005          | 1,935          |
+
+**Total:** 59,395 examples  
+**Languages:** Russian (≈68%), English (≈32%)
+
+---
+
+## Example
+
+```json
+{
+  "text": "Китайская Great Wall выведет на рынок РФ две модели внедорожников Tank Москва. 20 октября. INTERFAX.RU - Китайский автоконцерн Great Wall Motor (GWM), реализующий в РФ автомобили SUV-сегмента под одноименным брендом и маркой Haval, планирует вывести на российский рынок две модели рамных внедорожников бренда Tank в начале 2023 года. Как сообщили ""Интерфаксу"" в пресс-службе марки, в январе следующего года на рынок России выйдут внедорожники модели T300, в марте – Т500. На первоначальном этапе автомобили будут импортироваться из-за рубежа, уточнили в компании. Бренд Tank был основан GWM в 2021 г. Россия станет для него вторым зарубежным рынком после Саудовской Аравии. Там марка была представлена летом этого года. Модели построены на базе одноименной модульной платформы разработки GWM, ориентированной на поездки по бездорожью. Линейка силовых агрегатов Tank включает базовый двухлитровый бензиновый турбированный двигатель с непосредственным впрыском топлива мощностью 220 л.с. и крутящим моментом 387 Нм. Второй бензиновый двигатель - трехлитровый V-образный с шестью цилиндрами, мощностью 299 л.с. и крутящим моментом 500Нм. Линейка TANK также компонуется гибридными установками с электродвигателем: как классическими, так и подключаемыми. По данным АЕБ, продажи GWM в РФ (бренды Haval и Great Wall) за 9 месяцев 2022 г. снизились на 17%, до 20,791 тыс. шт., при общем падении рынка на 59,8%. Доля группы на упавшем рынке выросла более чем вдвое - с 2% до 4,1%. GWM – единственный китайский автопроизводитель с локальным производством в РФ по полному циклу. Автомобили Haval выпускаются в рамках СПИКа, подписанного в конце 2020 г., на тульском заводе ""Хавейл Мотор Мануфэкчуринг Рус"". В частности, это модели кроссоверов F7 и F7x, Dargo и Jolion, рамный внедорожник H9.",
+  "summary_orig_lang": "Китайская Great Wall выведет на рынок РФ две модели внедорожников Tank INTERFAX.RU - Китайский автоконцерн Great Wall Motor (GWM), реализующий в РФ автомобили SUV-сегмента под одноименным брендом и маркой Haval, планирует вывести на российский рынок две модели рамных внедорожников бренда Tank в начале 2023 года. Бренд Tank был основан GWM в 2021 г. Россия станет для него вторым зарубежным рынком после Саудовской Аравии. GWM – единственный китайский автопроизводитель с локальным производством в РФ по полному циклу.",
+  "summary_translated": "The Chinese Great Wall will bring to the Russian market two models of Tank INTERFAX.RU SUVs - the Chinese Great Wall Motor (GWM) autoconsortium, which sells SUV-segment vehicles under the same brand and brand Haval in Russia, plans to bring to the Russian market two models of Tank branded frame SUVs in early 2023. The Tank brand was founded by GWM in 2021. Russia will become the second foreign market for it after Saudi Arabia. GWM is the only Chinese car manufacturer with a full-cycle local production in the Russian Federation.",
+  "orig_lang": "ru",  
+  "locations": "Китай, Саудовская Аравия",
+  "url": "https://www.interfax.ru/business/868775",
+  "dates": "2022-10-20",
+}

data/test.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e07bfea553265e8120711ebd8997476e4ebbb2d2c11d78c61de87ed9d38bad78
+size 24598902

data/train.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cfa39db9ddacb57b8e9f17d276534805f7d3b7950b0f1a2debeb22a77590437b
+size 195670959

data/val.csv

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b15e946d8f9751a8de1bfc49854ad90867c1fef162bfaa0763da36bf8d02d29b
+size 24356152

tradenewssum.py

@@ -0,0 +1,53 @@
+import csv
+import datasets
+
+_DESCRIPTION = """\
+TNSum is a multilingual dataset for abstractive summarization of trade-related news in Russian and English.
+"""
+
+
+class Tnsum(datasets.GeneratorBasedBuilder):
+    VERSION = datasets.Version("1.0.0")
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features(
+                {
+                    "text": datasets.Value("string"),
+                    "summary_orig_lang": datasets.Value("string"),
+                    "summary_translated": datasets.Value("string"),
+                    "orig_lang": datasets.ClassLabel(names=["ru", "en"]),
+                    "split": datasets.Value("string"),
+                    "locations": datasets.Value("string"),
+                    "url": datasets.Value("string"),
+                    "dates": datasets.Value("string"),
+                    "classes": datasets.Value("string"),
+                }
+            ),
+            supervised_keys=None,
+            citation=_CITATION,
+        )
+
+    def _split_generators(self, dl_manager):
+        data_dir = dl_manager.download_and_extract("data")
+        return [
+            datasets.SplitGenerator(
+                name=datasets.Split.TRAIN,
+                gen_kwargs={"filepath": f"{data_dir}/train.csv"},
+            ),
+            datasets.SplitGenerator(
+                name=datasets.Split.VALIDATION,
+                gen_kwargs={"filepath": f"{data_dir}/val.csv"},
+            ),
+            datasets.SplitGenerator(
+                name=datasets.Split.TEST,
+                gen_kwargs={"filepath": f"{data_dir}/test.csv"},
+            ),
+        ]
+
+    def _generate_examples(self, filepath):
+        with open(filepath, encoding="utf-8") as f:
+            reader = csv.DictReader(f)
+            for i, row in enumerate(reader):
+                yield i, row