HYUKI5/CohereLabs__Global-MMLU

CohereLabs/Global-MMLU（複製）

データの内容

英語を含む 42 言語で、MMLU の多肢選択問題を訳したデータ。1 行が 1 問で、question に問題文、option_a から option_d に選択肢、answer に正解（A から D）が入る。subject と subject_category で分野が分かり、一部の問題には cultural_sensitivity_label で文化に依存する問題か中立な問題かの注釈が付く。翻訳は機械翻訳に、プロの翻訳者とクラウドソーシングによる事後編集を組み合わせて作られ、ライセンスは Apache 2.0。

データの概要

項目	値
行数	601,734（42 構成・84 分割の合計）
列数	17
容量	199.72 MB（ファイル 87 本）
ファイルの形式	parquet 84、jpg 1
言語	en, ar, bn, es, fr, hi, ru, de, id, it, ja, ko, pt, zh, yo, nl, ro, uk, vi, tr, pl, fa, cs, he, el, ms, fil, te, si, ne,
公開	public

構成と分割

構成（config）	分割（split）ごとの行数	列数
am	test 14,042、dev 285	17
ar	test 14,042、dev 285	17
bn	test 14,042、dev 285	17
cs	test 14,042、dev 285	17
de	test 14,042、dev 285	17
el	test 14,042、dev 285	17
en	test 14,042、dev 285	17
es	test 14,042、dev 285	17
fa	test 14,042、dev 285	17
fil	test 14,042、dev 285	17
fr	test 14,042、dev 285	17
ha	test 14,042、dev 285	17
he	test 14,042、dev 285	17
hi	test 14,042、dev 285	17
id	test 14,042、dev 285	17
ig	test 14,042、dev 285	17
it	test 14,042、dev 285	17
ja	test 14,042、dev 285	17
ko	test 14,042、dev 285	17
ky	test 14,042、dev 285	17

（ほか 22 構成。全体は HF のデータセットビューアで見られる）

列（構成 am・分割 test。どの構成も同じ列）

列	型	先頭の行の値
sample_id	string	abstract_algebra/test/0
subject	string	abstract_algebra
subject_category	string	STEM
question	string	የተሰጠውን የመስክ ማራዘሚያ Q(sqrt(2)፣ sqrt(3)፣ sqrt(18)) …
option_a	string	0
option_b	string	4
option_c	string	2
option_d	string	6
answer	string	B
required_knowledge	string	[]
time_sensitive	string	[]
reference	string	[]
culture	string	[]
region	string	[]
country	string	[]
cultural_sensitivity_label	string	-
is_annotated	bool	False

行数と列は HF のデータセットビューアの集計（元のデータセットの現在の版で数えたもの）。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

CohereLabs/Global-MMLU をリビジョン 0e619dbeb34206cd48705a1a0ea7fb21cae09993 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya（convaiinnovations/laya）の微調整に使う候補として、調査メモ（Laya 学習用データセット調査）に載せたデータを集めている。

出典

• 元のデータセット: https://huggingface.co/datasets/CohereLabs/Global-MMLU
• 複製したリビジョン: 0e619dbeb34206cd48705a1a0ea7fb21cae09993（2025-08-14 20:12:53+00:00）
• 元のライセンス表記: apache-2.0

論文

• https://arxiv.org/abs/2412.03304

アノテーションの方法

アノテーションの種類

最終的なデータセットにおける CS🗽、CA⚖️、MA📝 のサンプルの内訳は次のとおり。

アノテーションの種類	言語ごとのインスタンス数	言語数	インスタンスの合計
Culturally Sensitive 🗽	792	42	33,264
Culturally Agnostic ⚖️	2058	42	86,436
MMLU にアノテーション済み 📝	2850	42	119,700

作成者

• 発行組織: Cohere Labs
• 業種: 非営利 - テック

微調整に使うときの注意

• 調査メモの台帳での区分: A（許諾型のライセンスだけで、疑義の注記が無い）。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
• Laya の入力は 2,048 token まで（ModernBERT-large / mmBERT）。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
• 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ	節	ライセンス（記載）	確認	注記
multilingual_cjk.md	1. 大規模多言語データセット(XNLI, PAWS-X, MASSIVE, SIB-200, Belebele ほか) (L39)	apache-2.0	確認済	確認印なし(各ファイルの凡例により確認済扱い) ／ 原文注記: arXiv:2412.03304。culture 等の文化依存注記フィールドあり。翻訳方式(人手/機械)は card 抜粋に無く未確認

元のカード（日本語訳）

以下は元のデータセットのカードの本文を日本語に訳したもの（機械翻訳）。訳に疑問があるときは、末尾の原文を確かめる。

---

データセットの概要

Global-MMLU 🌍 は、英語を含む 42 言語にわたる多言語評価セットである。このデータセットは、MMLU の問題に対する機械翻訳と、プロによる翻訳およびクラウドソーシングによる事後編集を組み合わせたものである。 また、一部の問題（言語ごとに 2850 問）に対して文化的感受性のアノテーションを含み、それらを Culturally Sensitive（CS）🗽 または Culturally Agnostic（CA）⚖️ に分類している。これらのアノテーションは、Cohere Labs が主導し、産業界と学術界の多くの外部協力者と共同で進めたオープンサイエンスの取り組みの一環として収集された。

• キュレーション: Cohere Labs Community のプロのアノテーターと貢献者。
• 言語: 42 言語。
• ライセンス: Apache 2.0

注: また、"lite" 版の Global MMLU として "Global-MMLU-Lite" も提供している。このデータセットは、言語ごとに CA と CS の各サブセットを 200 サンプルずつ含み、よりバランスが取れている。また、15 言語について人手による翻訳をカバーしている。

Global-MMLU データセットファミリー:

名前	説明
Global-MMLU	CS と CA のサブセットを含む、全 14K サンプルの翻訳を含む Global-MMLU の全セット
Global-MMLU-Lite	15 言語で人手翻訳されたサンプルを持ち、言語ごとに CS と CA のサブセットをそれぞれ 200 サンプル含む、Global-MMLU の lite 版。

datasets で読み込む

datasets でこのデータセットを読み込むには、まず pip install datasets でインストールし、次のコードを使う:

from datasets import load_dataset

# load HF dataset
global_mmlu = load_dataset("CohereLabs/Global-MMLU", 'en')

# can also be used as pandas dataframe
global_mmlu.set_format("pandas")
global_mmlu_test = global_mmlu['test'][:]
global_mmlu_dev = global_mmlu['dev'][:]

追加の詳細

文化的バイアスの調査で収集したアノテーションに対応する列（'required_knowledge'、'time_sensitive'、'reference'、'culture'、'region'、'country'）には、異なるアノテーターのアノテーションを表す値のリストが含まれる。 ただし、HF のデータセットへの変換で問題が起きるのを避けるため、これらの列は最終的なデータセットでは文字列として提供している。 扱いやすくするため、次のようにこれらの列を値のリストに戻せる:

import ast

# convert string values to list
global_mmlu_df['required_knowledge'] = global_mmlu_df['required_knowledge'].apply(lamda x: ast.literal_eval(x))

データフィールド

データフィールドはすべての分割で共通である。各フィールドの簡単な説明を以下に示す。

データフィールドの説明

• sample_id: 問題を一意に識別する ID。
• subject: 問題が属する主なトピック。
• subject_category: subject が属する上位カテゴリ（すなわち STEM/Humanities/Social Sciences/Medical/Business/Other）。
• question: MMLU から翻訳された問題文。
• option_a: 選択肢の一つ。
• option_b: 選択肢の一つ。
• option_c: 選択肢の一つ。
• option_d: 選択肢の一つ。
• answer: 正解（A/B/C/D）。
• required_knowledge: 問題に正しく答えるために必要な知識について、アノテーターの投票。取りうる値は "cultural"、"regional"、"dialect"、"none" など。
• time_sensitive: 問題の答えが時期に依存するかどうかを示す、アノテーターの投票。取りうる値は Yes/No など。
• reference: 問題のどの部分に文化・地域・方言への言及が含まれるかを示すアノテーション。リストの各項目は異なるアノテーターによるアノテーションである。
• culture: 問題がどの文化に属するかを示すアノテーション。リストの各項目は異なるアノテーターによるアノテーションに対応する。
• region: 問題が関係する地理的地域。リストの各項目は異なるアノテーターによるアノテーションに対応する。
• country: 問題が関係する具体的な国。リストの各項目は異なるアノテーターによるアノテーションに対応する。
• cultural_sensitivity_label: アノテーターの投票に基づき、問題が文化的に敏感（CS）か文化的に中立（CA）かを示すラベル。
• is_annotated: サンプルに文化的バイアスの調査によるアノテーションが含まれるかを示す True/False のフラグ。

データの分割

データの分割は次のとおり:

分割	インスタンス数	言語のカバー範囲
test	589,764	42
dev	11,970	42

データのインスタンス

test セットの例は次のとおり:

{'sample_id': 'world_religions/test/170'
 'subject': 'world_religions',
 'subject_category': 'Humanities',
 'question': ' The numen of Augustus referred to which of the following characteristics?',
 'option_a': 'Divine power',
 'option_b': 'Sexual virility',
 'option_c': 'Military acumen',
 'option_d': 'Philosophical intellect',
 'answer': 'A',
 'required_knowledge': "['none', 'cultural', 'cultural', 'cultural']",
 'time_sensitive': "['No', 'No', 'No', 'No']",
 'reference': "['-', '-', {'end': 22, 'label': 'Cultural', 'score': None, 'start': 5}, {'end': 22, 'label': 'Cultural', 'score': None, 'start': 5}]",
 'culture': "['Western Culture', 'Western Culture', 'Western Culture']",
 'region': "['North America', 'Europe']",
 'country': "['Italy']",
 'cultural_sensitivity_label': 'CS',
 'is_annotated': True,
 }

統計

アノテーションの種類

最終的なデータセットにおける CS🗽、CA⚖️、MA📝 のサンプルの内訳は次のとおり。

アノテーションの種類	言語ごとのインスタンス数	言語数	インスタンスの合計
Culturally Sensitive 🗽	792	42	33,264
Culturally Agnostic ⚖️	2058	42	86,436
MMLU にアノテーション済み 📝	2850	42	119,700

言語

このデータセットは 42 言語を対象とし、そのうち 20 言語が高資源、9 言語が中資源、13 言語が低資源である。以下にデータセットに含まれる言語の詳細を示す。

言語の情報

ISO コード	言語	資源量
am	アムハラ語	低
ar	アラビア語（標準）	高
bn	ベンガル語	中
cs	チェコ語	高
de	ドイツ語	高
el	ギリシャ語	中
en	英語	高
fil	フィリピノ語	中
fr	フランス語	高
ha	ハウサ語	低
he	ヘブライ語	中
hi	ヒンディー語	高
ig	イボ語	低
id	インドネシア語	中
it	イタリア語	高
ja	日本語	高
ky	キルギス語	低
ko	韓国語	中
lt	リトアニア語	中
mg	マダガスカル語	低
ms	マレー語	中
ne	ネパール語	低
nl	オランダ語	高
ny	チェワ語	低
fa	ペルシア語	高
pl	ポーランド語	高
pt	ポルトガル語	高
ro	ルーマニア語	中
ru	ロシア語	高
si	シンハラ語	低
sn	ショナ語	低
so	ソマリ語	低
es	スペイン語	高
sr	セルビア語	高
sw	スワヒリ語	低
sv	スウェーデン語	高
te	テルグ語	低
tr	トルコ語	高
uk	ウクライナ語	中
vi	ベトナム語	高
yo	ヨルバ語	低
zh	中国語（簡体字）	高

既知の制限

以下に、このデータセットの制限の概要を示す。

制限を表示

• 言語と方言のカバー範囲: Global-MMLU は 42 言語を対象としている。しかし、これは世界の言語の多様性のごく一部にすぎない。今後は、これら 42 言語を超えて評価を改善し、技術が異なる方言にどう役立つかを考慮する研究が必要である。
• 貢献の偏り: このデータセットには、コミュニティのボランティアによる翻訳の事後編集が含まれる。ボランティアには、貢献が 1 回か 2 回しかない「ロングテール」の人々も多い。同様に、貢献数が最も多い言語と最も少ない言語の間には大きな差がある。
• 有害または攻撃的な発言: アノテーションの過程では、有害または攻撃的な発言の検出に重点を置かなかった。そのため、Global-MMLU には有害とみなされうるデータが含まれている可能性がある。元の MMLU の性質と、試験問題に焦点を当てていることから、そのリスクは比較的低いと考えている。
• 地域カテゴリの割り当て: 地理的に敏感な問題のアノテーションでは、地域を 6 つの地理的地域（Africa、Asia、Europe、North America、Oceania、South America）に分類した。ただし、議論に基づき、今後は World Bank が提案する分類体系への切り替えを推奨する。この体系はより細かく、Central America と Sub-Saharan Africa を別々に示している。
• 文化的感受性を特定しても、文化的な包摂は保証されない: Global-MMLU は、非西洋の文化の表現に生じている欠落を特定することで、現在のデータセットの重要な制約を明らかにしている。今後は、多言語の AI 評価において真の包摂性と公平性を実現するため、多様な文化に根ざした知識の統合を優先する必要がある。

補足情報

出所

• 使用した方法: プロによるアノテーションと、ボランティアのアノテーションによるクラウドソーシング。
• 方法の詳細: 異なる mmlu の問題について、文化的バイアスのアノテーションと翻訳の事後編集を収集した。
  • 文化的感受性のアノテーション基盤
  • 翻訳品質のアノテーション基盤
  • 収集期間: 2024 年 5 月〜2024 年 8 月

データセットのバージョンと保守

• 保守の状況: 積極的に保守中
• バージョンの詳細:
  • 現在のバージョン: 1.0
  • 最終更新: 12/2024
  • 初版公開: 12/2024

作成者

• 発行組織: Cohere Labs
• 業種: 非営利 - テック

ライセンス情報

このデータセットは、Apache 2.0 ライセンスの条件のもとで、どのような目的にも使用できる。

追加の詳細

その他の詳細については、論文 Global MMLU: Understanding and Addressing Cultural and Linguistic Biases in Multilingual Evaluation を参照のこと。

引用情報

@misc{singh2024globalmmluunderstandingaddressing,
      title={Global MMLU: Understanding and Addressing Cultural and Linguistic Biases in Multilingual Evaluation}, 
      author={Shivalika Singh and Angelika Romanou and Clémentine Fourrier and David I. Adelani and Jian Gang Ngui and Daniel Vila-Suero and Peerat Limkonchotiwat and Kelly Marchisio and Wei Qi Leong and Yosephine Susanto and Raymond Ng and Shayne Longpre and Wei-Yin Ko and Madeline Smith and Antoine Bosselut and Alice Oh and Andre F. T. Martins and Leshem Choshen and Daphne Ippolito and Enzo Ferrante and Marzieh Fadaee and Beyza Ermis and Sara Hooker},
      year={2024},
      eprint={2412.03304},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2412.03304}, 
}

原文（英語）

Dataset Summary

Global-MMLU 🌍 is a multilingual evaluation set spanning 42 languages, including English. This dataset combines machine translations for MMLU questions along with professional translations and crowd-sourced post-edits. It also includes cultural sensitivity annotations for a subset of the questions (2850 questions per language) and classifies them as Culturally Sensitive (CS) 🗽 or Culturally Agnostic (CA) ⚖️. These annotations were collected as part of an open science initiative led by Cohere Labs in collaboration with many external collaborators from both industry and academia.

• Curated by: Professional annotators and contributors of Cohere Labs Community.
• Language(s): 42 languages.
• License: Apache 2.0

Note: We also provide a "lite" version of Global MMLU called "Global-MMLU-Lite". This datatset is more balanced containing 200 samples each for CA and CS subsets for each language. And provides coverage for 15 languages with human translations.

Global-MMLU Dataset Family:

Name	Explanation
Global-MMLU	Full Global-MMLU set with translations for all 14K samples including CS and CA subsets
Global-MMLU-Lite	Lite version of Global-MMLU with human translated samples in 15 languages and containing 200 samples each for CS and CA subsets per language.

Load with Datasets

To load this dataset with datasets, you'll first need to install it using pip install datasets and then use the following code:

from datasets import load_dataset

# load HF dataset
global_mmlu = load_dataset("CohereLabs/Global-MMLU", 'en')

# can also be used as pandas dataframe
global_mmlu.set_format("pandas")
global_mmlu_test = global_mmlu['test'][:]
global_mmlu_dev = global_mmlu['dev'][:]

additional details

The columns corresponding to annotations collected from our cultural bias study (i.e. 'required_knowledge', 'time_sensitive', 'reference', 'culture', 'region', 'country') contain a list of values representing annotations from different annotators. However, to avoid conversion issues to HF dataset, these columns are provided as string in the final dataset. You can convert these columns back to list of values for easier manipulation as follows:

import ast

# convert string values to list
global_mmlu_df['required_knowledge'] = global_mmlu_df['required_knowledge'].apply(lamda x: ast.literal_eval(x))

Data Fields

The data fields are the same among all splits. Brief description of each field is provided below.

data field description

• sample_id: A unique identifier for the question.
• subject: The main topic the question falls under.
• subject_category: The high-level category the subject falls under i.e. STEM/Humanities/Social Sciences/Medical/Business/Other.
• question: translated question from MMLU
• option_a: one of the possible option choices
• option_b: one of the possible option choices
• option_c: one of the possible option choices
• option_d: one of the possible option choices
• `answer': the correct answer (A/B/C/D)
• required_knowledge: annotator votes for knowledge needed to answer the question correctly. Possible values include: "cultural", "regional", "dialect" or "none"
• time_sensitive: annotator votes indicating if the question's answer is time-dependent. Possible values include: Yes/No
• reference: annotations for which part of the question contains cultural/regional/dialect references. The different items in the list are annotations from different annotators.
• culture: annotations for which culture does the question belong to. The different items in the list correspond to annotations from different annotators.
• region: Geographic region the question is relevant to. Each item in the list correspond to annotations from different annotators.
• country: Specific country the question pertains to. Each item in the list correspond to annotations from different annotators.
• cultural_sensitivity_label: Label to indicate if question is culturally sensitive (CS) or culturally agnostic (CA) based on annotator votes.
• is_annotated: True/False flag to indicate if sample contains any annotations from our cultural bias study.

Data Splits

The following are the splits of the data:

Split	No. of instances	Language Coverage
test	589,764	42
dev	11,970	42

Data Instances

An example from test set looks as follows:

{'sample_id': 'world_religions/test/170'
 'subject': 'world_religions',
 'subject_category': 'Humanities',
 'question': ' The numen of Augustus referred to which of the following characteristics?',
 'option_a': 'Divine power',
 'option_b': 'Sexual virility',
 'option_c': 'Military acumen',
 'option_d': 'Philosophical intellect',
 'answer': 'A',
 'required_knowledge': "['none', 'cultural', 'cultural', 'cultural']",
 'time_sensitive': "['No', 'No', 'No', 'No']",
 'reference': "['-', '-', {'end': 22, 'label': 'Cultural', 'score': None, 'start': 5}, {'end': 22, 'label': 'Cultural', 'score': None, 'start': 5}]",
 'culture': "['Western Culture', 'Western Culture', 'Western Culture']",
 'region': "['North America', 'Europe']",
 'country': "['Italy']",
 'cultural_sensitivity_label': 'CS',
 'is_annotated': True,
 }

Statistics

Annotation Types

The following is the breakdown of CS🗽, CA⚖️ and MA📝 samples in the final dataset.

Type of Annotation	Instances per language	No. of languages	Total instances
Culturally Sensitive 🗽	792	42	33,264
Culturally Agnostic ⚖️	2058	42	86,436
MMLU Annotated 📝	2850	42	119,700

Languages

The dataset covers 42 languages: 20 high-resource, 9 mid-resource, and 13 low-resource languages. The following is details about the languages included in the dataset.

Languages Info

ISO Code	Language	Resources
am	Amharic	Low
ar	Arabic (Standard)	High
bn	Bengali	Mid
cs	Czech	High
de	German	High
el	Greek	Mid
en	English	High
fil	Filipino	Mid
fr	French	High
ha	Hausa	Low
he	Hebrew	Mid
hi	Hindi	High
ig	Igbo	Low
id	Indonesian	Mid
it	Italian	High
ja	Japanese	High
ky	Kyrgyz	Low
ko	Korean	Mid
lt	Lithuanian	Mid
mg	Malagasy	Low
ms	Malay	Mid
ne	Nepali	Low
nl	Dutch	High
ny	Chichewa	Low
fa	Persian	High
pl	Polish	High
pt	Portuguese	High
ro	Romanian	Mid
ru	Russian	High
si	Sinhala	Low
sn	Shona	Low
so	Somali	Low
es	Spanish	High
sr	Serbian	High
sw	Swahili	Low
sv	Swedish	High
te	Telugu	Low
tr	Turkish	High
uk	Ukrainian	Mid
vi	Vietnamese	High
yo	Yorùbá	Low
zh	Chinese (Simplified)	High

Known Limitations

A brief overview of limitations of this dataset is provided below.

show limitations

• Language and dialect coverage: Global-MMLU focusses on 42 languages. However, this is still only a tiny fraction of the world’s linguistic diversity. Future work is needed to continue to improve evaluations beyond these 42 languages and take into account how technology serves different dialects.
• Uneven distribution of contributions: The dataset contains translation post-edits from community volunteers, with a 'long tail' of volunteers making only one or two contributions. Similarly, there is a huge gap between languages with the highest number of contributions and ones with the lowest number of contributions.
• Toxic or offensive speech: Our annotation process did not focus on flagging for toxic,harmful, or offensive speech, so it is possible that Global-MMLU contains some data that could be considered harmful. We believe this is of relatively low risk because of the nature of the original MMLU and the focus on examination material.
• Region Category Assignment: For the annotation of geographically sensitive questions, we classified regions into six geographic regions (Africa, Asia, Europe, North America, Oceania,and South America). However, based upon discussions we would going forward recommend switching to the taxonomy proposed by the World Bank which is more granular and includes separate designations for Central America and Sub-Saharan Africa.
• Identifying cultural sensitivity does not guarantee cultural inclusion: While Global-MMLU highlights important limitations in current datasets by identifying gaps in non-Western cultural representation. Future work must prioritize the integration of diverse culturally grounded knowledge to achieve true inclusivity and fairness in multilingual AI evaluation.

Additional Information

Provenance

• Methods Used: Professional annotations as well as crowd-sourced through volunteer annotations.
• Methodology Details: We collected cultural bias annotations as well as post-edits of translations for different mmlu questions.
  • Cultural Sensitivity Annotation Platform
  • Translation Quality Annotation Platform
  • Dates of Collection: May 2024 - Aug 2024

Dataset Version and Maintenance

• Maintenance Status: Actively Maintained
• Version Details:
  • Current version: 1.0
  • Last Update: 12/2024
  • First Release: 12/2024

Authorship

• Publishing Organization: Cohere Labs
• Industry Type: Not-for-profit - Tech

Licensing Information

This dataset can be used for any purpose, under the terms of the Apache 2.0 License.

Additional Details

For any additional details, please check our paper, Global MMLU: Understanding and Addressing Cultural and Linguistic Biases in Multilingual Evaluation.

Citation Information

@misc{singh2024globalmmluunderstandingaddressing,
      title={Global MMLU: Understanding and Addressing Cultural and Linguistic Biases in Multilingual Evaluation}, 
      author={Shivalika Singh and Angelika Romanou and Clémentine Fourrier and David I. Adelani and Jian Gang Ngui and Daniel Vila-Suero and Peerat Limkonchotiwat and Kelly Marchisio and Wei Qi Leong and Yosephine Susanto and Raymond Ng and Shayne Longpre and Wei-Yin Ko and Madeline Smith and Antoine Bosselut and Alice Oh and Andre F. T. Martins and Leshem Choshen and Daphne Ippolito and Enzo Ferrante and Marzieh Fadaee and Beyza Ermis and Sara Hooker},
      year={2024},
      eprint={2412.03304},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2412.03304}, 
}