Dataset Viewer

The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

google/jigsaw_toxicity_pred(複製)

データの内容

Wikipedia のコメントに、人の評価者が有害な言動のラベルを付けた英語のデータ。1 行が 1 件のコメントで、本文を comment_text、有害の種類ごとのラベルを toxic、severe_toxic、obscene、threat、insult、identity_hate に 0 か 1 で入れている。ライセンスは CC0 だが、コメント本文は Wikipedia の CC-SA-3.0 の下にあると、カードは述べている。

データの概要

項目 値
行数 223,549(1 構成・2 分割の合計)
列数 7
容量 13.31 KB(ファイル 3 本)
ファイルの形式 py 1
言語 en
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
default train 159,571、test 63,978 7

列(構成 default)

列 型
comment_text string
toxic struct{class_label: struct{names: struct{…}}}
severe_toxic struct{class_label: struct{names: struct{…}}}
obscene struct{class_label: struct{names: struct{…}}}
threat struct{class_label: struct{names: struct{…}}}
insult struct{class_label: struct{names: struct{…}}}
identity_hate struct{class_label: struct{names: struct{…}}}

行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

google/jigsaw_toxicity_pred をリビジョン 9fca5f507ac11049ff34bb13c8546b01afcedbbd の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

  • 元のカードに論文へのリンクは見つからなかった

アノテーションの方法

キュレーションの根拠

本データセットは、オンライン上の有害な言動の事例を特定し、抑制する取り組みを支援するために作成された。

最初のデータ収集と正規化

本データセットは、Wikipedia のコメントの集まりである。

微調整に使うときの注意

  • 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
safety_judge_scoring.md 1. 安全性・モデレーション・ガードレール系データセット (L26) cc-by-sa-3.0 確認済 Q3 参照(食い違い・要確認) / 原文注記: - google/jigsaw_toxicity_pred (Jigsaw Toxic Comment Classification Challenge、Wikipedia talk) — cc0-1.0、train 1

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


[Dataset Name] のデータセットカード

目次

  • データセットの説明
    • データセットの概要
    • 対応タスクとリーダーボード
    • 言語
  • データセットの構造
    • データインスタンス
    • データフィールド
    • データ分割
  • データセットの作成
    • キュレーションの根拠
    • 元データ
    • アノテーション
    • 個人情報と機微情報
  • データ利用上の考慮事項
    • データセットの社会的影響
    • バイアスについての議論
    • その他の既知の制限
  • 補足情報
    • データセットのキュレーター
    • ライセンス情報
    • 引用情報
    • 貢献

データセットの説明

データセットの概要

人が関心のあることについて議論するのは難しいことがある。オンライン上での嫌がらせや中傷の脅威により、多くの人が自分の意見を表明することをやめ、異なる意見を求めることをあきらめている。プラットフォームは会話を効果的に成立させることに苦労しており、多くのコミュニティがユーザーのコメントを制限するか、完全に閉鎖している。本データセットは、人の評価者によって有害な言動のラベルが付けられた、多数の Wikipedia のコメントからなる。

対応タスクとリーダーボード

本データセットは、マルチラベル分類に対応している。

言語

コメントは英語である。

データセットの構造

データインスタンス

1 件のデータは、コメントと、それに対応しうる複数のラベルからなる。 {'id': '02141412314', 'comment_text': 'Sample comment text', 'toxic': 0, 'severe_toxic': 0, 'obscene': 0, 'threat': 0, 'insult': 0, 'identity_hate': 1, }

データフィールド

  • id: コメントの ID
  • comment_text: コメントの本文
  • toxic: コメントを分類する値。0(有害でない)または 1(有害)
  • severe_toxic: コメントを分類する値。0(重度の有害でない)または 1(重度の有害)
  • obscene: コメントを分類する値。0(わいせつでない)または 1(わいせつ)
  • threat: コメントを分類する値。0(脅威でない)または 1(脅威)
  • insult: コメントを分類する値。0(侮辱でない)または 1(侮辱)
  • identity_hate: コメントを分類する値。0(属性への憎悪でない)または 1(属性への憎悪)

データ分割

データは学習用とテスト用に分割されている。

データセットの作成

キュレーションの根拠

本データセットは、オンライン上の有害な言動の事例を特定し、抑制する取り組みを支援するために作成された。

元データ

最初のデータ収集と正規化

本データセットは、Wikipedia のコメントの集まりである。

元データの言語の作成者は誰か?

[More Information Needed]

アノテーション

アノテーションの過程

[More Information Needed]

アノテーターは誰か?

[More Information Needed]

個人情報と機微情報

[More Information Needed]

データ利用上の考慮事項

データセットの社会的影響

[More Information Needed]

バイアスについての議論

コメントに侮辱、罵倒、下品な言葉に関連する単語が含まれている場合、トーンや作者の意図(ユーモアや自虐など)に関係なく、有害と分類される可能性が高い。これは、すでに脆弱な立場にある少数派の集団に対する偏りを生むおそれがある。

その他の既知の制限

[More Information Needed]

補足情報

データセットのキュレーター

[More Information Needed]

ライセンス情報

"Toxic Comment Classification" データセットは [CC0] の下で公開されている。基になるコメント本文は、Wikipedia の [CC-SA-3.0] の下にある。

引用情報

引用情報はない。

貢献

本データセットを追加してくれた @Tigrex161 に感謝する。

原文(英語)

Dataset Card for [Dataset Name]

Dataset Summary

Discussing things you care about can be difficult. The threat of abuse and harassment online means that many people stop expressing themselves and give up on seeking different opinions. Platforms struggle to effectively facilitate conversations, leading many communities to limit or completely shut down user comments. This dataset consists of a large number of Wikipedia comments which have been labeled by human raters for toxic behavior.

Supported Tasks and Leaderboards

The dataset support multi-label classification

Languages

The comments are in English

Dataset Structure

Data Instances

A data point consists of a comment followed by multiple labels that can be associated with it. {'id': '02141412314', 'comment_text': 'Sample comment text', 'toxic': 0, 'severe_toxic': 0, 'obscene': 0, 'threat': 0, 'insult': 0, 'identity_hate': 1, }

Data Fields

  • id: id of the comment
  • comment_text: the text of the comment
  • toxic: value of 0(non-toxic) or 1(toxic) classifying the comment
  • severe_toxic: value of 0(non-severe_toxic) or 1(severe_toxic) classifying the comment
  • obscene: value of 0(non-obscene) or 1(obscene) classifying the comment
  • threat: value of 0(non-threat) or 1(threat) classifying the comment
  • insult: value of 0(non-insult) or 1(insult) classifying the comment
  • identity_hate: value of 0(non-identity_hate) or 1(identity_hate) classifying the comment

Data Splits

The data is split into a training and testing set.

Dataset Creation

Curation Rationale

The dataset was created to help in efforts to identify and curb instances of toxicity online.

Source Data

Initial Data Collection and Normalization

The dataset is a collection of Wikipedia comments.

Who are the source language producers?

[More Information Needed]

Annotations

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

If words that are associated with swearing, insults or profanity are present in a comment, it is likely that it will be classified as toxic, regardless of the tone or the intent of the author e.g. humorous/self-deprecating. This could present some biases towards already vulnerable minority groups.

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

The "Toxic Comment Classification" dataset is released under [CC0], with the underlying comment text being governed by Wikipedia's [CC-SA-3.0].

Citation Information

No citation information.

Contributions

Thanks to @Tigrex161 for adding this dataset.

Downloads last month
123