id stringlengths 2 7 | title stringlengths 1 207 | url stringlengths 31 237 | text stringlengths 4 229k | images listlengths 0 3.34k |
|---|---|---|---|---|
13 | 数学 | https://zh.wikipedia.org/wiki/数学 | 数学
<image>
数学是研究数量、结构以及空间等概念及其变化的一门学科,属于形式科学的一种。数学利用抽象化和逻辑推理,从计数、计算、量度、对物体形状及运动的观察发展而成。数学家们拓展这些概念,以公式化新的猜想,以及从选定的公理及定义出发,严谨地推导出一些定理。
纯粹数学的知识与运用是生活中不可或缺的一环。对数学基本概念的完善,早在古埃及、美索不达米亚及古印度历史上的古代数学文本便可观见,而在古希腊那里有更为严谨的处理。从那时开始,数学的发展便持续不断地小幅进展,至16世纪的文艺复兴时期,因为新的科学发现和数学革新两者的交互,致使数学的加速发展,直至今日。数学并成为许多国家及地区的教育中的一部分。
数学在许多领域都有应用,... | [
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/Euclid.jpg",
"file_name": "Euclid.jpg",
"caption": "欧几里得,公元前三世纪的古希腊数学家,而现在被认为是几何之父,此画为拉斐尔的作品《雅典学院》",
"alt": ""
},
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/Quipu_MKL_Bd._13_1890_(128905524).jpg",
"file_name": "Quipu ... |
18 | 哲学 | https://zh.wikipedia.org/wiki/哲学 | 哲学
哲学是研究普遍、基本问题的领域,包括存在、知识、价值、理智、心灵、语言、人生、道德等领域。哲学独特之处在于其思考方式,例如批判性思维、系统化的方法,并以理性论证为基础。纵观历史,许多独立的学科如物理学、生物学等自然科学,或法学、政治学、心理学等社会科学,都曾被视作哲学的一部分或其分支。直到后续发展才逐渐被视作今日意义上的独立学科。
哲学今日狭义的用法于近代晚期形成,目前主要与形而上学、认识论、伦理学和美学等子学科相关。除其他主题外,亦涵盖对现实、知识和价值观的理性研究。然而哲学不同于其他理性探究学科,例如经验科学和数学。
## 词源
西方语言的“哲学”一词主要继承自拉丁语philosophia,借自古希腊语φιλοσο... | [
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/Sanzio_01_Plato_Aristotle.jpg",
"file_name": "Sanzio 01 Plato Aristotle.jpg",
"caption": "柏拉图(左)和亚里士多德(右):裁剪自''雅典学院'',拉斐尔·圣齐奥作,1509",
"alt": ""
},
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/St-thomas-aquinas.jpg",
"fi... |
21 | 文学 | https://zh.wikipedia.org/wiki/文學 | 文学
文学(literature),在狭义上,是一种以语言和文字进行表达的艺术。亦即使用语言文字为手段,形象化地反映客观社会生活、表达主观作者思想感情的一种艺术。文学不仅强调传达思想观念,更强调传达方式的独特性,且讲究辞章的美感。
文学,在广义上,是任何单一的书面作品,或用文字写作来传达思想、表达情感、发挥想像的所有著作,此时又称文学作品。文学写作则是一种艺术形式,或被认为具有艺术或智力价值的任何单一作品,通常是由于以不同于普通用途的方式部署语言。中国先秦时期将以文字写成的作品都统称为文学,魏晋以后才逐渐将文学作品单独列出。在现代,则通常将文学分为韵文、散文、剧本、小说四大类别,是文化的重要表现形式,以不同的流派表现内心情感和再... | [
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/LuxorTemple03.jpg",
"file_name": "LuxorTemple03.jpg",
"caption": "埃及新王国时期时,卢克索神庙中象形茧上用圣书体书写的拉美西斯二世名字",
"alt": ""
},
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/Calligramme.jpg",
"file_name": "Calligramme.jpg",
"cap... |
22 | 历史 | https://zh.wikipedia.org/wiki/历史 | 历史
历史是对过去的系统研究。作为一门学科,历史分析和解释证据,构建关于发生的事情的叙述并解释其发生的原因,主要关注人类历史。一些理论家将历史归类为社会科学,而另一些人则将其视为人文学科的一部分或认为它是一门混合学科。围绕历史的目的也存在类似的争论——例如,它的主要目的是理论性的(揭示真理),还是实践性的(从过去吸取教训)。在比较不同的意义上,“历史”一词不是单指学术领域,而是指过去本身或关于过去的个别文本。
历史研究依靠一次文献和二次文献来重建过去的事件并验证解释。来源批判学用于评估资料,评估其真实性、内容和可靠性。历史学家整合多个单独资料的观点以形成连贯的叙述。不同的思想流派,如实证主义、年鉴学派、马克思主义和后现代主义,都... | [
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/POxy_v0017_n2099_a_01_hires_-_cropped.jpg",
"file_name": "POxy v0017 n2099 a 01 hires - cropped.jpg",
"caption": "古希腊历史文献《历史》,由希罗多德撰写",
"alt": "Photo of a damaged text written in black ink"
},
{
"url": "https://zh.wikipedia.org/wiki/Sp... |
25 | 计算机科学 | https://zh.wikipedia.org/wiki/计算机科学 | 计算机科学
计算机科学(computer science,缩写为CS)是系统性研究信息与计算的理论基础以及它们在计算机系统中如何实现与应用的实用技术的学科。它通常被形容为对那些创造、描述以及转换信息的算法处理的系统研究。计算机科学包含很多分支领域;有些强调特定结果的计算,比如计算机图形学;而有些是探讨计算问题的性质,比如计算复杂性理论;还有一些领域专注于怎样实现计算,比如程式语言理论是研究描述计算的方法,而程式设计是应用特定的程式语言解决特定的计算问题,人机交互则是专注于怎样使计算机和计算变得有用、好用,以及随时随地为人所用。
有时公众会误以为计算机科学就是解决计算机问题的事业(比如信息技术),或者只是与使用计算机的经验有关,如... | [
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/Enigma_Machine_at_NSA.jpg",
"file_name": "Enigma Machine at NSA.jpg",
"caption": "德军在二战时用于加密通信的恩尼格玛密码机。恩尼格玛加密信息在布莱切利园被大量破译被认为是帮助盟军在二战中获胜的重要因素。",
"alt": ""
},
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/Sorting_quicksort_an... |
39 | 民族 | https://zh.wikipedia.org/wiki/民族 | 民族
民族(ethnic group),又译民族集团,是一个以文化为纽带构成的共同体概念,其内涵与依附于某一国家的国族概念和基于血统的种族概念有些许不同。共同的母语通常被认为是构成一个民族身份的重要因素,也是民族性的核心组成部分。语言作为一个民族形成过程中长期共同生活之产物,是承载民族文化的主要载体,也被认为是决定民族认同感的第一要件。此外,语言并非是构成民族的唯一因素,一些族教群体也被认为是民族,而这些群体通常信仰统一的民族宗教。
## 词源
在汉语中,民族一词具有多重指涉,可以表达种族、国族、族群等近似概念,用法受到政治意识型态的影响,容易相互混淆。不同学科对于民族的定义也有许多歧异。民族一词在以中文翻译外语时也十分容易混... | [] |
45 | 戏剧 | https://zh.wikipedia.org/wiki/戲劇 | 戏剧
<image>
戏剧(drama)是演员将某个故事或情境,以对话、歌唱或动作等方式所表演出来的艺术。戏剧有四个元素,包括了“演员”、“故事(情境)”、“舞台(表演场地)”和“观众”。“演员”是四者当中最重要的元素,他是角色的代言人,必须具备扮演的能力,戏剧与其他艺术类最大的不同之处便在于扮演了,透过演员的扮演,剧本中的角色才得以伸张,如果抛弃了演员的扮演,那么所演出的便不再是戏剧。
即使在动画、木偶戏、皮影戏等没有演员现身的戏剧中,演员不过是隐藏在观众的视觉之外的地方演出。
戏剧的表演形式多种多样,常见的包括话剧、歌剧、舞剧、音乐剧、木偶戏等。由于文化背景的差别,不同文化所产生戏剧形式往往拥有独特的传统和程式,比如西方... | [
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/Comedy_and_tragedy_masks_without_background.svg",
"file_name": "Comedy and tragedy masks without background.svg",
"caption": "喜剧和悲剧的面具",
"alt": ""
},
{
"url": "https://zh.wikipedia.org/wiki/Special:FilePath/Drama-icon.svg",
"file_n... |
48 | 电影 | https://zh.wikipedia.org/wiki/电影 | "电影\n\n电影(movie / film),特点是运动/移动的画面(motion picture / moving pi(...TRUNCATED) | [{"url":"https://zh.wikipedia.org/wiki/Special:FilePath/Romance_of_the_Western_Chamber_poster.jpg","(...TRUNCATED) |
51 | 音乐 | https://zh.wikipedia.org/wiki/音乐 | "音乐\n\n<image>\n\n音乐,广义而言,就是指任何以声音组成的艺术。英文Music(...TRUNCATED) | [{"url":"https://zh.wikipedia.org/wiki/Special:FilePath/Anthony_inglis_conducting_melbourne_symphony(...TRUNCATED) |
53 | 经济学 | https://zh.wikipedia.org/wiki/经济学 | "经济学\n\n经济学(Economics),为研究商品和服务关系的社会科学,包括其(...TRUNCATED) | [{"url":"https://zh.wikipedia.org/wiki/Special:FilePath/Ballard_Farmers%27_Market_-_vegetables.jpg",(...TRUNCATED) |
中文维基百科图文交错数据集(简体中文)
正文与图片交错排列:text 里的每个 <image> 占位符对应 images 数组的
同一个位置,顺序就是图片在条目中原本出现的位置。格式对齐 MMC4/OBELICS 的惯例。
📅 当前版本:
2608(维基百科 dump 日期:2026/8/1)
字段
| 字段 | 说明 |
|---|---|
id / title / url |
同纯文本版,可用 id 对应 |
text |
条目全文,图片位置以 <image> 标示 |
images |
图片数组:url / file_name / caption / alt |
不变量:text.count("<image>") == len(images),全量实测 0 误差。章节被丢弃时
它的图片一并丢弃,两者永远对得上。
与纯文本版的差别只有 图片处理:纯文本版把标记整行移除、并清掉“拿掉图片后就空掉”的章节;这一版 保留它们——只有地图的一节对纯文本模型是空标题,对多模态模型是有价值的图文对。
⚠️ 图片授权各不相同(CC BY-SA、公有领域,也有合理使用的非自由图片)。 授权信息不在 dump 里,本数据集不含授权字段,使用前请自行向 Commons 查证。
2607 以前与 2608 起的差异
整条处理流程重写过,这不是单纯的月度刷新——数据的形状变了。
若你正在用 2607 或更早的版本,升级前请先看这张表:
2607 以前 |
2608 起 |
|
|---|---|---|
| 条数/单位 | 371 万行(段落级) | 148 万篇(文档级,一条目一条) |
| 文件格式 | JSON 分段(wiki_pretrain_part*.json) |
Parquet 分片 |
| 章节结构 | 切碎后不存在 | 保留 ## 层级 |
| 表格 | 整块丢弃 | 转成文字(表格占可见内容约 15%) |
| 代码 | 散文规则套上去,缩进与换行被破坏 | 逐字保留,``` 围栏 |
| 公式 | 丢弃 | 保留 LaTeX,以 $ 包住 |
| 信息框 | 整块丢弃 | 事实抽成 ## 基本资料,字段名取自维基的模板定义 |
| 繁简转换 | OpenCC | 维基官方转换表(合并成一张表跑单趟最长匹配,与 MediaWiki 一致) |
| 排版空格 | 有(pangu) | 移除——不可逆的有损转换,语料应保真 |
| 长度过滤 | 有 | 没有——一句话的条目也是完整知识 |
| 图片 | 54.8 万行(按文件名全局去重)、图说有 10.87% 夹着未清的 wiki 标记 | 91.5 万行(保留每张图的每个使用语境)、图说残留标记 0.00%、新增 page_id/page_url/alt/section |
| 图文交错 | 无 | 新增 omni 版(<image> 占位符 + images 数组) |
内容缺失率(全量,非抽样)
数据集的核心指标是“原文的东西丢了多少”——残留标记可以靠把整段删掉变成 0, 那不是干净。扫一次 dump,从源码取出可验证的内容项目,回头去两版正文里找。 只比两版都收录的 1,367,033 篇:
| 项目 | 样本数 | 2607 留住 |
2608 留住 |
|---|---|---|---|
| 公式 | 91,552 | 0.0% | 99.2% |
| 代码块 | 6,261 | 2.9% | 99.0% |
| 表格单元格 | 2,563,309 | 2.5% | 51.4% |
| 列表项 | 5,522,474 | 30.9% | 70.2% |
| 信息框字段值 | 6,721,977 | 5.1% | 30.7% |
| 段落句子 | 5,564,852 | 59.0% | 74.8% |
| 合计 | 20,470,425 | 26.4% | 56.3% |
连纯散文,2607 也只留住 59%——四成的正文句子不见了。
2608 的 56.3% 不是满分,但剩下的有明确归属:信息框字段值的探针含大量版面设置
(图片文件名、尺寸、色码),表格探针含样式属性(以人工挑过的探针量是 92.3% OK),
段落则是参考资料/外部链接等章节按设计整节不收。公式与代码的探针最干净,
99% 可视为保留率的上界参考。
条目收录:1,419,539 篇 → 1,482,182 篇(+62,643)。
实测对照(全量,非抽样)
把公开的 2607 数据整份抓下来(2.9 GB),与 2608 的全部 148 万篇套完全相同的
判准逐条扫描:
2607 以前 |
2608 起 |
||
|---|---|---|---|
| 条数 | 3,711,316 行 | 1,482,182 篇 | 单位从段落改成整篇 |
| 总字符 | 9.45 亿 | 17.56 亿 | ×1.86 |
| 每条平均字符 | 255 | 1,185 |
同一份维基百科,新版多出 8.1 亿字符——多的不是重复,是原本被丢掉的表格、 信息框事实、列表、代码与公式。
内容特征的出现率(2607 几乎全 0):
| 特征 | 2607 以前 |
2608 起 |
|---|---|---|
| 章节标题 | 0.00% | 84.21% |
| 列表项 | 0.00% | 72.92% |
| 信息框事实 | 0.01% | 53.26% |
| 表格行 | 0.02% | 16.23% |
| LaTeX 公式 | 0.00% | 1.12% |
| 代码围栏 | 0.00% | 0.11% |
排版与残留(每百万字符,已挖掉逐字区块):
2607 以前 |
2608 起 |
||
|---|---|---|---|
| 排版空格(pangu) | 36,851.26 | 1,276.03 | −96.5% |
| 私有区字符 | 0.38 | 0.00 | −99.8% |
| 表格空单元格 | 0.03 | 0.00 | 清零 |
| 残留标记合计 | 0.21 | ≤0.36 | 见下 |
残留那一项要说清楚:2607 之所以低,是因为它把含有这些标记的内容整批删掉了
——没有表格、没有信息框、没有代码,自然没有残留。2608 的残留已逐条归因
并逐条判断来源语义:<nowiki> 字面值、真实内容长得像标记({{1,2,3}} 是集合论、
A<B> a; 是 C++ 模板语法)、以及原文自己没关标签。
条数从 371 万“行”变成 148 万“篇”不是数据变少——切分单位从段落改成整篇。
要段落的人可自行以 \n\n 切,反过来救不回来。
2607 以前的版本仍存放在本 repo 的 YYMM/ 月份文件夹里,需要的话可以直接读旧路径。
这份数据怎么来的
从维基百科官方 dump 解析,每月更新。原则是只移除确定是标记的东西, 绝不删除自然语言内容:模板展开而非删除、表格转文字而非丢弃、代码与公式 逐字保留、图库图说当内容。完整说明与质量数据见 GitHub 项目。
质量
每一轮都跑全量审核,数字公开在项目 README:
| 检查 | 结果 |
|---|---|
| 代码块与源码逐字相符 | 繁体 94.201%;简体 94.038% |
| 公式与源码逐字相符 | 繁体 98.662%;简体 98.670% |
| 繁简两版结构对等 | ID 序列完全一致;抽验 20,000 篇为 0 个核心结构差异 |
| 模板/HTML/空白/私有区字符等 15 类硬性缺陷 | 0 |
授权
内容来自维基百科,采 CC BY-SA 4.0。使用时请保留 url/page_url 字段以符合署名要求。
联系与问题反馈
- 一般问题:GitHub Issues
- Email:huhu11256@gmail.com
- 安全漏洞:私密安全通报
- Downloads last month
- 29