Hugging Face's logo

Datasets:
hpprc
/
jawiki

Modalities:
Text
Formats:
parquet
Languages:
Japanese
Size:
1M - 10M
Libraries:
Datasets
Dask
License:
Dataset card Data Studio Files
xet
 Community
1
Dataset Viewer
Auto-converted to Parquet Duplicate
id
int64
5
471k
title
stringlengths
1
74
text
stringlengths
0
233k
paragraphs
list
abstract
stringlengths
1
4.6k
⌀
wikitext
stringlengths
22
486k
⌀
date_created
stringlengths
20
20
⌀
date_modified
stringlengths
20
20
is_disambiguation_page
bool
2 classes
is_sexual_page
bool
2 classes
is_violent_page
bool
2 classes
templates
sequence
url
stringlengths
31
561
5
アンパサンド
アンパサンド(&, 英語: ampersand)は、並立助詞「...と...」を意味する記号である。ラテン語で「...と...」を表す接続詞 "et" の合字を起源とする。現代のフォントでも、Trebuchet MS など一部のフォントでは、"et" の合字であることが容易にわかる字形を使用している。 英語で教育を行う学校でアルファベットを復唱する場合、その文字自体が単語となる文字("A", "I", かつては "O" も)については、伝統的にラテン語の per se(それ自体)を用いて "A per se A" のように唱えられていた。また、アルファベットの最後に、27番目の文字のように "&" を加えることも広く行われていた。"...
[ { "paragraph_id": 0, "tag": "p", "text": "アンパサンド(&, 英語: ampersand)は、並立助詞「...と...」を意味する記号である。ラテン語で「...と...」を表す接続詞 \"et\" の合字を起源とする。現代のフォントでも、Trebuchet MS など一部のフォントでは、\"et\" の合字であることが容易にわかる字形を使用している。", "title": null }, { "paragraph_id": 1, "tag": "p", "text": "英語で教育を行う学校でアルファベットを復唱する場合...
アンパサンドは、並立助詞「…と…」を意味する記号である。ラテン語で「…と…」を表す接続詞 "et" の合字を起源とする。現代のフォントでも、Trebuchet MS など一部のフォントでは、"et" の合字であることが容易にわかる字形を使用している。
{{Redirect|&}} {{Otheruses|記号|競走馬|アンパサンド (競走馬)}} {{WikipediaPage|「アンパサンド (＆)」の使用|WP:JPE#具体例による説明}} {{複数の問題|出典の明記=2018年10月8日 (月) 14:50 (UTC)|独自研究=2018年10月8日 (月) 14:50 (UTC)}} {{記号文字|&}} [[File:Trebuchet MS ampersand.svg|thumb|100px|[[Trebuchet MS]] フォント]] '''アンパサンド'''（'''&''', {{Lang-en|ampersand}}）は、並立助詞「…と…」を意...
null
2023-07-22T23:46:20Z
false
false
false
[ "Template:OED", "Template:Subscription", "Template:Commons", "Template:Otheruses", "Template:Citation needed", "Template:Reflist", "Template:El", "Template:CharCode", "Template:Cite book", "Template:Lang-en", "Template:Quote", "Template:Clear", "Template:複数の問題", "Template:仮リンク", "Templat...
https://ja.wikipedia.org/wiki/%E3%82%A2%E3%83%B3%E3%83%91%E3%82%B5%E3%83%B3%E3%83%89
10
言語
言語(げんご)は、狭義には「声による記号の体系」をいう。 広辞苑や大辞泉には次のように解説されている。 『日本大百科全書』では、「言語」という語は多義である、と解説され、大脳の言語中枢(英語版)に蓄えられた《語彙と文法規則の体系》を指すこともあり、その体系を用いる能力としてとらえることもある、と解説され、一方では、抽象的に「すべての人間が共有する言語能力」を指すこともあり、「個々の個別言語」を指すこともある、と解説されている。 広義の言語には、verbalな(言葉に表す)ものとnon-verbalな(言葉として表されない)もの(各種記号、アイコン、図形、ボディーランゲージ等)の両方を含み、日常のコミュニケーションでは狭義の言語表現に...
[ { "paragraph_id": 0, "tag": "p", "text": "言語(げんご)は、狭義には「声による記号の体系」をいう。", "title": null }, { "paragraph_id": 1, "tag": "p", "text": "広辞苑や大辞泉には次のように解説されている。", "title": null }, { "paragraph_id": 2, "tag": "p", "text": "『日本大百科全書』では、「言語」という語は多義である、と解説され、大脳の言語中枢(英語版)に蓄え...
言語（げんご）は、狭義には「声による記号の体系」をいう。 広辞苑や大辞泉には次のように解説されている。 人間が音声や文字を用いて思想・感情・意志等々を伝達するために用いる記号体系。およびそれを用いる行為（広辞苑）。音声や文字によって、人の意志・思想・感情などの情報を表現したり伝達する、あるいは他者のそれを受け入れ、理解するための約束・規則。および、そうした記号の体系（大辞泉）。 ある特定の集団が用いる、音や文字による事態の伝達手段（個別言語のことで、英語・フランス語・日本語などのこと）。 ソシュールの用語「langue ラング」の日本語での訳語。 『日本大百科全書』では、「言語」という語は多義である、と解説され、大脳の言語中枢に蓄え...
'''言語'''（げんご）は、狭義には「声による記号の体系」をいう<ref name="yamamoto" />。 [[広辞苑]]や[[大辞泉]]には次のように解説されている<ref name="koujien">広辞苑　第六版「げんご（言語）」</ref>。 *[[人間]]が[[音声]]や[[文字]]を用いて[[思想]]・[[感情]]・[[意志]]等々を伝達するために用いる記号体系<ref name="koujien" />。およびそれを用いる[[行為]]（広辞苑<ref name="koujien" />）。音声や文字によって、人の意志・思想・感情などの情報を表現したり伝達する、あるいは他者のそれを受け入れ、理解するための約...
2002-09-10T19:25:48Z
2023-12-02T12:16:40Z
false
false
false
[ "Template:Plainlist", "Template:脚注ヘルプ", "Template:Wiktionary", "Template:Commons", "Template:Spedia", "Template:Main", "Template:See also", "Template:脳科学辞典", "Template:リンク切れ", "Template:Seealso", "Template:Cite web", "Template:En icon", "Template:Kotobank", "Template:仮リンク", "Template:Not...
https://ja.wikipedia.org/wiki/%E8%A8%80%E8%AA%9E
11
日本語
"日本語(にほんご、にっぽんご)は、日本国内や、かつての日本領だった国(...TRUNCATED)
[{"paragraph_id":0,"tag":"p","text":"日本語(にほんご、にっぽんご)は、日本国内や(...TRUNCATED)
"日本語（にほんご、にっぽんご）は、日本国内や、かつての日本領だった(...TRUNCATED)
"{{Infobox Language\n| name = {{big|{{ruby-ja|日|に}}}}{{big|{{ruby-ja|本|ほん}}}}{{big|{{ruby-(...TRUNCATED)
2002-09-10T19:26:02Z
2023-12-30T06:50:28Z
false
false
false
["Template:Sisterlinks","Template:関連項目過剰","Template:日本関連の項目","Template:Nor(...TRUNCATED)
https://ja.wikipedia.org/wiki/%E6%97%A5%E6%9C%AC%E8%AA%9E
12
地理学
"地理学(ちりがく、英: geography、仏: géographie、伊: geografia、独: Geographie (-fie(...TRUNCATED)
[{"paragraph_id":0,"tag":"p","text":"地理学(ちりがく、英: geography、仏: géographie、(...TRUNCATED)
"地理学は、地球表面の自然・人文事象の状態と、それらの相互関係を研究(...TRUNCATED)
"{{otheruses||プトレマイオスの著書|地理学 (プトレマイオス)}}\n{{出典の明記|(...TRUNCATED)
2002-09-10T19:26:41Z
2023-11-16T13:06:25Z
false
false
false
["Template:Main","Template:節スタブ","Template:脚注ヘルプ","Template:参照方法","Templat(...TRUNCATED)
https://ja.wikipedia.org/wiki/%E5%9C%B0%E7%90%86%E5%AD%A6
14
EU (曖昧さ回避)
EU
[ { "paragraph_id": 0, "tag": "p", "text": "EU", "title": null } ]
EU
"'''EU'''\n\n== EU ==\n* 地理\n** [[欧州連合]]の英語とドイツ語などの略語\n** [[(...TRUNCATED)
2002-09-10T19:28:17Z
2023-12-24T11:11:55Z
true
false
false
["Template:Lang-es","Template:Lang","Template:Interlang","Template:En","Template:Lang-gl","Template:(...TRUNCATED)
https://ja.wikipedia.org/wiki/EU_(%E6%9B%96%E6%98%A7%E3%81%95%E5%9B%9E%E9%81%BF)
23
国の一覧
"国の一覧(くにのいちらん)は、世界の独立国の一覧。\n国際法上国家と言(...TRUNCATED)
[{"paragraph_id":0,"tag":"p","text":"国の一覧(くにのいちらん)は、世界の独立国の(...TRUNCATED)
国の一覧（くにのいちらん）は、世界の独立国の一覧。
"{{特殊文字}}\n'''国の一覧'''（くにのいちらん）は、[[世界]]の[[国家|独立(...TRUNCATED)
2002-09-10T20:42:39Z
2023-11-24T05:44:52Z
false
false
false
["Template:Lang-tn","Template:Cite web","Template:Lang-fa","Template:Lang-hy","Template:Lang-de","Te(...TRUNCATED)
https://ja.wikipedia.org/wiki/%E5%9B%BD%E3%81%AE%E4%B8%80%E8%A6%A7
31
パリ
"パリ市(パリし、仏: Ville de Paris)、通称パリ(仏: Paris、巴里)は、フランスの(...TRUNCATED)
[{"paragraph_id":0,"tag":"p","text":"パリ市(パリし、仏: Ville de Paris)、通称パリ(仏: (...TRUNCATED)
"パリ市、通称パリは、フランスの首都。イル＝ド＝フランス地域圏の首府(...TRUNCATED)
"{{Otheruses}}\n{{Infobox settlement\n| name =パリ\n| official_name = '''パリ市'''<br/>Ville de(...TRUNCATED)
2002-09-26T07:50:05Z
2023-11-28T08:01:39Z
false
false
false
["Template:Wiktionary","Template:メガシティ","Template:Double image","Template:Wide image","Tem(...TRUNCATED)
https://ja.wikipedia.org/wiki/%E3%83%91%E3%83%AA
32
ヨーロッパ
"ヨーロッパ(ポルトガル語・オランダ語: Europa ポルトガル語: [ew.ˈɾɔ.pɐ] (...TRUNCATED)
[{"paragraph_id":0,"tag":"p","text":"ヨーロッパ(ポルトガル語・オランダ語: Europa (...TRUNCATED)
"ヨーロッパは地球上の7つの大州の一つ。漢字表記は欧羅巴であり欧州（(...TRUNCATED)
"{{otheruses}}\n{{Infobox Continent\n|title = ヨーロッパ\n|image = (...TRUNCATED)
2002-09-27T05:48:30Z
2023-12-23T14:54:23Z
false
false
false
["Template:Efn","Template:Lang-nl","Template:Reflist","Template:Ill","Template:Legend0","Template:Se(...TRUNCATED)
https://ja.wikipedia.org/wiki/%E3%83%A8%E3%83%BC%E3%83%AD%E3%83%83%E3%83%91
42
生物
"生物(せいぶつ、英: life、独: Organismus、Lebewesen)は、無生物と区別される属(...TRUNCATED)
[{"paragraph_id":0,"tag":"p","text":"生物(せいぶつ、英: life、独: Organismus、Lebewesen)(...TRUNCATED)
"生物は、無生物と区別される属性、つまり「生命」を備えているものの総(...TRUNCATED)
"{{redirect|生命体|星野源の楽曲|生命体 (曲)}}\n{{Otheruses|生きているもの全般(...TRUNCATED)
2002-11-07T12:45:03Z
2023-12-22T09:43:06Z
false
false
false
["Template:Redirect","Template:Gallery","Template:詳細記事","Template:脚注ヘルプ","Template(...TRUNCATED)
https://ja.wikipedia.org/wiki/%E7%94%9F%E7%89%A9
43
コケ植物
"コケ植物(コケしょくぶつ、英: bryophyte)とは、維管束を持たず、胞子散布(...TRUNCATED)
[{"paragraph_id":0,"tag":"p","text":"コケ植物(コケしょくぶつ、英: bryophyte)とは、(...TRUNCATED)
"コケ植物とは、維管束を持たず、胞子散布を行う、単相（n）で有性の配(...TRUNCATED)
"{{Otheruses|非維管束で胞子散布を行うなどの特徴を持つ陸上植物|その中の[[(...TRUNCATED)
2002-11-07T13:34:35Z
2023-10-15T01:59:07Z
false
false
false
["Template:AUY","Template:Harvnb","Template:Commonscat","Template:Multiple image","Template:Sfn","Te(...TRUNCATED)
https://ja.wikipedia.org/wiki/%E3%82%B3%E3%82%B1%E6%A4%8D%E7%89%A9
End of preview. Expand in Data Studio

JaWiki

WikipediaのHTML形式のダンプファイルから抽出したテキストデータセットです。 Wikiextractorによって抽出したテキストデータと異なり、段落などの文書構造を維持したまま、不要なマークアップのないテキストが利用できます。

ダンプファイルは、2024年1月1日に公開されたものを利用しています。 また、各種NLPタスクに利用しやすいよう、様々なデータを同梱しています。

各種前処理スクリプトはGitHubのリポジトリをご参照ください。

データ構造

各レコードはWikipediaの記事一つに対応しています。 大まかなデータ構造と説明を以下に示します。

  • id (int)
  • title (str)
    • 記事タイトルです。
  • text (str)
    • 各段落の文章(paragraphsのtext)を改行で結合したテキストです。
  • paragraphs (list[dict[str, int | str]])
    • 記事中の段落の集合です。各段落は辞書型で表現されており、以下のデータ構造に基づきます。
      • paragraph_id (int)
        • 記事中で何番目の段落かを示す番号です。
      • tag (str)
        • 当該段落をマークアップしていたHTMLタグの名称です。
      • title (str | None)
        • 当該段落を含むセクションのタイトルです。
        • 存在しない場合もあります。
      • text (str)
        • 段落のテキスト本文です。
  • abstract (str | None)
    • 記事の要約です。
    • ない場合もあります。
  • wikitext (str)
    • wikitextによって抽出された記事本文です。比較・解析精度向上に資する目的でtextと併存しています。
  • date_created (str)
    • 記事が作成された日付です。
  • date_modified (str)
    • 記事が最後に編集された日付です。
  • is_disambiguation_page (bool)
    • 曖昧さ回避のためのページかどうかを表す値です。templatesに含まれる文字列から判別しています。
  • is_sexual_page (bool)
    • 性的な内容を含むページかどうかを表す値です。templatesに含まれる文字列から判別しています。
  • is_violent_page (bool)
    • 暴力的な内容を含むページかどうかを表す値です。templatesに含まれる文字列から判別しています。
  • templates (list[str])
    • 記事を作成する際に利用されたテンプレートのリストです。
  • url (str)

データセットの作成にあたり、singletongue/wikipedia-utilsを参考に実装を行いました。 この場を借りて感謝申し上げます。
Downloads last month
44
Size of downloaded dataset files:
11.7 GB
Size of the auto-converted Parquet files:
11.7 GB
Number of rows:
1,399,160