id stringlengths 1 7 | url stringlengths 31 730 | title stringlengths 1 208 | text stringlengths 1 354k |
|---|---|---|---|
5 | https://ja.wikipedia.org/wiki/%E3%82%A2%E3%83%B3%E3%83%91%E3%82%B5%E3%83%B3%E3%83%89 | アンパサンド | アンパサンド（&, ）は、並立助詞「…と…」を意味する記号である。ラテン語で「…と…」を表す接続詞 "et" の合字を起源とする。現代のフォントでも、Trebuchet MS など一部のフォントでは、"et" の合字であることが容易にわかる字形を使用している。
語源
英語で教育を行う学校でアルファベットを復唱する場合、その文字自体が単語となる文字（"A", "I", かつては "O" も）については、伝統的にラテン語の per se（それ自体）を用いて "A per se A" のように唱えられていた。また、アルファベットの最後に、27番目の文字のように "&" を加えることも広く行われていた。"&" はラテン語で et と読... |
10 | https://ja.wikipedia.org/wiki/%E8%A8%80%E8%AA%9E | 言語 | 言語（げんご）は、狭義には「声による記号の体系」をいう。
広辞苑や大辞泉には次のように解説されている。
人間が音声や文字を用いて思想・感情・意志等々を伝達するために用いる記号体系。およびそれを用いる行為（広辞苑）。音声や文字によって、人の意志・思想・感情などの情報を表現したり伝達する、あるいは他者のそれを受け入れ、理解するための約束・規則。および、そうした記号の体系（大辞泉）。
ある特定の集団が用いる、音や文字による事態の伝達手段（個別言語のことで、英語・フランス語・日本語などのこと）。
ソシュールの用語「langue ラング」の日本語での訳語。
『日本大百科全書』では、「言語」という語は多義である、と解説され、大脳のに蓄えられた... |
11 | https://ja.wikipedia.org/wiki/%E6%97%A5%E6%9C%AC%E8%AA%9E | 日本語 | "日本語（にほんご、にっぽんご）は、日本国内や、かつての日本領だった(...TRUNCATED) |
12 | https://ja.wikipedia.org/wiki/%E5%9C%B0%E7%90%86%E5%AD%A6 | 地理学 | "は、地球表面の自然・人文事象の状態と、それらの相互関係を研究する学(...TRUNCATED) |
14 | https://ja.wikipedia.org/wiki/EU%20%28%E6%9B%96%E6%98%A7%E3%81%95%E5%9B%9E%E9%81%BF%29 | EU (曖昧さ回避) | "EU\n\nEU \n 地理\n 欧州連合の英語とドイツ語などの略語\n ユローパ島 () の F(...TRUNCATED) |
23 | https://ja.wikipedia.org/wiki/%E5%9B%BD%E3%81%AE%E4%B8%80%E8%A6%A7 | 国の一覧 | "国の一覧（くにのいちらん）は、世界の独立国の一覧。\n\n対象 \n\n国際法(...TRUNCATED) |
31 | https://ja.wikipedia.org/wiki/%E3%83%91%E3%83%AA | パリ | "パリ市（パリし、）、通称パリ（、巴里）は、フランスの首都。イル＝ド(...TRUNCATED) |
32 | https://ja.wikipedia.org/wiki/%E3%83%A8%E3%83%BC%E3%83%AD%E3%83%83%E3%83%91 | ヨーロッパ | "ヨーロッパ（ポルトガル語・ ）は地球上の7つの大州の一つ。漢字表記は(...TRUNCATED) |
42 | https://ja.wikipedia.org/wiki/%E7%94%9F%E7%89%A9 | 生物 | "は、無生物と区別される属性、つまり「生命」を備えているものの総称。(...TRUNCATED) |
43 | https://ja.wikipedia.org/wiki/%E3%82%B3%E3%82%B1%E6%A4%8D%E7%89%A9 | コケ植物 | "コケ植物（コケしょくぶつ、）とは、維管束を持たず、胞子散布を行う、(...TRUNCATED) |
End of preview. Expand in Data Studio
apache_beamとmwparserfromhellを用いて通常のWikipediaの前処理を行ったデータセットです。
本家の前処理時間が長すぎたため、前処理済みバージョンを配布しています。
各種規約・ライセンスは本家Wikipediaにしたがってください。
Preprocessing Code
import datasets as ds
dataset = ds.load_dataset(
"wikipedia",
language="ja",
date="20240101",
beam_runner="DirectRunner",
trust_remote_code=True,
)
dataset.push_to_hub("hpprc/wikipedia-20240101", max_shard_size="1GB")
- Downloads last month
- 33