- 追加された行はこの色です。
- 削除された行はこの色です。
#author("2024-04-29T18:56:07+09:00","default:ogiwiki","ogiwiki")
#author("2024-04-30T18:01:13+09:00","default:ogiwiki","ogiwiki")
[[総研大2024]]
**2024/04/30 国語研の書き言葉コーパス [#he314895]
国語研の書き言葉コーパスについて最新の研究を含めて概説する。
-[[資料置き場>https://ninjal.sharepoint.com/sites/2024flrIIIA]]
--スライド1～3参照
***「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサンプリング [#s89fe505]
-https://clrd.ninjal.ac.jp/bccwj/
-均衡コーパス（Balanced corpus）
--「バランスがとれている」「代表性」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/icame/manuals/brown/]] http://khnt.aksis.uib.no/icame/manuals/brown/
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/docs/URG/]] http://www.natcorp.ox.ac.uk/docs/URG/
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>https://clrd.ninjal.ac.jp/bccwj/index.html]]
--BCCWJの基本設計：https://clrd.ninjal.ac.jp/bccwj/basic-design.html
--サンプリング：https://clrd.ninjal.ac.jp/bccwj/sampling.html
--XMLによる電子化：https://clrd.ninjal.ac.jp/bccwj/XML.html
***BCCWJ2 [#pab5a646]
--BCCWJ拡張計画
***「日本語歴史コーパス」（CHJ）の構成 [#x9f78d1c]
-https://clrd.ninjal.ac.jp/chj/
-残された資料に限りがある（そもそも偏りがある）歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難
:近世以前|残されている資料が少なく、できるだけ（可能なら全部）コーパスに入れたい
:近世（後期）以降|偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい（作品など資料単位で調査したい）
-[[『日本語歴史コーパス』>https://clrd.ninjal.ac.jp/chj/]]の中身
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本：年代・著者（・地域）のバランスを取って作品単位でサンプリング
***近代語コーパスの場合 [#p0de8288]
-[[近代雑誌コーパス>https://clrd.ninjal.ac.jp/cmj/]]（現在はCHJの一部）
--多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://clrd.ninjal.ac.jp/cmj/taiyou/index.html]]：8年おきに12冊ずつを対象
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文藝春秋）
-近代小説
--複数の有識者が日本語資料として選定・投票した結果（1980年代に作成した資料）をもとにサンプリング
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi_2019b_e3.pdf
***「昭和・平成書き言葉コーパス」（SHC）の構成 [#vfbcaa59]
-https://clrd.ninjal.ac.jp/shc/
-CHJの後を受けて現代までを通時的に研究するためのコーパス。1933年以降、8年おき11か年分（1933・1941・1949・1957・1965・1973・1981・1989・1997・2005・2013）を収録。
-2023年5月公開
:雑誌|1933～1957 年刊の『中央公論』と1965～2013 年刊の『文芸春秋』（8年おき11か年分）
:ベストセラー書籍|1933年以降、8年おき11か年のベストセラー書籍
:新聞|1933年以降、8年おき11か年の『読売新聞』奇数月2日の朝刊1冊
-[[論文：小木曽智信・近藤明日子・髙橋雄太・間淵洋子編（2024）「『昭和・平成書き言葉コーパス』の設計・構築・公開」『情報処理学会論文誌』65(2)>https://clrd.ninjal.ac.jp/shc/doc/IPSJ_SHC.pdf]]
***コーパスと著作権 [#xa8ac945]
-スライド参照
**2024/05/07 国語研のコーパスの形態論情報 [#n89c5b2a]
国語研コーパスへの形態論情報の付与について最新の研究を含めて概説する。
-[[資料置き場>https://ninjal.sharepoint.com/sites/2023flrIIIA]]
--[[資料置き場>https://ninjal.sharepoint.com/sites/2024flrIIIA]]
--スライド3～5参照
***コーパスの形態論情報 [#w3c3c79b]
--http://clrd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[（スライド）長単位と短単位>https://lms.seikei.ac.jp/lms/lginLgir/index?target=0APt-XEr]] 参照
--[[長単位と短単位・資料>https://lms.seikei.ac.jp/lms/lginLgir/index?target=gZObmws_]] 単位切りの例
--（参考）動画：コーパス検索システムの言語単位『短単位』 https://youtu.be/s5akpYOzNIU
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://lms.seikei.ac.jp/lms/lginLgir/index?target=0WibhrTq]]
***品詞体系 [#d6776112]
-BCCWJ・CHJは[[UniDic>https://clrd.ninjal.ac.jp/unidic/]]の品詞体系にもとづく（BCCWJのために開発されたのがUniDic）
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位：MeCabとUniDicを使った形態素解析で情報付与
-長単位：Comainu（など）で短単位を組み上げる
***形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]（MeCabとUniDicによる形態素解析をオンラインで行うツール）
--https://chamame.ninjal.ac.jp/
***形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***参考資料 [#t1ff9987]
-BCCWJ関連報告書 http://clrd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://doi.org/10.15084/00002855]]・[[第4版 下>http://doi.org/10.15084/00002856]]
//※冊子を配布します。
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
