東大2021 の履歴ソース(No.13)

#author("2021-04-28T10:14:34+00:00","default:ogiwiki","ogiwiki")
[[FrontPage]]

*言語学特殊講義XI／コーパス日本語学 [#f20f4b84]
-前期金曜4限：14:55-16:40
-Mail: ogiso@ogiso.net

-Zoomによるリアルタイムのオンライン授業形式で行います。ZoomのURLはITC-LMSのページで確認してください。
--[[文学部 04212151 言語学特殊講義XI>https://itc-lms.ecc.u-tokyo.ac.jp/lms/course?idnumber=2021042121510F01]]
--[[人文社会系研究科 21210110 コーパス日本語学>https://itc-lms.ecc.u-tokyo.ac.jp/lms/course?idnumber=2021212101100F01]]
※ITC-LMSのコースをまとめて、学部のページに統合しました。（20210419）

----
**4月30日（第4回） コーパスの形態論情報と形態素解析 [#ab202b7c]

***コーパスの形態論情報 [#w3c3c79b]
--https://ccd.ninjal.ac.jp/bccwj/morphology.html

-短単位と長単位
--''（スライド）''参照
--（参考）動画：コーパス検索システムの言語単位『短単位』 https://youtu.be/s5akpYOzNIU


-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]の品詞体系にもとづく
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]

***コーパスへの形態論情報の付与 [#sfd1b3f3]

-短単位：MeCabとUniDicを使った形態素解析で情報付与
-長単位：Comainu（など）で短単位を組み上げる

-BCCWJ関連報告書 https://ccd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF)　[[第4版 上>https://ccd.ninjal.ac.jp/bccwj/doc/report/JC-D-10-05-01.pdf]]・[[第4版 下>https://ccd.ninjal.ac.jp/bccwj/doc/report/JC-D-10-05-02.pdf]]


//***形態素解析
#include(授業資料/形態素解析,notitle)


***最近の形態素解析器 [#f7414ba1]
-KyTea
--http://www.phontron.com/kytea/index-ja.html
--点予測という系列ラベリングとは別の手法による形態素解析器
-JUMAN++
--https://nlp.ist.i.kyoto-u.ac.jp/?JUMAN%2B%2B
--深層学習（RNN）を使った形態素解析器

***長単位解析器 [#i1ef6962]
-Comainu
--https://ja.osdn.net/projects/comainu/

***係り受け解析器 [#o0ecb888]
-CaboCha
--https://taku910.github.io/cabocha/
※BCCWJには係り受け情報は付いていない。NWJCは自動解析した係り受け情報付き


***日本語コーパスのタグ付けのレベル [#a516dfae]
|~テキストのレベル|ツール|必要な技術|h
|~プレーンテキスト|テキストエディタ|grepと正規表現|
|~構造化テキスト|ひまわり→ Excel|XML・マークアップの基礎，ピボットテーブル|
|~形態素解析済み|UniDic+MeCab→中納言・ChaKi|形態素解析の知識，ChaKi等の使い方|
|~係り受け情報付き|+CaboChaなど→ChaKi||

+プレーンテキスト：テキストエディタ（grepと正規表現）
+構造化テキスト（旧「太陽コーパス」など）：XMLと「ひまわり」
+形態素解析済みテキスト（BCCWJ, CHJなど）：「中納言」
+係り受け情報・統語情報付き（NWJC, NPCMJなど）：ChaKi, NPCMJ Searchなど



**4月23日（第3回） コーパスの設計（2） [#d3ad8ff2]

***前回続き（スライド残り） [#ib63a249]
-著作権をめぐる問題
--[[科研・昭和平成書き言葉コーパス（構築中）>https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-19H00531/]]
---改正著作権法に則り、権利処理なしでオンライン公開予定


***「日本語歴史コーパス」（CHJ）の構成 [#x9f78d1c]
-https://ccd.ninjal.ac.jp/chj/

-残された資料に限りがある（そもそも偏りがある）歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難

:近世以前|残されている資料が少なく、できるだけ（可能なら全部）コーパスに入れたい
:近世（後期）以降|偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい（作品など資料単位で調査したい）

-[[『日本語歴史コーパス』>https://ccd.ninjal.ac.jp/chj/]]の中身
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本：年代・著者（・地域）のバランスを取って作品単位でサンプリング


***近代語コーパスの場合 [#p0de8288]
-近代雑誌（現在はCHJの一部）
--多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://ccd.ninjal.ac.jp/cmj/taiyou/index.html]]：8年おきに12冊ずつを対象
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文藝春秋）
-近代小説 
※今日の夕方に公開予定
--複数の有識者が日本語資料として選定・投票した結果（1980年代に作成した資料）をもとにサンプリング
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi_2019b_e3.pdf

***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較（BCCWJの年代、CHJの時代・ジャンル等）


**紙の資料からコーパスまで ～テキストの電子化とアノテーションの高度化 [#s7dfd61c]

+(紙の)本文
+(紙の)総索引（コンコーダンス）
+電子テキスト：テキスト （199x年代～）
--[[授業資料/テキストデータ紹介]]
+構造化テキスト：テキスト+XMLによる構造化タグ （200x年代～）
--[[太陽コーパス>https://ccd.ninjal.ac.jp/cmj/taiyou/]]など
+単語情報付きのコーパス：テキスト+XMLによる構造化タグ+形態論情報　（201x年代～）
--[[現代日本語書き言葉均衡コーパス（BCCWJ）>https://ccd.ninjal.ac.jp/bccwj/]]など
--[[日本語歴史コーパス（CHJ）>https://ccd.ninjal.ac.jp/chj/]]など


***電子化とアノテーション（明六雑誌コーパスを例に） [#nb9967ee]
-明六雑誌コーパス：https://ccd.ninjal.ac.jp/cmj/meiroku/

-ファイル形式と実例
++電子テキスト：プレーンテキスト
++構造化テキスト：XMLファイル
++単語情報付きデータ：単語情報を埋め込んだXML　／XMLファイル＋CSVファイル →RDB
---（発展）XMLの限界とスタンドオフアノテーション

-それぞれの利用アプリケーション
++電子テキスト：テキストエディタ＋grepなど
++構造化テキスト：全文検索システム[[「ひまわり」>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
++単語情報付きデータ：中納言（オンライン）／[[Chaki.Net>https://ja.osdn.net/projects/chaki/]]（PC上）



**4月16日（第2回） コーパスの設計 [#d3ad8ff2]

-「中納言」授業アカウントの配布について


※以下、''[[スライド（学部授業用）>https://itc-lms.ecc.u-tokyo.ac.jp/lms/course/material/setfiledown/UT_%E3%82%B3%E3%83%BC%E3%83%91%E3%82%B9%E3%81%A8%E3%81%AF%EF%BD%9EBCCWJ%E3%81%AE%E8%A8%AD%E8%A8%88.pdf?fileName=UT_%E3%82%B3%E3%83%BC%E3%83%91%E3%82%B9%E3%81%A8%E3%81%AF%EF%BD%9EBCCWJ%E3%81%AE%E8%A8%AD%E8%A8%88.pdf&fileId=1618548420142418531&idnumber=2021042121510F01&resourceId=418531&screen=1&contentId=276755&endDate=2021-09-30+00%3A00%3A00.0]]（[[大学院授業用・同内容>https://itc-lms.ecc.u-tokyo.ac.jp/lms/course/material/setfiledown/UT_%E3%82%B3%E3%83%BC%E3%83%91%E3%82%B9%E3%81%A8%E3%81%AF%EF%BD%9EBCCWJ%E3%81%AE%E8%A8%AD%E8%A8%88.pdf?fileName=UT_%E3%82%B3%E3%83%BC%E3%83%91%E3%82%B9%E3%81%A8%E3%81%AF%EF%BD%9EBCCWJ%E3%81%AE%E8%A8%AD%E8%A8%88.pdf&fileId=1618548490600418536&idnumber=2021212101100F01&resourceId=418536&screen=1&contentId=276758&endDate=2021-09-30+00%3A00%3A00.0]]）も参照''

***コーパスとは [#t54768fa]

:狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）
:広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
--さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
---[[「ひまわり」パッケージ>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
--Web上のデータ
---検索サイトの利用
---WAC（Web as Corpus）
-言語学分野では前者、自然言語処理分野などでは後者の意味で使いがち。

-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」と「日本語歴史コーパス（CHJ）」


***コーパスに求められるもの [#h042f3fe]

-コーパス以前の電子化日本語資料（とその限界）
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www.ne.jp/asahi/nihongo/okajima/bungaku.htm]]
--出版社による電子出版物（CD-ROM）
---新潮文庫の100冊 etc.
--新聞のデータベース（CD-ROM）
---毎日新聞CD-ROM etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus

-（現代語）コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
--著作権の問題がないこと
--言語研究に利用できる情報がついていること


***「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサンプリング [#s89fe505]
-https://ccd.ninjal.ac.jp/bccwj/

-均衡コーパス（Balanced corpus）
--「バランスがとれている」「代表性がある（representative）」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題★次回、ここから


***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/icame/manuals/brown/]] http://khnt.aksis.uib.no/icame/manuals/brown/
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/docs/URG/]] http://www.natcorp.ox.ac.uk/docs/URG/
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>https://ccd.ninjal.ac.jp/bccwj/index.html]]
--BCCWJの基本設計：https://ccd.ninjal.ac.jp/bccwj/basic-design.html
--サンプリング：https://ccd.ninjal.ac.jp/bccwj/sampling.html
--XMLによる電子化：https://ccd.ninjal.ac.jp/bccwj/XML.html



**4月9日（第1回）イントロダクション/日本語コーパスの紹介 [#wdd4ab2f]

***イントロダクション [#z7ffa4ea]

-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 [[国立国語研究所>https://www.ninjal.ac.jp/]] https://www.ninjal.ac.jp/
--[[国立国語研究所コーパス開発センター>https://ccd.ninjal.ac.jp/]] https://ccd.ninjal.ac.jp/


-（参考）国語研オープンハウス2020　https://www2.ninjal.ac.jp/openhouse2020/
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR2K2h2E


***授業内容等の確認 [#e55ee18f]

-[[シラバス>https://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=2021_UT_syllabus.pdf&refer=%C5%EC%C2%E72021]]の確認
--この授業の目的
--授業の進め方
--評価方法


-受講者アンケート
--関心のある分野について
--PC等のスキルについて


***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register


***授業で利用する主なソフトウェア・Webアプリケーション（予定） [#i06478d2]
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chunagon.ninjal.ac.jp/]]|コーパスの検索|
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge.net/projects/sakura-editor/]]|正規表現を使ったテキストの検索・整形|
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索,ミニコーパスの作成|
|[[R>https://www.r-project.org/]]|データの統計分析|


***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス（BCCWJ）」>https://ccd.ninjal.ac.jp/bccwj/]]
---[[梵天（BCCWJ文字列検索）>https://bonten.ninjal.ac.jp/bccwj/string_search]]
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス（CHJ）」>https://ccd.ninjal.ac.jp/chj/]]
-Excelによる集計（ピボットテーブル）
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタとgrep
-全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
-[[R>https://www.r-project.org/]]