#author("2020-09-23T05:44:00+00:00;2020-09-23T05:42:55+00:00","default:ogiwiki","ogiwiki")
*名古屋大学2020・コーパス日本語学入門 [#eccc6188]
--日本語講義Ⅲ
--日本語学特殊研究Ⅲ


**もくじ [#p7737821]
#contents


**日程等 [#me6bdec5]
-集中講義
--9月23日 3-5限(13:00~)
--9月24日,25日,28日 2-5限(10:30~)
-オンライン授業
--原則としてオンラインのリアルタイム講義 (Teams)
--TeamsのURLはNUCTで告知する
--資料はこのページまたはNUCTで配布する
--Remo
-連絡先
--togiso◎ninjal.ac.jp (←◎を@に)

*2020年9月23日(水) [#l2bdc231]

**第1回(3限) イントロダクション/日本語コーパスの紹介 [#wdd4ab2f]

***イントロダクション [#z7ffa4ea]

-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/
--[[国立国語研究所コーパス開発センター>https://pj.ninjal.ac.jp/corpus_center/]] https://pj.ninjal.ac.jp/corpus_center/


-(参考)国語研オープンハウス2020 https://www2.ninjal.ac.jp/openhouse2020/
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR2K2h2E


***授業内容等の確認 [#e55ee18f]

-オンライン授業の進め方について
--原則としてTeamsでのリアルタイム授業
--休み時間のほか、課題時間を挟む


-[[シラバス>https://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=NU2020_Syllabus.pdf&refer=%CC%BE%C2%E72020%BD%B8%C3%E6]]の確認
--この授業の目的
--授業の進め方
--評価方法


-受講者アンケート
--関心のある分野について
--PC等のスキルについて


***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register


***授業で利用する主なソフトウェア・Webアプリケーション(予定) [#i06478d2]
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chunagon.ninjal.ac.jp/]]|コーパスの検索|
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成|
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge.net/projects/sakura-editor/]]|正規表現を使ったテキストの検索・整形|
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索|
|[[R>https://www.r-project.org/]]|データの統計分析|


***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://pj.ninjal.ac.jp/corpus_center/bccwj/]]
---[[少納言>https://shonagon.ninjal.ac.jp/]]
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス(CHJ)」>https://pj.ninjal.ac.jp/corpus_center/chj/]]
-Excelによる集計(ピボットテーブル)
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタとgrep
-全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
-[[R>https://www.r-project.org/]]

**第2回(4限) コーパスの設計 [#d3ad8ff2]


***コーパスとは [#t54768fa]

:狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コーパス(CHJ)
:広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
-さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 / 国会会議録)
--[[「ひまわり」パッケージ>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
-Web上のデータ
--検索サイトの利用
--WAC(Web as Corpus)

-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス(BCCWJ)」と「日本語歴史コーパス(CHJ)」


***紙の資料からコーパスまで (日本語研究資料の変遷) [#s7dfd61c]

+(紙の)本文
+(紙の)総索引(コンコーダンス)
+各種の電子テキスト
--[[授業資料/テキストデータ紹介]]
+構造化テキスト
--[[太陽コーパス>https://pj.ninjal.ac.jp/corpus_center/cmj/taiyou/]]など
+形態論情報付きコーパス
--[[現代日本語書き言葉均衡コーパス(BCCWJ)>https://pj.ninjal.ac.jp/corpus_center/bccwj/]]など

***コーパスに求められるもの [#h042f3fe]

-コーパス以前の電子化日本語資料(とその限界)
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www.ne.jp/asahi/nihongo/okajima/bungaku.htm]]
--出版社による電子出版物(CD-ROM)
---新潮文庫の100冊 etc.
--新聞のデータベース(CD-ROM)
---毎日新聞CD-ROM etc.
--研究機関のデータベース
---国文学資料館 大系DB etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus

-コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
--著作権の問題がないこと
--言語研究に利用できる情報がついていること


***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサンプリング [#s89fe505]
-https://pj.ninjal.ac.jp/corpus_center/bccwj/

-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題

***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://pj.ninjal.ac.jp/corpus_center/chj/


***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/icame/manuals/brown/]] http://khnt.aksis.uib.no/icame/manuals/brown/
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/docs/URG/]] http://www.natcorp.ox.ac.uk/docs/URG/
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>https://pj.ninjal.ac.jp/corpus_center/bccwj/index.html]]
--BCCWJの基本設計:https://pj.ninjal.ac.jp/corpus_center/bccwj/basic-design.html
--サンプリング:https://pj.ninjal.ac.jp/corpus_center/bccwj/sampling.html
--XMLによる電子化:https://pj.ninjal.ac.jp/corpus_center/bccwj/XML.html



**第3回(5限) コーパスの形態論情報と形態素解析 [#re595f52]
-配布資料:「中納言の使い方」

***コーパスの形態論情報 [#w3c3c79b]
--http://pj.ninjal.ac.jp/corpus_center/bccwj/morphology.html

-短単位と長単位
--''(配付資料)''参照
--''(スライド)''参照

-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]の品詞体系にもとづく
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]

***コーパスへの形態論情報の付与 [#sfd1b3f3]

-短単位:MeCabとUniDicを使った形態素解析で情報付与
-長単位:Comainu(など)で短単位を組み上げる

-BCCWJ関連報告書 http://pj.ninjal.ac.jp/corpus_center/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://pj.ninjal.ac.jp/corpus_center/bccwj/doc/report/JC-D-10-05-01.pdf]]・[[第4版 下>http://pj.ninjal.ac.jp/corpus_center/bccwj/doc/report/JC-D-10-05-02.pdf]]


//***形態素解析
#include(授業資料/形態素解析,notitle)


***最近の形態素解析器 [#f7414ba1]
-KyTea
--http://www.phontron.com/kytea/index-ja.html
--点予測という系列ラベリングとは別の手法による形態素解析器
-JUMAN++
--http://nlp.ist.i.kyoto-u.ac.jp/index.php?JUMAN++
--ごく最近公開されたRNN(ディープラーニングの一種)を使った形態素解析器

***長単位解析器 [#i1ef6962]
-Comainu
--https://ja.osdn.net/projects/comainu/

***係り受け解析器 [#o0ecb888]
-CaboCha
--https://taku910.github.io/cabocha/
※BCCWJには係り受け情報は付いていない。NWJCは自動解析した係り受け情報付き


***日本語コーパスのタグ付けのレベル [#a516dfae]
|~テキストのレベル|ツール|必要な技術|h
|~プレーンテキスト|テキストエディタ|grepと正規表現|
|~構造化テキスト|ひまわり→ Excel|XML・マークアップの基礎,ピボットテーブル|
|~形態素解析済み|UniDic+MeCab→中納言・ChaKi|形態素解析の知識,ChaKi等の使い方|
|~係り受け情報付き|+CaboChaなど→ChaKi||

+プレーンテキスト:テキストエディタ(grepと正規表現)
+構造化テキスト(旧「太陽コーパス」など):XMLと「ひまわり」
+形態素解析済みテキスト(BCCWJ,CHJなど):「中納言」
+係り受け情報・統語情報付き(NWJC,NPCMJなど):ChaKi, NPCMJ Searchなど



*2020年9月24日(木) [#l2bdc231]

**2-4限 [#bd781072]


*2020年9月25日(金) [#l2bdc231]

**2-4限 [#n73d1104]


*2020年9月28日(月) [#l2bdc231]

**2-4限 [#qef0d993]

トップ   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS