名大2020集中
をテンプレートにして作成
開始行:
*名古屋大学2020・コーパス日本語学入門 [#eccc6188]
--日本語講義Ⅲ
--日本語学特殊研究Ⅲ
**もくじ [#p7737821]
#contents
**日程等 [#me6bdec5]
-集中講義
--9月23日 3-5限（13:00～）
--9月24日,25日,28日 2-5限（10:30～）
-オンライン授業
--原則としてオンラインのリアルタイム講義 (Teams)
--TeamsのURLはNUCTで告知する
--資料はこのページまたはNUCTで配布する
--Remo
-連絡先
--togiso◎ninjal.ac.jp （←◎を@に）
*2020年9月23日(水) [#l2bdc231]
**第1回（3限） イントロダクション/日本語コーパスの紹介 [#...
***イントロダクション [#z7ffa4ea]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所コーパス開発センター>https://pj.ninjal....
-（参考）国語研オープンハウス2020 https://www2.ninjal.ac...
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR...
***授業内容等の確認 [#e55ee18f]
-オンライン授業の進め方について
--原則としてTeamsでのリアルタイム授業
--休み時間のほか、課題時間を挟む
-[[シラバス>https://www.ogiso.net/wiki/index.php?plugin=a...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--関心のある分野について
--PC等のスキルについて
***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション（...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/l...
|[[R>https://www.r-project.org/]]|データの統計分析|
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス（BCCWJ）」>https://p...
---[[少納言>https://shonagon.ninjal.ac.jp/]]
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス（CHJ）」>https://pj.ninjal.ac.jp...
-Excelによる集計（ピボットテーブル）
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタとgrep
-全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc...
-[[R>https://www.r-project.org/]]
**第2回（4限） コーパスの設計 [#d3ad8ff2]
***コーパスとは [#t54768fa]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 ...
--[[「ひまわり」パッケージ>https://www2.ninjal.ac.jp/lrc/...
-Web上のデータ
--検索サイトの利用
--WAC（Web as Corpus）
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***紙の資料からコーパスまで (日本語研究資料の変遷) [#s7df...
+(紙の)本文
+(紙の)総索引（コンコーダンス）
+各種の電子テキスト
--[[授業資料/テキストデータ紹介]]
+構造化テキスト
--[[太陽コーパス>https://pj.ninjal.ac.jp/corpus_center/cm...
+形態論情報付きコーパス
--[[現代日本語書き言葉均衡コーパス（BCCWJ）>https://pj.ni...
***コーパスに求められるもの [#h042f3fe]
-コーパス以前の電子化日本語資料（とその限界）
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www....
--出版社による電子出版物（CD-ROM）
---新潮文庫の100冊 etc.
--新聞のデータベース（CD-ROM）
---毎日新聞CD-ROM etc.
--研究機関のデータベース
---国文学資料館 大系DB etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus
-コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサ...
-https://pj.ninjal.ac.jp/corpus_center/bccwj/
-均衡コーパス（Balanced corpus）
--「バランスがとれている」「代表性」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
***「日本語歴史コーパス」（CHJ）の構成 [#x9f78d1c]
-https://pj.ninjal.ac.jp/corpus_center/chj/
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>https://pj.ninja...
--BCCWJの基本設計：https://pj.ninjal.ac.jp/corpus_center/...
--サンプリング：https://pj.ninjal.ac.jp/corpus_center/bcc...
--XMLによる電子化：https://pj.ninjal.ac.jp/corpus_center/...
**第3回（5限） コーパスの形態論情報と形態素解析 [#re595f52]
***コーパスの形態論情報 [#w3c3c79b]
--http://pj.ninjal.ac.jp/corpus_center/bccwj/morphology.h...
-短単位と長単位
--''（スライド）''参照
-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]...
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位：MeCabとUniDicを使った形態素解析で情報付与
-長単位：Comainu（など）で短単位を組み上げる
-BCCWJ関連報告書 http://pj.ninjal.ac.jp/corpus_center/bcc...
--形態論情報規程集(PDF) [[第4版 上>http://pj.ninjal.ac.j...
//***形態素解析
#include(授業資料/形態素解析,notitle)
***最近の形態素解析器 [#f7414ba1]
-KyTea
--http://www.phontron.com/kytea/index-ja.html
--点予測という系列ラベリングとは別の手法による形態素解析器
-JUMAN++
--http://nlp.ist.i.kyoto-u.ac.jp/index.php?JUMAN++
--最近公開されたRNN（ディープラーニングの一種）を使った形...
***長単位解析器 [#i1ef6962]
-Comainu
--https://ja.osdn.net/projects/comainu/
***係り受け解析器 [#o0ecb888]
-CaboCha
--https://taku910.github.io/cabocha/
※BCCWJには係り受け情報は付いていない。NWJCは自動解析した...
***日本語コーパスのタグ付けのレベル [#a516dfae]
|~テキストのレベル|ツール|必要な技術|h
|~プレーンテキスト|テキストエディタ|grepと正規表現|
|~構造化テキスト|ひまわり→ Excel|XML・マークアップの基礎...
|~形態素解析済み|UniDic+MeCab→中納言・ChaKi|形態素解析の...
|~係り受け情報付き|+CaboChaなど→ChaKi||
+プレーンテキスト：テキストエディタ（grepと正規表現）
+構造化テキスト（旧「太陽コーパス」など）：XMLと「ひまわ...
+形態素解析済みテキスト（BCCWJ，CHJなど）：「中納言」
+係り受け情報・統語情報付き（NWJC,NPCMJなど）：ChaKi, NPC...
*2020年9月24日(木) [#lf7c4213]
-配布資料「『中納言』の使い方」
**第4回（2限） 『中納言』の使い方（基礎） [#s0fd2512]
***形態論情報を利用した検索 [#md99ae46]
-資料「『中納言』の使い方」参照
--NUCT[[『中納言』の使い方>https://ct.nagoya-u.ac.jp/acce...
-形態論情報の復習
--NUCT[[短単位と長単位資料>https://ct.nagoya-u.ac.jp/acce...
--動画：コーパス検索システムの言語単位『短単位』 https://...
-CHJ版『中納言』の使い方
--オープンライセンスで公開中：https://bit.ly/3knxC8v
-CHJの形態論情報について
--[[時代別の形態論情報の概要、規程集>https://pj.ninjal.ac...
--原則は現代語と同じだが、時代ごとにやや違いがある（平安...
**第5回（3限） 『中納言』の使い方 [#g4febb05]
***検索条件式の利用 [#wa3409db]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**交流会（Remo） [#f4bf10be]
-14:30～
-NUCT経由でのリンク
--https://ct.nagoya-u.ac.jp/access/content/group/2020_1_0...
**第6回（4限） 検索結果の集計（Excelとピボットテーブル） ...
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+アーカイブの展開（解凍）
+Excelでインポート
***Excelの基礎 [#t5ba152a]
-並べ替え
--反転前文脈の使い方
-フィルタ
--テキストフィルタ
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
**第7回（5限） [#y28304ce]
***「検索課題」 [#uc34c87a]
-配付資料（「中納言検索課題」）参照
--NUCT[[中納言検索課題>https://ct.nagoya-u.ac.jp/access/c...
***【宿題】レポートテーマについて [#e570c779]
-レポートテーマを考えておくこと
-普段から見聞きする言葉に気をつけるとともに、図書館も活用...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
--[[〈参考〉 国語に関する世論調査の結果について（文化庁）...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
***例((実際に検索してみてできそうなものと難しそうなものが...
-表記
--「雀」「すずめ」「スズメ」動植物名の表記・・・レジスタ...
--「卵」「玉子」「たまご」「タマゴ」・・・意味の違い？文...
--「斡旋」「あっ旋」「あっせん」、「石鹸」「石けん」「せ...
-類義語・対義語
--「奇麗」と「美しい」・・・連体修飾する名詞の違い（→意味...
--「うるさい」「やかましい」「さわがしい」「かしましい」...
--「男性」と「女性」（「男」と「女」）・・・語彙の非対称...
-語形、語法
--「好ましい」「好もしい」・・・語形の揺れと文体差
--「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙...
-意味変化・新語
--「役不足」「確信犯」・・・”誤用”と”正用”
--「断トツ」「定番」「夜ご飯」・・・新語の広がり
*2020年9月25日(金) [#t5667134]
**第8回（2限） ちょっとした応用 [#q1e6a1b0]
***複数の検索結果の結合 [#l9b3620b]
-例：蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓, ↓, Ctrl+V, Ctrl+Home
***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***集計用の列を自分で用意する [#ccae4a87]
-例：表記（ひらがな・カタカナ・漢字）別集計
-例：用法分類
***ランダムサンプリング調査 [#j4516bb3]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列： =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-ex.「られる」「全然」
**第9回（3限） BCCWJ利用の注意点 [#b45afdc5]
***出現サンプル数の調査（重複の削除） [#ma197696]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
***BCCWJ利用の落とし穴 [#le968f3e]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数，１平方キロあたりの…etc.
-BCCWJの語数
--https://pj.ninjal.ac.jp/corpus_center/bccwj/bcc-chu-suw...
***調整頻度の計算 [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ：中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度（pmw）が比較的よく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
**第10回（4限） 集計のための応用（文字列関数） [#he4d31db]
***（補足）CHJでの復習 [#h1e23ecf]
-頻度で見る「あはれ」「をかし」と源氏・枕
***Excelの文字列関数 [#r56f9082]
-[[授業資料/EXCELの文字列関数]]参照
**第11回（5限） 集計のための応用2（VLOOKUP関数） [#f1145...
***（参考）[[ジップ（Zipf）の法則>https://ja.wikipedia.or...
--順位×頻度≒定数
***VLOOKUPを用いた辞書引き集計 [#tf76047b]
-[[授業資料/VLOOKUP関数]]参照
***（補足）「中納言」インラインタグ機能の利用 [#h1e23ecf]
*2020年9月28日(月) [#u6050dc9]
**レポートテーマおよび質問について（NUCT課題） [#y6dbd923]
-[[NUCT課題>https://ct.nagoya-u.ac.jp/portal/site/2020_1_...
**第12回（2限） テキストエディタと正規表現 [#zb872faf]
-データ整備のための基礎
***テキストデータ [#k896318b]
-すべての基本、文字が並ぶだけのデータ
-[[授業資料/テキストデータとは]]
--バイナリデータとテキストデータ
--テキストデータとテキストファイル
-TXT,CSV,HTM…
--ファイルの種類と拡張子 参考：[[拡張子辞典>http://www.ji...
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B...
-授業で使うテキストデータ
--[[授業資料/テキストデータ紹介]]
***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]
***サクラエディタのダウンロードとインストール [#bf5ea59f]
-★[[サクラエディタのダウンロード:https://github.com/sakur...
---(参考) サクラエディタホームページ：https://sakura-edit...
-インストールの手順
--ダウンロードしたzipファイルの中にあるsakura-install*.ex...
--exeファイルを右クリックして「セキュリティ」の右の「許可...
--ダブルクリックしてインストール
***Macの場合（miのダウンロードとインストール） [#c84ab588]
-miのダウンロード https://www.mimikaki.net/
--ダウンロードされたファイルをダブルクリック
***テキストエディタを使ってみる [#zc42842b]
-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号（ワープロ的行番号）と論理行番号（エディ...
-練習用サンプルデータ（漱石＋芥川）
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin...
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep
***grepと置換でKWIC(CSVファイル)を作る（簡易版） [#u3ab2d...
-CSVファイルとは：テキストファイルで表を表現する
[[用語：CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC：KeyWord In Context
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例：読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
**第13回（3限） 正規表現 [#zb872faf]
***正規表現とは [#d216d4e0]
-''正規表現'' [[＞用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字（メタ文字）を使って文字列の...
--テキストエディタでは置換・検索・grepで利用できる （エ...
--特殊な文字（メタ文字）はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする（特...
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの補集合（それ以外の文字）[^ ]
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定（補集合）[^ ]
--繰り返し ? + *
--グループ化 ()
--or（論理和） |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ（外来語）の形容動詞語幹
-送りがなの揺れ（行う／行なう）
-会話文中（"「"で始まる文中）の用例を検索する
-同一文中での共起
--全然～ない。
--もし～なら（ば）
***タグ付き正規表現 [#z9ef50e5]
-走[らりるれろ] でgrepした結果を置換するにはどうしたらい...
--次のように置換するととんでもないことに…
---検索文字列：走[らりるれろっ]
---置換文字列：★走[らりるれろっ]
-タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）...
-[[授業資料/タグつき正規表現]]
***最長一致の原則（greedy matching） [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例：''あ+'' → ''【\1】''
---ああああああああ → 【ああああああああ】
そのせいで…
--例：''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 → 【こんにちは」「さよう...
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1...
---「こんにちは」「さようなら」 → 【こんにちは】【さよう...
-よりかんたんに指定するには（最短一致，ものぐさ指定）
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に...
-（参考）タグ付き正規表現の応用：[[grepと置換でKWICを作る...
***検索文字列の中での後方参照 [#ra28185d]
-検索語の中で\1を使う
--(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しに...
--(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
--(..)\1\1
--(...)\1
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現：http://sakura-editor.sourcefor...
-正規表現に関する本 [[amazonで検索>https://www.amazon.co...
***（参考）テキストデータ（青空文庫）の配布 [#kc659c3f]
-[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/...
-[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7...
**第14回（4限） Excel応用編 / さらなる活用に向けて[#gbb5a...
***アノテーションデータとVLOOKUP [#w92e5b73]
-資料：小木曽（2019）「『日本語歴史コーパス』への追加情報...
--[[CHJ中古「る」「らる」用法分類アノテーションデータ>htt...
***コロケーション強度 [#s9882768]
-[[授業資料/コロケーション強度]]
-資料：小木曽（2014）「コーパス活用の勘所(第6回)【中古語...
-須永哲矢（2011）「コロケーション強度を用いた中古語の語認...
***コーパスの語彙表 [#t80e94f6]
-BCCWJの語彙表
--https://pj.ninjal.ac.jp/corpus_center/bccwj/freq-list.h...
-CHJの語彙表
--https://pj.ninjal.ac.jp/corpus_center/chj/chj-wc.html
***特徴語抽出 [#tc31707c]
-[[授業資料/対数尤度比による特徴語抽出]]
-地の文・会話文・歌ごとの語彙の位相差の話
--資料：小木曽（2015）「中古和文における文体別の特徴語」...
//***テキストの性質に関する古典的な指標とその出し方 [#b1f...
//-語種比率
//-TTR （Type Token Ratio）延べ異なり比
//-名詞率
//-MVR （Modifier / Verb Ratio）((樺島忠夫, 寿岳章子『文...
//-平均文長
***Rの利用 [#ib0753ab]
-[[授業資料/Rの利用]]
**第15回（5限） レポートの書き方／ 質問コーナー [#w71a041f]
***Wordでレポートを書く [#pc6b7b3b]
文書の構造化とWordの使い方（レポートの書き方）
-文書の構造化*
--スタイルと見出し
--ナビゲーション ウィンドウ（見出しマップ）の使い方
--章・節番号
-図表の貼り込み*
--「形式を選択して貼り付け」
--図表番号とキャプション
-脚注
--脚注と文末脚注
-相互参照
--節番号、図表番号と相互参照
--目次、図表目次
-ページ番号*
-PDFとして保存（ブックマークを付加）*
**打ち上げ（Remo） [#uc6ebf15]
-2020/09/28 18:00～ [[Remo>https://ct.nagoya-u.ac.jp/acce...
終了行:
*名古屋大学2020・コーパス日本語学入門 [#eccc6188]
--日本語講義Ⅲ
--日本語学特殊研究Ⅲ
**もくじ [#p7737821]
#contents
**日程等 [#me6bdec5]
-集中講義
--9月23日 3-5限（13:00～）
--9月24日,25日,28日 2-5限（10:30～）
-オンライン授業
--原則としてオンラインのリアルタイム講義 (Teams)
--TeamsのURLはNUCTで告知する
--資料はこのページまたはNUCTで配布する
--Remo
-連絡先
--togiso◎ninjal.ac.jp （←◎を@に）
*2020年9月23日(水) [#l2bdc231]
**第1回（3限） イントロダクション/日本語コーパスの紹介 [#...
***イントロダクション [#z7ffa4ea]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所コーパス開発センター>https://pj.ninjal....
-（参考）国語研オープンハウス2020 https://www2.ninjal.ac...
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR...
***授業内容等の確認 [#e55ee18f]
-オンライン授業の進め方について
--原則としてTeamsでのリアルタイム授業
--休み時間のほか、課題時間を挟む
-[[シラバス>https://www.ogiso.net/wiki/index.php?plugin=a...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--関心のある分野について
--PC等のスキルについて
***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション（...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/l...
|[[R>https://www.r-project.org/]]|データの統計分析|
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス（BCCWJ）」>https://p...
---[[少納言>https://shonagon.ninjal.ac.jp/]]
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス（CHJ）」>https://pj.ninjal.ac.jp...
-Excelによる集計（ピボットテーブル）
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタとgrep
-全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc...
-[[R>https://www.r-project.org/]]
**第2回（4限） コーパスの設計 [#d3ad8ff2]
***コーパスとは [#t54768fa]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 ...
--[[「ひまわり」パッケージ>https://www2.ninjal.ac.jp/lrc/...
-Web上のデータ
--検索サイトの利用
--WAC（Web as Corpus）
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***紙の資料からコーパスまで (日本語研究資料の変遷) [#s7df...
+(紙の)本文
+(紙の)総索引（コンコーダンス）
+各種の電子テキスト
--[[授業資料/テキストデータ紹介]]
+構造化テキスト
--[[太陽コーパス>https://pj.ninjal.ac.jp/corpus_center/cm...
+形態論情報付きコーパス
--[[現代日本語書き言葉均衡コーパス（BCCWJ）>https://pj.ni...
***コーパスに求められるもの [#h042f3fe]
-コーパス以前の電子化日本語資料（とその限界）
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www....
--出版社による電子出版物（CD-ROM）
---新潮文庫の100冊 etc.
--新聞のデータベース（CD-ROM）
---毎日新聞CD-ROM etc.
--研究機関のデータベース
---国文学資料館 大系DB etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus
-コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサ...
-https://pj.ninjal.ac.jp/corpus_center/bccwj/
-均衡コーパス（Balanced corpus）
--「バランスがとれている」「代表性」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
***「日本語歴史コーパス」（CHJ）の構成 [#x9f78d1c]
-https://pj.ninjal.ac.jp/corpus_center/chj/
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>https://pj.ninja...
--BCCWJの基本設計：https://pj.ninjal.ac.jp/corpus_center/...
--サンプリング：https://pj.ninjal.ac.jp/corpus_center/bcc...
--XMLによる電子化：https://pj.ninjal.ac.jp/corpus_center/...
**第3回（5限） コーパスの形態論情報と形態素解析 [#re595f52]
***コーパスの形態論情報 [#w3c3c79b]
--http://pj.ninjal.ac.jp/corpus_center/bccwj/morphology.h...
-短単位と長単位
--''（スライド）''参照
-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]...
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位：MeCabとUniDicを使った形態素解析で情報付与
-長単位：Comainu（など）で短単位を組み上げる
-BCCWJ関連報告書 http://pj.ninjal.ac.jp/corpus_center/bcc...
--形態論情報規程集(PDF) [[第4版 上>http://pj.ninjal.ac.j...
//***形態素解析
#include(授業資料/形態素解析,notitle)
***最近の形態素解析器 [#f7414ba1]
-KyTea
--http://www.phontron.com/kytea/index-ja.html
--点予測という系列ラベリングとは別の手法による形態素解析器
-JUMAN++
--http://nlp.ist.i.kyoto-u.ac.jp/index.php?JUMAN++
--最近公開されたRNN（ディープラーニングの一種）を使った形...
***長単位解析器 [#i1ef6962]
-Comainu
--https://ja.osdn.net/projects/comainu/
***係り受け解析器 [#o0ecb888]
-CaboCha
--https://taku910.github.io/cabocha/
※BCCWJには係り受け情報は付いていない。NWJCは自動解析した...
***日本語コーパスのタグ付けのレベル [#a516dfae]
|~テキストのレベル|ツール|必要な技術|h
|~プレーンテキスト|テキストエディタ|grepと正規表現|
|~構造化テキスト|ひまわり→ Excel|XML・マークアップの基礎...
|~形態素解析済み|UniDic+MeCab→中納言・ChaKi|形態素解析の...
|~係り受け情報付き|+CaboChaなど→ChaKi||
+プレーンテキスト：テキストエディタ（grepと正規表現）
+構造化テキスト（旧「太陽コーパス」など）：XMLと「ひまわ...
+形態素解析済みテキスト（BCCWJ，CHJなど）：「中納言」
+係り受け情報・統語情報付き（NWJC,NPCMJなど）：ChaKi, NPC...
*2020年9月24日(木) [#lf7c4213]
-配布資料「『中納言』の使い方」
**第4回（2限） 『中納言』の使い方（基礎） [#s0fd2512]
***形態論情報を利用した検索 [#md99ae46]
-資料「『中納言』の使い方」参照
--NUCT[[『中納言』の使い方>https://ct.nagoya-u.ac.jp/acce...
-形態論情報の復習
--NUCT[[短単位と長単位資料>https://ct.nagoya-u.ac.jp/acce...
--動画：コーパス検索システムの言語単位『短単位』 https://...
-CHJ版『中納言』の使い方
--オープンライセンスで公開中：https://bit.ly/3knxC8v
-CHJの形態論情報について
--[[時代別の形態論情報の概要、規程集>https://pj.ninjal.ac...
--原則は現代語と同じだが、時代ごとにやや違いがある（平安...
**第5回（3限） 『中納言』の使い方 [#g4febb05]
***検索条件式の利用 [#wa3409db]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**交流会（Remo） [#f4bf10be]
-14:30～
-NUCT経由でのリンク
--https://ct.nagoya-u.ac.jp/access/content/group/2020_1_0...
**第6回（4限） 検索結果の集計（Excelとピボットテーブル） ...
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+アーカイブの展開（解凍）
+Excelでインポート
***Excelの基礎 [#t5ba152a]
-並べ替え
--反転前文脈の使い方
-フィルタ
--テキストフィルタ
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
**第7回（5限） [#y28304ce]
***「検索課題」 [#uc34c87a]
-配付資料（「中納言検索課題」）参照
--NUCT[[中納言検索課題>https://ct.nagoya-u.ac.jp/access/c...
***【宿題】レポートテーマについて [#e570c779]
-レポートテーマを考えておくこと
-普段から見聞きする言葉に気をつけるとともに、図書館も活用...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
--[[〈参考〉 国語に関する世論調査の結果について（文化庁）...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
***例((実際に検索してみてできそうなものと難しそうなものが...
-表記
--「雀」「すずめ」「スズメ」動植物名の表記・・・レジスタ...
--「卵」「玉子」「たまご」「タマゴ」・・・意味の違い？文...
--「斡旋」「あっ旋」「あっせん」、「石鹸」「石けん」「せ...
-類義語・対義語
--「奇麗」と「美しい」・・・連体修飾する名詞の違い（→意味...
--「うるさい」「やかましい」「さわがしい」「かしましい」...
--「男性」と「女性」（「男」と「女」）・・・語彙の非対称...
-語形、語法
--「好ましい」「好もしい」・・・語形の揺れと文体差
--「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙...
-意味変化・新語
--「役不足」「確信犯」・・・”誤用”と”正用”
--「断トツ」「定番」「夜ご飯」・・・新語の広がり
*2020年9月25日(金) [#t5667134]
**第8回（2限） ちょっとした応用 [#q1e6a1b0]
***複数の検索結果の結合 [#l9b3620b]
-例：蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓, ↓, Ctrl+V, Ctrl+Home
***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***集計用の列を自分で用意する [#ccae4a87]
-例：表記（ひらがな・カタカナ・漢字）別集計
-例：用法分類
***ランダムサンプリング調査 [#j4516bb3]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列： =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-ex.「られる」「全然」
**第9回（3限） BCCWJ利用の注意点 [#b45afdc5]
***出現サンプル数の調査（重複の削除） [#ma197696]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
***BCCWJ利用の落とし穴 [#le968f3e]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数，１平方キロあたりの…etc.
-BCCWJの語数
--https://pj.ninjal.ac.jp/corpus_center/bccwj/bcc-chu-suw...
***調整頻度の計算 [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ：中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度（pmw）が比較的よく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
**第10回（4限） 集計のための応用（文字列関数） [#he4d31db]
***（補足）CHJでの復習 [#h1e23ecf]
-頻度で見る「あはれ」「をかし」と源氏・枕
***Excelの文字列関数 [#r56f9082]
-[[授業資料/EXCELの文字列関数]]参照
**第11回（5限） 集計のための応用2（VLOOKUP関数） [#f1145...
***（参考）[[ジップ（Zipf）の法則>https://ja.wikipedia.or...
--順位×頻度≒定数
***VLOOKUPを用いた辞書引き集計 [#tf76047b]
-[[授業資料/VLOOKUP関数]]参照
***（補足）「中納言」インラインタグ機能の利用 [#h1e23ecf]
*2020年9月28日(月) [#u6050dc9]
**レポートテーマおよび質問について（NUCT課題） [#y6dbd923]
-[[NUCT課題>https://ct.nagoya-u.ac.jp/portal/site/2020_1_...
**第12回（2限） テキストエディタと正規表現 [#zb872faf]
-データ整備のための基礎
***テキストデータ [#k896318b]
-すべての基本、文字が並ぶだけのデータ
-[[授業資料/テキストデータとは]]
--バイナリデータとテキストデータ
--テキストデータとテキストファイル
-TXT,CSV,HTM…
--ファイルの種類と拡張子 参考：[[拡張子辞典>http://www.ji...
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B...
-授業で使うテキストデータ
--[[授業資料/テキストデータ紹介]]
***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]
***サクラエディタのダウンロードとインストール [#bf5ea59f]
-★[[サクラエディタのダウンロード:https://github.com/sakur...
---(参考) サクラエディタホームページ：https://sakura-edit...
-インストールの手順
--ダウンロードしたzipファイルの中にあるsakura-install*.ex...
--exeファイルを右クリックして「セキュリティ」の右の「許可...
--ダブルクリックしてインストール
***Macの場合（miのダウンロードとインストール） [#c84ab588]
-miのダウンロード https://www.mimikaki.net/
--ダウンロードされたファイルをダブルクリック
***テキストエディタを使ってみる [#zc42842b]
-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号（ワープロ的行番号）と論理行番号（エディ...
-練習用サンプルデータ（漱石＋芥川）
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin...
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep
***grepと置換でKWIC(CSVファイル)を作る（簡易版） [#u3ab2d...
-CSVファイルとは：テキストファイルで表を表現する
[[用語：CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC：KeyWord In Context
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例：読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
**第13回（3限） 正規表現 [#zb872faf]
***正規表現とは [#d216d4e0]
-''正規表現'' [[＞用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字（メタ文字）を使って文字列の...
--テキストエディタでは置換・検索・grepで利用できる （エ...
--特殊な文字（メタ文字）はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする（特...
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの補集合（それ以外の文字）[^ ]
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定（補集合）[^ ]
--繰り返し ? + *
--グループ化 ()
--or（論理和） |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ（外来語）の形容動詞語幹
-送りがなの揺れ（行う／行なう）
-会話文中（"「"で始まる文中）の用例を検索する
-同一文中での共起
--全然～ない。
--もし～なら（ば）
***タグ付き正規表現 [#z9ef50e5]
-走[らりるれろ] でgrepした結果を置換するにはどうしたらい...
--次のように置換するととんでもないことに…
---検索文字列：走[らりるれろっ]
---置換文字列：★走[らりるれろっ]
-タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）...
-[[授業資料/タグつき正規表現]]
***最長一致の原則（greedy matching） [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例：''あ+'' → ''【\1】''
---ああああああああ → 【ああああああああ】
そのせいで…
--例：''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 → 【こんにちは」「さよう...
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1...
---「こんにちは」「さようなら」 → 【こんにちは】【さよう...
-よりかんたんに指定するには（最短一致，ものぐさ指定）
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に...
-（参考）タグ付き正規表現の応用：[[grepと置換でKWICを作る...
***検索文字列の中での後方参照 [#ra28185d]
-検索語の中で\1を使う
--(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しに...
--(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
--(..)\1\1
--(...)\1
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現：http://sakura-editor.sourcefor...
-正規表現に関する本 [[amazonで検索>https://www.amazon.co...
***（参考）テキストデータ（青空文庫）の配布 [#kc659c3f]
-[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/...
-[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7...
**第14回（4限） Excel応用編 / さらなる活用に向けて[#gbb5a...
***アノテーションデータとVLOOKUP [#w92e5b73]
-資料：小木曽（2019）「『日本語歴史コーパス』への追加情報...
--[[CHJ中古「る」「らる」用法分類アノテーションデータ>htt...
***コロケーション強度 [#s9882768]
-[[授業資料/コロケーション強度]]
-資料：小木曽（2014）「コーパス活用の勘所(第6回)【中古語...
-須永哲矢（2011）「コロケーション強度を用いた中古語の語認...
***コーパスの語彙表 [#t80e94f6]
-BCCWJの語彙表
--https://pj.ninjal.ac.jp/corpus_center/bccwj/freq-list.h...
-CHJの語彙表
--https://pj.ninjal.ac.jp/corpus_center/chj/chj-wc.html
***特徴語抽出 [#tc31707c]
-[[授業資料/対数尤度比による特徴語抽出]]
-地の文・会話文・歌ごとの語彙の位相差の話
--資料：小木曽（2015）「中古和文における文体別の特徴語」...
//***テキストの性質に関する古典的な指標とその出し方 [#b1f...
//-語種比率
//-TTR （Type Token Ratio）延べ異なり比
//-名詞率
//-MVR （Modifier / Verb Ratio）((樺島忠夫, 寿岳章子『文...
//-平均文長
***Rの利用 [#ib0753ab]
-[[授業資料/Rの利用]]
**第15回（5限） レポートの書き方／ 質問コーナー [#w71a041f]
***Wordでレポートを書く [#pc6b7b3b]
文書の構造化とWordの使い方（レポートの書き方）
-文書の構造化*
--スタイルと見出し
--ナビゲーション ウィンドウ（見出しマップ）の使い方
--章・節番号
-図表の貼り込み*
--「形式を選択して貼り付け」
--図表番号とキャプション
-脚注
--脚注と文末脚注
-相互参照
--節番号、図表番号と相互参照
--目次、図表目次
-ページ番号*
-PDFとして保存（ブックマークを付加）*
**打ち上げ（Remo） [#uc6ebf15]
-2020/09/28 18:00～ [[Remo>https://ct.nagoya-u.ac.jp/acce...
ページ名:
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
