東京外大2016
Japan Studies 1：コーパス日本語学入門
- 前期・木曜4限
- ogiso＠ogiso.net ←＠を@に直してください
2016/04/28
正規表現のいろいろ†
- 授業資料/正規表現
- 文字クラス [ ]
- 文字クラスの否定（補集合）[^ ]
- 繰り返し ? + *
- グループ化 ()
- or（論理和） |
- 文頭 ^、文末 $
正規表現の応用†
- カタカナ語
- 送りがなの揺れ（行う／行なう）
- 会話文中（"「"で始まる文中）の用例を検索する
- 同一文中での共起
grepと置換でKWIC(CSVファイル)を作る（簡易版）†
- CSVファイルとは：テキストファイルで表を表現する
用語：CSVファイル
- KWIC：KeyWord In Context
タグ付き正規表現
- 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
- 次のように置換するととんでもないことに…
- 検索文字列：走[らりるれろっ]
- 置換文字列：★走[らりるれろっ]
- タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
- 授業資料/タグつき正規表現
検索文字列の中での後方参照†
- 検索語の中で\1を使う
- (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
- (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
最長一致の原則（greedy matching）†
- 正規表現は、パターンが一致する最も長い範囲にマッチする
- 例：あ+ → 【\1】
- ああああああああ → 【ああああああああ】
そのせいで…
- 例：「(.+)」 → 【\1】
- 「こんにちは」「さようなら」 → 【こんにちは」「さようなら】
- 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】 のように書かなければならない
- 「こんにちは」「さようなら」 → 【こんにちは】【さようなら】
- よりかんたんに指定するには（最短一致，ものぐさ指定）
- 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける
正規表現に関する参考資料†
#amazon(4873114500)
#amazon(4873113598)
「少納言」で正規表現を使う
2016/04/21
テキストエディタ
- テキストデータ（青空文庫）の配布
- ダウンロードしてUSBメモリに展開（解凍）してください
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
- サブフォルダのgrep
ショートカットキー†
正規表現を使ってみる†
- 文字クラス
- 例：読[まみむめもん]
- 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
正規表現とは†
- 正規表現 ＞用語
- 文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
- エディタでは置換・検索・grepで利用できる （エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
- 記号はすべて半角
- 記号そのものを表す場合には\でエスケープする（特殊な意味を打ち消す） 例：1\+2
2016/04/14
- 次回以降、USBメモリ（少なくとも2GB以上）を持ってきてください。
「コーパス」について†
- 狭義のコーパス
- 言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
- 現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）
- 広義のコーパス
- コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
- さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
- Web上のデータ
- 検索サイトの利用
- WAC（Web as Corpus）
紙の資料からコーパスまで
- (紙の)本文
- (紙の)総索引（コンコーダンス）
- 電子テキスト
- 構造化テキスト
- 形態論情報付きコーパス
テキストファイル
- テキストエディタの設定
- 行の折り返し
- 行番号表示
- スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）
2016/04/07
イントロダクション/日本語コーパスの紹介
- デモ
- 「現代日本語書き言葉均衡コーパス（BCCWJ）」
- Excelによる集計（ピボットテーブル）
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
