成蹊2018
- 日本語学・日本文学を研究していく上で必要なコンピュータの知識・技術（テキストエディタ・正規表現・表計算ソフト・文書の構造化）を学びます。
- 後期2限
- 7号館3階 301パソコン教室
- ogiso＠ogiso.net ←＠を@に直してください
日本語日本文学のためのコンピュータ
調整頻度の計算（再）
- 粗頻度を総語数で割る
- レジスターごとの語数データ：中納言ページの「語数について」からExcelでダウンロードできる
- 調整頻度には100万語あたりの頻度（pmw）が比較的よく使われる
- ※割合の違いを比較するだけなら調整頻度を出す必要はない。
- ※ひまわりの検索結果でも同じことだが、その場合は語数の代わりに文字数で代用する。
現代語との比較 ―BCCWJ中納言
- 「気持ち」「心持」を例に、青空文庫の集計結果と比較
- BCCWJ内部でも生年による違いがある
2018/12/14 レポートテーマ確認・「中納言」検索結果の集計つづき
レポートテーマの確認
- パソコン・ネットだけでは十分な調査はできません。図書館を利用してください。（参考文献は明記すること）
- 最低限『日本国語大辞典』等のしっかりした辞典にあたっておくこと。
レポートテーマ予備調査結果発表（ライトニングトーク）について
複数の検索結果の結合
ショートカットキーを活用すると便利
- Ctrl+End ファイルの末尾/表のいちばん右下に移動
- Shift+Ctrl+End 〃範囲を選択
- 表をコピー
- Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl+End, Ctrl+C
- コピーした表を既存の表の下に貼り付け
- Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
2018/12/7 CHJ「中納言」検索結果の集計
「中納言の使い方」つづき
検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"
「中納言」検索結果のダウンロードとExcelでの利用
- ダウンロード
- Excelでインポート
レポートテーマについて(予告)
- 授業で紹介したエディタやひまわり、中納言、表計算ソフトの使い方を活かして、たとえば次のようなテーマでレポートをまとめてもらいます。データは授業で配布・紹介したものを自由に利用してください。
- 例：作家ごとの言葉の使い方の違い
- 例：類義語の意味の違い
- 例：語の用法の変化
- 例：語形・（表記）のゆれ
- などなど
2018/11/30 CHJ中納言の使い方
「中納言」の利用：形態論情報を使った検索
- 配布資料「『中納言』の使い方」
- この資料は次回以降も使いますので必ず持ってきてください。
形態論情報を使った検索
品詞体系と見出し語の階層
- BCCWJ,CHJはUniDicの品詞体系にもとづく
2018/11/23（欅祭）
2018/11/16 検索結果のExcelによる集計(2)
分類用の列を作って集計する
サンプリング調査
- 大量に用例があり、調査内容からすべて対象にできない場合
- ランダムに並べ替え→先頭n例を調査対象に
- ランダムな数字の列： =RAND()
- ランダムな数字の列をコピーして値として貼り付けると数字が固定される
ひまわりによる検索・補足
『日本語歴史コーパス』と「中納言」
「日本語歴史コーパス（CHJ）」
- 中納言
- 要登録
- 単語の情報（形態論情報）が付いているのが特長
- 一度に最大10万例までダウンロード可
「中納言」の利用：形態論情報を使った検索
2018/11/9 検索結果のExcelによる集計
Excelの基本操作
- 並べ替え（ソート）
- フィルター（絞り込み）
- テキストフィルター
- 多重フィルター（複数の条件指定）
- ピボットテーブル★
ひまわり検索結果をExcelで扱う†
- ピボットテーブルとピボットグラフ
- 例：「それきり」「それぎり」
- 例：「～的な」「～的の」
生年代による集計（通時的変化）
- 文字列処理関数の利用
- 例： =left(<文字列>,<文字数>)
- 生年代： =left(<生年月日が入っているセル>,3)*10
- 生年月日データの書式について
- 「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ
- 1900年以前の年月日は文字列、それ以降は日付として認識される
- Himawariで「すべて選択」後、「すべて選択」「コピー（列名含む）」をする
- Excelで生年月日の列が貼り付けられることになる列（NとO）を丸ごと選択し、書式を「文字列」とする
- Excelに貼り付ける
2018/11/2 全文検索システム「ひまわり」
- 27日分検索課題（seikei portal）について
「青空文庫パッケージ」のインストール
- 青空文庫パッケージのダウンロード
- ひまわり用「青空文庫」パッケージのダウンロードページから「青空文庫パッケージ」をUSBメモリに直接ダウンロードして保存（サイズが大きいのでPCにダウンロードできない）
- USBメモリにコピーしたフォルダ内のhimawari.exeを起動
- Himawari画面上にドラッグ＆ドロップ*1
- しばらく待つと完了（数分から10分程度はかかる）
- 要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する
「ひまわり」とその使い方
ひまわり検索結果をExcelで扱う†
2018/10/27（金曜授業実施日） 休講
2018/10/26 やや高度な正規表現
検索文字列の中での後方参照（復習）
- 検索語の中で\1を使う
- (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
- (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
- (..)\1\1
- (...)\1
最長一致の原則（greedy matching）†
- 正規表現は、パターンが一致する最も長い範囲にマッチする
- 例：あ+ → 【\1】
- ああああああああ → 【ああああああああ】
そのせいで…
- 例：「(.+)」 → 【\1】
- 「こんにちは」「さようなら」 → 【こんにちは」「さようなら】
- 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】 のように書かなければならない
- 「こんにちは」「さようなら」 → 【こんにちは】【さようなら】
- よりかんたんに指定するには（最短一致，ものぐさ指定）
- 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける
正規表現に関する参考資料†
#amazon(4873114500)
#amazon(4873113598)
全文検索システム「ひまわり」について
「ひまわり」の導入
正規表現小テスト
2018/10/12 正規表現
テキストエディタ・正規表現（文字クラス）の復習
正規表現のいろいろ†
- 授業資料/正規表現
- 文字クラス [ ]
- 文字クラスの否定（補集合）[^ ]
- 繰り返し ? + *
- グループ化 ()
- or（論理和） |
- 文頭 ^、文末 $
正規表現の応用†
- カタカナ語
- 送りがなの揺れ（行う／行なう）
- 会話文中（"「"で始まる文中）の用例を検索する
- 同一文中での共起
タグ付き正規表現
- 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
- 次のように置換するととんでもないことに…
- 検索文字列：走[らりるれろっ]
- 置換文字列：★走[らりるれろっ]
- タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
- 授業資料/タグつき正規表現
検索文字列の中での後方参照†
- 検索語の中で\1を使う
- (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
- (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
2018/10/05 テキストエディタの利用
- テキストデータ（青空文庫）の配布
- ダウンロードしてUSBメモリに展開（解凍）してください
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
- サブフォルダのgrep
ショートカットキー†
grepと置換でKWIC(CSVファイル)を作る（簡易版）†
- CSVファイルとは：テキストファイルで表を表現する
用語：CSVファイル
- KWIC：KeyWord In Context
正規表現を使ってみる†
- 文字クラス
- 例：読[まみむめもん]
- 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
正規表現とは†
- 正規表現 ＞用語
- 文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
- エディタでは置換・検索・grepで利用できる （エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
- 特殊な文字（メタ文字）はすべて半角
2018/09/28 テキストデータとテキストエディタ
- USBメモリの準備
- 次回の授業からUSBメモリを使います。2GB（できれば4GB）以上の空きのあるUSBメモリを用意してください。
テキストデータ
- すべての基本、文字が並ぶだけのデータ
- TXT,CSV,HTM・・・
テキストエディタ†
- テキストエディタの設定
- 行の折り返し
- 行番号表示
- スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）
- 検索・置換、grep
- 検索で初出行を調べる
- 置換で用例数を数える
- grepで用例リストを作る
- タグジャンプで文脈を確認する
- サブフォルダのgrep
2018/09/21
イントロダクション
- デモ
- テキストエディタとgrep
- 全文検索システムひまわり
- Excel（ピボットテーブル）
- 形態素解析：Web茶まめ
- シラバス確認
- シラバス（PDF）
- この授業の目的
- 授業の進め方
- 評価方法
授業で利用する主なソフトウェア†
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
