成蹊2020/日本語日本文学のためのコンピュータ の履歴(No.19)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 成蹊2020/日本語日本文学のためのコンピュータ へ行く。
  • 1 (2020-04-17 (金) 18:40:34)
  • 2 (2020-04-17 (金) 18:55:41)
  • 3 (2020-04-24 (金) 08:20:22)
  • 4 (2020-04-24 (金) 20:47:03)
  • 5 (2020-05-01 (金) 02:32:23)
  • 6 (2020-05-01 (金) 06:02:46)
  • 7 (2020-05-01 (金) 18:16:48)
  • 8 (2020-05-08 (金) 10:01:27)
  • 9 (2020-05-08 (金) 19:30:40)
  • 10 (2020-05-15 (金) 02:02:40)
  • 11 (2020-05-22 (金) 15:53:29)
  • 12 (2020-05-22 (金) 21:31:56)
  • 13 (2020-05-29 (金) 10:11:01)
  • 14 (2020-06-05 (金) 01:39:43)
  • 15 (2020-06-05 (金) 19:25:37)
  • 16 (2020-06-11 (木) 21:43:05)
  • 17 (2020-06-12 (金) 00:50:52)
  • 18 (2020-06-19 (金) 08:00:51)
  • 19 (2020-06-19 (金) 19:43:59)
  • 20 (2020-06-26 (金) 11:33:10)
  • 21 (2020-06-26 (金) 20:39:33)
  • 22 (2020-07-03 (金) 17:15:58)
  • 23 (2020-07-09 (木) 22:47:26)
  • 24 (2020-07-10 (金) 21:03:02)

---

成蹊2020

• 金曜2限：10:40～12:20
• 当面オンライン（Zoom）
• CoursePower（成蹊大学）日本語日本文学のためのコンピュータ
• Mail: ogiso◎ogiso.net (←◎を@に)

---

2020/06/19　さまざまな集計方法／レポートについて†

課題（復習）†

Himawari＋青空文庫(文学作品)パッケージを使って、「心持」と「気持」を検索し、検索結果にExcel上で作家の生年代（10年刻み）を付与したうえで、ピボットテーブルで集計して、生年代別に「心持」「気持」の用例数を示す表と使用割合を示すグラフを作成しなさい。

• 例：「～的な」「～的の」
  • 二字漢語＋的な／の　の通時的変化

分類用の列を作って集計する†

• 入力用の列を作り手作業で意味分類する
  • 例：「新聞紙」の意味・用法の変化

サンプリング調査†

• 大量に用例があり、調査内容からすべて対象にできない場合
• ランダムに並べ替え→先頭n例を調査対象に
  • ランダムな数字の列： =RAND()
  • ランダムな数字の列をコピーして値として貼り付けると数字が固定される

作品数の調査（用例数ではなく）†

• 人称代名詞のように、一つの作品に偏って大量に用例がある場合

レポートテーマについて(予告)†

• 授業で紹介したエディタやひまわり、中納言、表計算ソフトの使い方を活かして、たとえば次のようなテーマでレポートをまとめてもらいます。データは授業で配布・紹介したものを自由に利用してください。
  • 例：作家ごとの言葉の使い方の違い
  • 例：類義語の意味の違い
  • 例：語の用法の変化
  • 例：語形・（表記）のゆれ
• などなど

「中納言」の紹介†

2020/06/12　検索結果のExcelによる集計(2)†

Excelの基本操作（再）†

• 並べ替え（ソート）
• フィルター（絞り込み）
  • テキストフィルター
  • 多重フィルター（複数の条件指定）
• ピボットテーブル★
  • ピボットグラフ

ひまわり検索結果をExcelで扱う†

• ピボットテーブルとピボットグラフ
  • 例：「それきり」「それぎり」

生年代による集計（通時的変化）†

• 文字列処理関数の利用
  • 例： =left(<文字列>,<文字数>)
    • 生年代： =left(<生年月日が入っているセル>,3)*10

• 生年月日データの書式について
  • 「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ
    • 1900年以前の年月日は文字列、それ以降は日付として認識される

1. Himawariで「すべて選択」後、「すべて選択」「コピー（列名含む）」をする
2. Excelで生年月日の列が貼り付けられることになる列（NとO）を丸ごと選択し、書式を「文字列」とする
3. Excelに貼り付ける

2020/06/05　検索結果のExcelによる集計†

正規表現小テスト†

• （11:50ごろから）ZoomのチャットでPDFファイルを配布します。
• 下記のCourse Powerのサイトから提出してください。
  • https://lms.seikei.ac.jp/lms/lginLgir/index?target=vfx4xifZ

「ひまわり」とその使い方†

• ひまわりの動作確認
• 検索方法の説明
• ひまわりの正規表現について（授業資料/Himawariの正規表現）
• ふりがなの検索

ひまわり検索結果をExcelで扱う†

• 例
  • 「気持ち」「心持ち」
  • 「みたいだ」「みたようだ」

Excelの基本操作†

• 並べ替え（ソート）
• フィルター（絞り込み）
  • テキストフィルター
  • 多重フィルター（複数の条件指定）
• ピボットテーブル★
  • ピボットグラフ

2020/05/29 　全文検索システム「ひまわり」†

正規表現の復習（タグ付き正規表現）†

• 2020年6月5日に正規表現の小テストを行います。復習しておいて、分からない点は授業時に質問してください。

全文検索システム「ひまわり」†

全文検索システム「ひまわり」について†

• 全文検索システム「ひまわり」
  • ただのテキストファイル（プレーンテキスト）ではなく、XML形式にして、インデックスを付けた専用のデータを利用

• ひまわり のダウンロードページ　プログラム本体

「青空文庫パッケージ」のインストール†

1. 青空文庫パッケージのダウンロード
   1. ひまわり用「青空文庫」パッケージのダウンロードページから「青空文庫パッケージ」をUSBメモリに直接ダウンロードして保存（サイズが大きいのでPCにダウンロードできない）
2. USBメモリにコピーしたフォルダ内のhimawari.exeを起動
   1. Himawari画面上にダウンロードしたzipファイルをドラッグ＆ドロップ*1
   2. しばらく待つと完了（数分から10分程度はかかる）
3. 要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する

• ひまわりの動作確認

2020/05/22 　正規表現2（タグ付き正規表現）†

• 今日の練習用テキストデータ
  • soseki2.zip （前回と同じもの）

正規表現の応用†

• カタカナ語
  • カタカナ（外来語）の形容動詞語幹
• 送りがなの揺れ（行う／行なう）
• 会話文中（"「"で始まる文中）の用例を検索する
• 同一文中での共起
  • 全然～ない。
  • もし～なら（ば）

タグ付き正規表現†

• 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろっ]
    • 置換文字列：★走[らりるれろっ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：あ+ → 【\1】
    • ああああああああ →　【ああああああああ】 そのせいで…
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】　のように書かなければならない
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• よりかんたんに指定するには（最短一致，ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索文字列の中での後方参照†

• 検索語の中で\1を使う
  • (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
  • (..)\1\1
  • (...)\1

正規表現に関する参考資料†

• サクラエディタの正規表現：http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html
• 正規表現に関する本　amazonで検索

2020/05/15 正規表現†

• 今日の練習用テキストデータ
  • soseki2.zip （前回と同じもの）

テキストエディタ・正規表現（文字クラス）の復習†

• 文字クラス
  • 例：読[まみむめもん]

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

2020/05/08 テキストエディタの利用†

復習（前回のデータを使って）†

• 検索・置換、grep
  • 検索で初出行を調べる
  • 置換で用例数を数える
  • grepで用例リストを作る
  • タグジャンプで文脈を確認する
  • サブフォルダのgrep

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー
• Mac のキーボードショートカット https://support.apple.com/ja-jp/HT201236

テキストデータ（青空文庫）の配布†

• ★soseki2.zip （今日の授業で使います）
  • （参考： aozoradoc2.zip（青空文庫の全テキスト））
• ダウンロードして展開（解凍）してください

grepと置換でKWIC(CSVファイル)を作る（簡易版）†

• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• KWIC：KeyWord In Context

正規表現を使ってみる†

• 文字クラス
  • 例：読[まみむめもん]
    • 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
  • テキストエディタでは置換・検索・grepで利用できる　（エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
  • 特殊な文字（メタ文字）はすべて半角

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの補集合（それ以外の文字）[^ ]

2020/05/01 テキストエディタ†

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

サクラエディタのダウンロードとインストール†

• ★サクラエディタのダウンロード
  • (参考) サクラエディタホームページ：https://sakura-editor.github.io/

• インストールの手順
  • ダウンロードしたzipファイルの中にあるsakura-install*.exeをデスクトップにコピー
  • exeファイルを右クリックして「セキュリティ」の右の「許可する」をチェックして「OK」
  • ダブルクリックしてインストール

Macの場合（miのダウンロードとインストール）†

• miのダウンロード https://www.mimikaki.net/
  • ダウンロードされたファイルをダブルクリック

テキストエディタを使ってみる†

• テキストエディタの設定
  • 行の折り返し
  • 行番号表示
    • スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）

• 練習用サンプルデータ（漱石＋芥川）
  • sample.zip

• 検索・置換、grep
  • 検索で初出行を調べる
  • 置換で用例数を数える
  • grepで用例リストを作る
  • タグジャンプで文脈を確認する
  • サブフォルダのgrep

2020/04/24　テキストデータと文字コード†

【重要】授業の進め方について†

• 当面オンラインで、PCなしでも大丈夫なように進めます。
• 授業の性格上、期末前までには（自宅または大学で）実際にPCが利用できるようになることを前提とせざるをえません。
• 先が見通せないので、現状PCの利用ができず、今後に不安がある方は授業の履修登録変更も検討してください。

文字コード†

• ㋿（令和）の話
  • 授業資料/文字コード関連リンク

テキストデータ†

• すべての基本、文字が並ぶだけのデータ
• 授業資料/テキストデータとは
  • バイナリデータとテキストデータ
  • テキストデータとテキストファイル

• TXT,CSV,HTM…
  • ファイルの種類と拡張子 参考：拡張子辞典
  • 拡張子(wikipedia)

• 授業で使うテキストデータ
  • 授業資料/テキストデータ紹介

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

2020/04/17†

※オンライン授業になるため、受講者のPC環境によっては一部の内容を変更して進めます。特にソフトウェアについては参考程度に見てください。

Zoom準備†

イントロダクション†

• 自己紹介
  • 大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/
  • コーパス開発センター

• デモ
  • テキストエディタとgrep
  • 全文検索システムひまわり
  • Excel（ピボットテーブル）
  • 形態素解析：Web茶まめ

• 「現代日本語書き言葉均衡コーパス（BCCWJ）」
  • BCCWJ少納言
  • 中納言

• シラバス確認
  • シラバス（PDF）
  • この授業の目的
  • 授業の進め方
  • 評価方法

授業で利用する主なソフトウェア†

アンケート†

• CoursePower上のアンケート↓に答えてください
  • https://lms.seikei.ac.jp/lms/lginLgir/index?target=DXkIoLqc