成蹊2024/応用日本語講座 の履歴(No.20)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 成蹊2024/応用日本語講座 へ行く。
  • 1 (2024-04-08 (月) 05:12:12)
  • 2 (2024-04-08 (月) 05:18:28)
  • 3 (2024-04-12 (金) 08:30:10)
  • 4 (2024-04-17 (水) 10:53:34)
  • 5 (2024-04-18 (木) 15:04:08)
  • 6 (2024-04-22 (月) 12:52:41)
  • 7 (2024-04-25 (木) 16:44:06)
  • 8 (2024-04-26 (金) 14:20:08)
  • 9 (2024-05-08 (水) 13:04:31)
  • 10 (2024-05-15 (水) 11:10:04)
  • 11 (2024-05-17 (金) 11:19:47)
  • 12 (2024-05-18 (土) 11:55:14)
  • 13 (2024-05-23 (木) 10:01:47)
  • 14 (2024-05-30 (木) 19:16:52)
  • 15 (2024-06-06 (木) 23:35:37)
  • 16 (2024-06-07 (金) 14:07:39)
  • 17 (2024-06-13 (木) 11:38:23)
  • 18 (2024-06-14 (金) 10:56:19)
  • 19 (2024-06-14 (金) 17:48:29)
  • 20 (2024-06-20 (木) 19:46:19)
  • 21 (2024-06-24 (月) 12:20:11)
  • 22 (2024-07-03 (水) 17:36:54)
  • 23 (2024-07-05 (金) 08:55:41)
  • 24 (2024-07-12 (金) 08:41:58)

---

成蹊2024

応用日本語講座†

• 2023年度後期・金曜2限：10:40～12:20
• 教室:7号館303 ※4月19日から変更になりました。
• Mail: ogiso@ogiso.net

• シラバス
• CoursePower授業ページ

6/21 レポートについて／「中納言」のかんたんな使い方†

レポートついて†

• リアクションペーパー

「中納言」の簡単な使い方†

この授業ではごく簡略に使い方を説明します（本格的な利用法は成蹊2024/日本語学講義Dで）

• 配布資料：「『中納言』の使い方」

「中納言」の紹介†

• コーパス検索アプリケーション「中納言」

• 「現代日本語書き言葉均衡コーパス」（BCCWJ）：現代語書き言葉との比較に
• 「日本語日常会話コーパス」（CEJC）：現代の話し言葉との比較に（量は少ないが発音が確認できる）
• 「昭和・平成書き言葉コーパス」（SHC）：1933年から2013年までの雑誌・ベストセラー書籍・新聞を8年おきに収録
• 「日本語歴史コーパス」（CHJ）：近代の文学作品以外との比較や、近代以前との比較、より長いスパンでの言語変化の調査に

• まずは文字列検索で調べる

品詞体系と見出し語の階層†

• BCCWJ,CHJはUniDicの品詞体系にもとづく
  • 授業資料/UniDicの品詞体系
  • 授業資料/UniDicの見出し語階層

「Web茶まめ」の利用†

• https://chamame.ninjal.ac.jp/
• テキストの形態素解析結果をピボットテーブルで分析
• 複数のテキストの形態素解析結果を比較する

• サンプルデータ（漱石 こころ.txt）
  • sample.zip

6/14 さまざまな集計方法／レポートについて†

複数の検索結果を結合する†

• 一度の検索では探せない語群の集計、または後から検索結果を追加する場合
  • 「幸せ」「倖せ」「仕合わせ」

一度にピボットテーブルで集計できるように検索結果1の表の下に検索結果2（列名なし）を貼り付けて一つの表にまとめる

• ※必ず表をくっつけること（空行を入れるとそこで表が切れていると認識される）

ショートカットキーを活用すると便利

• コピーした表を既存の表の下に貼り付け
  • Ctrl+↓（表の一番下の行に移動）, ↓（1行下へ）, Ctrl+V（貼り付け）

作品数の調査（用例数ではなく作品数で調査する）†

• たとえば人称代名詞のように、一つの作品に偏って大量に用例がある場合
  • sample

テキストエディタで「ひまわり」の検索結果を加工する†

• 例：正規表現をつかった置換で前後文脈を整える

「ひまわり」で利用可能なその他のデータについて†

• 『青空文庫』パッケージ（ 小説以外を含む15000作品以上を収録）
• 『国会会議録』パッケージ
• 『名大会話コーパス』パッケージ
• 近代語のコーパス

国語研のコーパスと「中納言」の紹介†

• コーパス検索アプリケーション「中納言」
• アカウントについて

国立国語研究所のコーパス†

• コーパス開発センター
  • 「現代日本語書き言葉均衡コーパス」
  • 「日本語歴史コーパス」
  • 「日本語日常会話コーパス」
  • 「昭和・平成書き言葉コーパス」

レポートテーマについて(予告)†

• 授業で紹介したエディタやひまわり、中納言、表計算ソフトの使い方を活かして、たとえば次のようなテーマでレポートをまとめてもらいます。データは授業で配布・紹介したものを自由に利用してください。

• 例：語形・（表記）のゆれ、使い分け
• 例：語の用法の変化
• 例：作家ごとの言葉の使い方の違い
• 例：類義語の意味の違い

• などなど

青空文庫の集計結果との比較例†

• 明治大正時代の変化はその後どうなったか：BCCWJとの比較
  • それぎり
  • 心持ち
• 近代の雑誌や教科書ではどうなっているか：CHJ（雑誌・教科書）との比較
• 明治大正より前（江戸時代以前）はどうなっているか：CHJ（江戸時代以前）との比較

6/7　検索結果のExcelによる集計†

分類用の列を作って集計する†

• 入力用の列を作り手作業で意味分類する
  • 例：「新聞紙」の意味・用法の変化

ランダムサンプリング調査†

• 大量に用例があり、調査内容からすべて対象にできない場合
• ランダムに並べ替え→先頭n例を調査対象に
  • ランダムな数字の列： =RAND()
  • ランダムな数字の列をコピーして値として貼り付けると数字が固定される

5/31　検索結果のExcelによる集計†

正規表現小テスト：解説†

(復習)Excelの基本操作†

• 並べ替え（ソート）
• フィルター（絞り込み）
  • テキストフィルター
  • 多重フィルター（複数の条件指定）
• ピボットテーブル【重要】
  • ピボットグラフ

(復習)ピボットテーブルの使い方†

• ピボットテーブル
• ピボットグラフ

• 例：「それきり」「それぎり」
• 例：「気持ち」「心持ち」

生年代による集計（通時的変化）†

• 文字列処理関数の利用
  • 例： =LEFT(<文字列>,<文字数>)*1
    • 生年代： =LEFT(<生年月日が入っているセル>,3)*10

• 生年月日データの書式について
  • 下記の手順で「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ必要がある
    • Excelでは1900年以前の年月日は文字列、それ以降は日付として認識されるため

1. Himawariで「すべて選択」後、「すべて選択」「コピー（列名含む）」をする
2. Excelで生年月日の列が貼り付けられることになる列（NとO）を丸ごと選択し、書式を「文字列」とする
3. Excelに貼り付ける

5/24　「ひまわり」の利用と検索結果のExcelでの集計／正規表現小テスト†

全文検索システム「ひまわり」†

• 全文検索システム「ひまわり」
  • ただのテキストファイル（プレーンテキスト）ではなく、XML形式にして、インデックスを付けた専用のデータを利用
  • 自分で専用のデータを作ることもできるが、できあがって公開されているパッケージを利用するのが普通

「ひまわり」とその使い方†

• ひまわりの動作確認
• 検索方法の説明
• ひまわりの正規表現について（授業資料/Himawariの正規表現）
• ふりがなの検索

ひまわり検索結果をExcelで扱う†

• 例：「それきり」「それぎり」
  • （作家／作品別の比較）

Excelの基本操作†

• 並べ替え（ソート）
• フィルター（絞り込み）
  • テキストフィルター
  • 多重フィルター（複数の条件指定）
• ピボットテーブル【重要】
  • ピボットグラフ

---

前回補足：Wordのワイルドカードと正規表現†

• https://note.com/jinbunxshakai/n/n8070db080041

正規表現小テスト†

5/17　タグ付き正規表現／全文検索システム「ひまわり」†

タグ付き正規表現†

• 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろっ]
    • 置換文字列：★走[らりるれろっ]
• タグ付き正規表現：カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：あ+ → 【\1】
    • ああああああああ →　【ああああああああ】 そのせいで…
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】　のように書かなければならない
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• よりかんたんに指定するには（最短一致，ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索文字列の中での後方参照†

• 検索語の中で\1を使う
  • (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
  • (..)\1\1
  • (...)\1

正規表現に関する参考資料†

• サクラエディタの正規表現：https://sakura-editor.github.io/help/HLP000089.html
• 正規表現に関する本　amazonで検索
• ゲームの紹介:
  • 正規表現を学ぶ狩りに出ようRegex Hunting

「ひまわり」の準備†

• 全文検索システム「ひまわり」

「ひまわり」のインストール†

1. ひまわり のダウンロードページからプログラム本体（zipファイル）をダウンロード
2. zipファイルを右クリックしてプロパティを見る→「セキュリティ」の右の「許可する」をチェックして「OK」
3. ダブルクリックして開き、中のフォルダをまるごと（USBメモリに）コピー
4. フォルダ内のhimawari.exeをダブルクリックで起動（MacはHimawari.jar、または最初からMac版をインストール）

「青空文庫パッケージ」のインストール†

1. 青空文庫パッケージのダウンロード
   1. ひまわり用「青空文庫」パッケージのダウンロードページから「日本文学／小説(ndc913) 」をUSBメモリに直接ダウンロードして保存（サイズが大きいので大学のPCではダウンロードできない）
2. himawari.exeを起動
   1. Himawari画面のファイル→インストールをえらび、青空文庫パッケージのzipファイルを指定
   2. しばらく待つと完了（数分から10分程度はかかる）
3. 要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する

「ひまわり」とその使い方†

• ひまわりの動作確認
• 検索方法の説明
• ひまわりの正規表現について（授業資料/Himawariの正規表現）
• ふりがな（ルビ）の検索

5/10　正規表現の応用†

授業資料/正規表現つづき†

• 授業資料/正規表現
  • 繰り返しに関するメタ文字から

正規表現の応用†

• カタカナ語
  • カタカナ（外来語）の形容動詞語幹
• 送りがなの揺れ（行う／行なう）
• 会話文中（"「"で始まる文中）の用例を検索する
• 同一文中での共起
  • 全然～ない。
  • もし～なら（ば）

USBメモリの準備について†

• 次回以降「ひまわり」の利用のためにUSBメモリを用意してください。自分のPCを持ち込んで受講している場合は不要です。

05/03【休講】（憲法記念日：授業実施日）†

• 授業実施日ですが休講とします。
• 下記を課題としますので、次の授業回（5月10日）までに行ってください。
  • キストエディタの操作方法を復習するとともに，リンク先の説明ページを確認して、授業時に配布したデータを対象に、正規表現を用いた検索を行うこと。　

04/26　テキストエディタの利用†

• サクラエディタの使い方（PDF）

テキストデータ（青空文庫の夏目漱石作品）の配布†

• ★soseki2.zip （今日の授業で使います）

復習†

• 検索・置換、grep
  • 検索で初出行を調べる
  • 置換で用例数を数える
  • grepで用例リストを作る
  • タグジャンプで文脈を確認する

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー
• Mac のキーボードショートカット https://support.apple.com/ja-jp/HT201236

grepと置換でKWIC(CSVファイル)を作る（簡易版）†

• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• KWIC：KeyWord In Context

正規表現を使ってみる†

• 文字クラス
  • 例：読[まみむめもん]
    • 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
  • テキストエディタでは置換・検索・grepで利用できる　（エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
  • 特殊な文字（メタ文字）はすべて半角

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

04/19　テキストデータと文字コード†

文字コード†

• 授業資料/文字コード関連リンク

テキストデータ†

• すべての基本となる文字が並ぶだけのデータ
• 授業資料/テキストデータとは
  • バイナリデータとテキストデータ
  • テキストデータとテキストファイル

• TXT,CSV,HTM…
  • ファイルの種類と拡張子 参考：拡張子辞典
  • 拡張子(wikipedia)

• 授業で使うテキストデータ
  • 授業資料/テキストデータ紹介

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

テキストエディタのダウンロードとインストール†

フリーソフトウェア（無償）のサクラエディタを使います。（PC教室のパソコンにはインストール済み）

（以下は自分のPCで使う場合）

• ★サクラエディタのダウンロード
  • (参考) サクラエディタホームページ：https://sakura-editor.github.io/
• インストールの手順
  • ダウンロードしたzipファイルの中のsakura_install～.exeをダブルクリック
  • 以下、画面の指示に従ってインストール

• PCに詳しい人にはVisual Studio Codeがおすすめ
  • 授業はサクラエディタで説明します

テキストエディタを使ってみる†

• テキストエディタの設定
  • 行の折り返し
  • 行番号表示
    • スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）

• 練習用サンプルデータ（漱石 こころ.txt）
  • sample.zip

• 検索・置換、grep
  • 検索で初出行を調べる
  • 置換で用例数を数える
  • grepで用例リストを作る
  • タグジャンプで文脈を確認する

ショートカットキー†

• Windowsの主なショートカットキー授業資料/覚えておきたいショートカットキー
  • Macのショートカットキー https://support.apple.com/ja-jp/HT201236

テキストエディタの利用†

• サクラエディタの使い方（PDF）

テキストデータ（青空文庫の夏目漱石作品）の配布†

• ★soseki2.zip （今日の授業で使います）

復習†

• 検索・置換、grep
  • 検索で初出行を調べる
  • 置換で用例数を数える
  • grepで用例リストを作る
  • タグジャンプで文脈を確認する

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー
• Mac のキーボードショートカット https://support.apple.com/ja-jp/HT201236

grepと置換でKWIC(CSVファイル)を作る（簡易版）†

• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• KWIC：KeyWord In Context

正規表現を使ってみる†

• 文字クラス
  • 例：読[まみむめもん]
    • 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

USBメモリの準備について†

04/12 イントロダクション†

• 自己紹介
  • 大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/
    • 言語資源開発センター

• シラバス確認
  • この授業のシラバス
  • この授業の目的
  • 授業の進め方
  • 評価方法

授業で利用する主なソフトウェア†

授業で利用する主なデータ†

• 青空文庫の近代の小説
• 国立国語研究所のコーパス
  • 「現代日本語書き言葉均衡コーパス」
  • 「日本語日常会話」
  • 「昭和・平成書き言葉コーパス」
  • 「日本語歴史コーパス」

デモ†

• テキストエディタとgrep, 正規表現
• 全文検索システムひまわり
• Excel（ピボットテーブル）
• 形態素解析：Web茶まめ

• 現代語コーパス
  • 少納言