#author("2023-06-22T10:45:47+00:00","default:ogiwiki","ogiwiki")
[[成蹊2023]]
*応用日本語講座（日本語・日本文学のためのコンピュータ） [#v8457c9d]
-金曜2限：''10:40～12:20''
-Mail: ogiso@ogiso.net
-[[CoursePower（成蹊大学）授業ページ>https://lms.seikei.ac.jp/lms/lginLgir/index?target=a3Oly23H]]
-[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbdr.do?value(risyunen)=2023&value(semekikn)=1&value(kougicd)=125236130&value(crclumcd)=50223-0100]]
------
-&color(red){7月14日は海外出張（[[DH2023>https://dh2023.adho.org/]]）のため休講にします。};
**6/23 コーパスの形態論情報とWeb茶まめ [#ufec9042]
この授業ではごく簡略に使い方を説明します（本格的な利用法は[[成蹊2023/日本語学講義D]]で）
-資料[[「『中納言』の使い方」>https://lms.seikei.ac.jp/lms/lginLgir/index?target=lg_Tktz1]]
***「中納言」の紹介 [#h1262109]
-[[コーパス検索アプリケーション「中納言」>https://chunagon.ninjal.ac.jp]]
-「現代日本語書き言葉均衡コーパス」（BCCWJ）：現代語書き言葉との比較に
-「日本語日常会話コーパス」（CEJC）：現代の話し言葉との比較に（量は少ないが発音が確認できる）
-「昭和・平成書き言葉コーパス」（SHC）：1933年から2013年までの雑誌・ベストセラー書籍・新聞を8年おきに収録
-「日本語歴史コーパス」（CHJ）：近代の文学作品以外との比較や、近代以前との比較、より長いスパンでの言語変化の調査に
-まずは文字列検索で調べる
***品詞体系と見出し語の階層 [#b8ca660e]
-BCCWJ,CHJはUniDicの品詞体系にもとづく
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***ひまわり＋Excelの復習 [#n9a2dc03]
-例：「細君」「妻君」
--類義語「妻（つま）」「妻（さい）」「奥さん」etc.
--対義語「夫」「主人」「旦那」etc.
-例：「障碍」「障害」 [[ケーススタディ/障がい]]
-例：「～的な」「～的の」
--二字漢語＋的な／の の通時的変化
***「Web茶まめ」の利用 [#p018d8bb]
-https://chamame.ninjal.ac.jp/
-テキストの形態素解析結果をピボットテーブルで分析
-複数のテキストの形態素解析結果を比較する
-サンプルデータ（漱石 こころ.txt）
--[[sample.zip>https://www.dropbox.com/s/fi5kg860wvlgwir/sample.zip?dl=1]]
**6/17(土)EXTRA：レポートについて／国語研のコーパスと「中納言」の紹介 [#ufec9042]
***レポートテーマ相談会 [#vf782471]
***国立国語研究所のコーパス [#n1cf4ee0]
-[[コーパス開発センター>https://clrd.ninjal.ac.jp/]]
--[[「現代日本語書き言葉均衡コーパス」>https://clrd.ninjal.ac.jp/bccwj/]]
--[[「日本語歴史コーパス」>https://clrd.ninjal.ac.jp/chj/]]
--[[「日本語日常会話コーパス」>https://www2.ninjal.ac.jp/conversation/cejc.html]]
--[[「昭和・平成書き言葉コーパス」>https://clrd.ninjal.ac.jp/shc/]]
***「中納言」の紹介 [#mb1dc870]
-[[コーパス検索アプリケーション「中納言」>https://chunagon.ninjal.ac.jp]]
-授業アカウントを配布します
***青空文庫の集計結果との比較例 [#ae02e1d9]
-明治大正時代の変化はその後どうなったか：BCCWJとの比較
--それぎり
--心持ち
-近代の雑誌や教科書ではどうなっているか：CHJ（雑誌・教科書）との比較
-明治大正より前（江戸時代以前）はどうなっているか：CHJ（江戸時代以前）との比較
**6/16 さまざまな集計方法／レポートについて [#rb474b11]
***複数の検索結果を結合する [#f6dce18e]
-一度の検索では探せない語群を集計する場合
--「幸せ」「仕合わせ」
一度にピボットテーブルで集計できるように検索結果1の表の下に検索結果2（列名なし）を貼り付けて一つの表にまとめる
-※必ず表をくっつけること（空行を入れるとそこで表が切れていると認識される）
ショートカットキーを活用すると便利
-コピーした表を既存の表の下に貼り付け
--Ctrl+↓（表の一番下の行に移動）, ↓（1行下へ）, Ctrl+V（貼り付け）
***サンプリング調査 [#m5567f46]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列： =RAND()
--ランダムな数字の列をコピーして値として貼り付けると数字が固定される
***作品数の調査（用例数ではなく作品数で調査する） [#qee8d8b6]
-たとえば人称代名詞のように、一つの作品に偏って大量に用例がある場合
--[[sample>https://www.dropbox.com/scl/fi/tw8k7brtfef3gn3nszaah/.xlsx?dl=1&rlkey=o6q3f33zibvgvgpw2ts7wanvw]]
***テキストエディタで「ひまわり」の検索結果を加工する [#j3fd8ed9]
-例：正規表現をつかった置換で前後文脈を整える
***「ひまわり」で利用可能なその他のデータについて [#h3ce7acd]
--[[『国会会議録』パッケージ>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%B9%F1%B2%F1%B2%F1%B5%C4%CF%BF%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]]
--[[『青空文庫』パッケージ（ 15000作品以上を収録）>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]]
--[[『日本文学テキスト』パッケージ>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D6%C6%FC%CB%DC%CA%B8%B3%D8%A5%C6%A5%AD%A5%B9%A5%C8%A1%D7%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]]
--[[『名大会話コーパス』パッケージ>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%CC%BE%C2%E7%B2%F1%CF%C3%A5%B3%A1%BC%A5%D1%A5%B9%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]]
--[[近代語のコーパス>https://ccd.ninjal.ac.jp/cmj/]]
***レポートテーマについて(予告) [#x67f47de]
-授業で紹介したエディタやひまわり、中納言、表計算ソフトの使い方を活かして、たとえば次のようなテーマでレポートをまとめてもらいます。データは授業で配布・紹介したものを自由に利用してください。
--例：語形・（表記）のゆれ、使い分け
--例：語の用法の変化
--例：作家ごとの言葉の使い方の違い
--例：類義語の意味の違い
-などなど
**6/9 検索結果のExcelによる集計(2) [#y616cc45]
***(復習)ピボットテーブルの使い方[#d0a7589d]
-ピボットテーブル
-ピボットグラフ
--例：「それきり」「それぎり」
--例：「気持ち」「心持ち」
***生年代による集計（通時的変化） [#a3ab9dec]
-文字列処理関数の利用
--例： =LEFT(<文字列>,<文字数>)((LEFTのような関数名は小文字でも構わないが、記号も含め、必ず半角))
---生年代： =LEFT(<生年月日が入っているセル>,3)*10
-生年月日データの書式について
--下記の手順で「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ必要がある
---Excelでは1900年以前の年月日は文字列、それ以降は日付として認識されるため
+Himawariで「すべて選択」後、「すべて選択」「コピー（列名含む）」をする
+Excelで生年月日の列が貼り付けられることになる列（NとO）を丸ごと選択し、書式を「文字列」とする
+Excelに貼り付ける
***分類用の列を作って集計する [#qcbc1b30]
-入力用の列を作り手作業で意味分類する
--例：「新聞紙」の意味・用法の変化
**6/2 検索結果のExcelによる集計 [#b54075de]
***正規表現小テスト：解説 [#ye6b8d74]
***「ひまわり」とその使い方 [#a3d55af3]
-ひまわりの動作確認
-検索方法の説明
-ひまわりの正規表現について（[[授業資料/Himawariの正規表現]]）
-ふりがなの検索
***ひまわり検索結果をExcelで扱う [#k187ca82]
-例：「それきり」「それぎり」
--（作家／作品別の比較）
***Excelの基本操作 [#n45bc002]
-並べ替え（ソート）
-フィルター（絞り込み）
--テキストフィルター
--多重フィルター（複数の条件指定）
-ピボットテーブル【重要】
--ピボットグラフ
**5/26 全文検索システム「ひまわり」／正規表現小テスト [#hbd44774]
***全文検索システム「ひまわり」 [#a2814a7f]
-[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
--ただのテキストファイル（プレーンテキスト）ではなく、XML形式にして、インデックスを付けた専用のデータを利用
&ref(Himawari_SS.png,,50%);
***「ひまわり」のインストール [#o7207f74]
+[[ひまわり のダウンロードページ>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.7]]からプログラム本体（zipファイル）をダウンロード
+zipファイルを右クリックしてプロパティを見る→「セキュリティ」の右の「許可する」をチェックして「OK」
+ダブルクリックして開き、中のフォルダをまるごと（USBメモリに）コピー
+フォルダ内のhimawari.exeをダブルクリックで起動（MacはHimawari.jar、または最初からMac版をインストール）
***「青空文庫パッケージ」のインストール [#q65dfc0e]
+青空文庫パッケージのダウンロード
++[[ひまわり用「青空文庫」パッケージのダウンロードページ>https://csd.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9/%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9/%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8#g26eb865]]から「日本文学／小説(ndc913) 」をUSBメモリに直接ダウンロードして保存（サイズが大きいのでPCにダウンロードできない）
//++[[ひまわり用「青空文庫」パッケージのダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]]から「日本文学／小説(ndc913) 」をダウンロードして保存
+himawari.exeを起動
++Himawari画面上にダウンロードしたzipファイルをドラッグ＆ドロップ((または、メニューのファイル＞インストールをえらび、青空文庫パッケージのzipファイルを指定))
++しばらく待つと完了（数分から10分程度はかかる）
+要らなくなったUSBメモリ上の青空文庫パッケージzipファイルは不要なので削除する
***「ひまわり」とその使い方 [#a3d55af3]
-ひまわりの動作確認
-検索方法の説明
-ひまわりの正規表現について（[[授業資料/Himawariの正規表現]]）
-ふりがな（ルビ）の検索
-------
***前回補足：Wordのワイルドカードと正規表現 [#ob585ec6]
-https://note.com/jinbunxshakai/n/n8070db080041
***正規表現小テスト [#b6cadc4f]
**5/19 正規表現の応用／タグ付き正規表現 [#oed34ea5]
***[[授業資料/正規表現]]つづき [#v8e822a2]
-[[授業資料/正規表現]]
--グループ化と論理和から
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ（外来語）の形容動詞語幹
-送りがなの揺れ（行う／行なう）
-会話文中（"「"で始まる文中）の用例を検索する
-同一文中での共起
--全然～ない。
--もし～なら（ば）
***タグ付き正規表現 [#z9ef50e5]
-走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
--次のように置換するととんでもないことに…
---検索文字列：走[らりるれろっ]
---置換文字列：★走[らりるれろっ]
-タグ付き正規表現：カッコ（半角丸カッコ）と\1（\2，\3…）を使う
-[[授業資料/タグつき正規表現]]
***最長一致の原則（greedy matching） [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例：''あ+'' → ''【\1】''
---ああああああああ → 【ああああああああ】
そのせいで…
--例：''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 → 【こんにちは」「さようなら】
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1】'' のように書かなければならない
---「こんにちは」「さようなら」 → 【こんにちは】【さようなら】
-よりかんたんに指定するには（最短一致，ものぐさ指定）
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に「?」をつける
-（参考）タグ付き正規表現の応用：[[grepと置換でKWICを作る>授業資料/grepと置換でKWICを作る]]
***検索文字列の中での後方参照 [#ra28185d]
-検索語の中で\1を使う
--(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
--(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
--(..)\1\1
--(...)\1
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現：http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html
-正規表現に関する本 [[amazonで検索>https://www.amazon.co.jp/s?k=%E6%AD%A3%E8%A6%8F%E8%A1%A8%E7%8F%BE]]
***ゲームの紹介 [#k337bfef]
-正規表現を学ぶ狩りに出ようRegex Hunting
--https://www.regex-hunting.com/
***「ひまわり」の準備 [#a1c1b435]
-[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
-USBメモリ
**05/12 正規表現 [#r74a7360]
-今日の練習用テキストデータ
--[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/soseki2.zip?dl=1]] （前回と同じもの）
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例：読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
***正規表現とは [#d216d4e0]
-''正規表現'' [[＞用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]]
--文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
--テキストエディタでは置換・検索・grepで利用できる （エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
--特殊な文字（メタ文字）はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す） 例：1\+2
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定（補集合）[^ ]
--繰り返し ? + *
--グループ化 ()
--or（論理和） |
--文頭 ^、文末 $
**04/28 テキストエディタの利用 [#y663f53c]
-[[サクラエディタの使い方（PDF）>https://lms.seikei.ac.jp/lms/lginLgir/index?target=Q-mCif-I]]
***テキストデータ（青空文庫の夏目漱石作品）の配布 [#bd04ed6f]
-★[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/soseki2.zip?dl=1]] （今日の授業で使います）
***復習[#j546f1d9]
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
-Mac のキーボードショートカット https://support.apple.com/ja-jp/HT201236
***grepと置換でKWIC(CSVファイル)を作る（簡易版） [#u3ab2d6f]
-CSVファイルとは：テキストファイルで表を表現する
[[用語：CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC：KeyWord In Context
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例：読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
***USBメモリの準備について [#v2ebc37c]
**04/21 テキストデータと文字コード [#d34ebd0b]
***文字コード [#g8eacf69]
-㋿（令和）の話
--[[授業資料/文字コード関連リンク]]
***テキストデータ [#k896318b]
-すべての基本となる文字が並ぶだけのデータ
-[[授業資料/テキストデータとは]]
--バイナリデータとテキストデータ
--テキストデータとテキストファイル
-TXT,CSV,HTM…
--ファイルの種類と拡張子 参考：[[拡張子辞典>http://www.7key.jp/data/ext_new/]]
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B%A1%E5%BC%B5%E5%AD%90]]
-授業で使うテキストデータ
--[[授業資料/テキストデータ紹介]]
***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]
***テキストエディタのダウンロードとインストール [#bf5ea59f]
フリーソフトウェア（無償）のサクラエディタを使います。（PC教室のパソコンにはインストール済み）
（以下は自分のPCで使う場合）
-★[[サクラエディタのダウンロード:https://github.com/sakura-editor/sakura/releases/download/v2.4.1/sakura-tag-v2.4.1-build2849-ee8234f-Win32-Release-Installer.zip]]
---(参考) サクラエディタホームページ：https://sakura-editor.github.io/
-インストールの手順
--ダウンロードしたzipファイルの中のsakura_install～.exeをダブルクリック
--以下、画面の指示に従ってインストール
-PCに詳しい人には[[Visual Studio Codeがおすすめ>https://code.visualstudio.com/]]
--授業はサクラエディタで説明します
***テキストエディタを使ってみる [#zc42842b]
-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）
-練習用サンプルデータ（漱石 こころ.txt）
--[[sample.zip>https://www.dropbox.com/s/fi5kg860wvlgwir/sample.zip?dl=1]]
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
***ショートカットキー [#da449f25]
-Windowsの主なショートカットキー[[授業資料/覚えておきたいショートカットキー]]
--Macのショートカットキー https://support.apple.com/ja-jp/HT201236
**04/14 イントロダクション [#j7eb4b41]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/
---[[言語資源開発センター>https://clrd.ninjal.ac.jp/]]
-シラバス確認
--この授業の[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbdr.do?risyunen=2023&semekikn=1&kougicd=125236130]]
--この授業の目的
--授業の進め方
--評価方法
***授業で利用する主なソフトウェア [#i06478d2]
|ソフトウェアの種類・名前|利用目的|h
|[[テキストエディタ ''サクラエディタ''>http://sourceforge.net/projects/sakura-editor/]]|正規表現を使ったテキストの検索・整形|
|[[全文検索ソフト''ひまわり''>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索|
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成|
|ワープロ''Word''|文書構造を意識したレポート作成|
***授業で利用する主なデータ [#g7f34e64]
-[[青空文庫>https://www.aozora.gr.jp/]]の近代の小説
-国立国語研究所のコーパス
--[[「現代日本語書き言葉均衡コーパス」>https://clrd.ninjal.ac.jp/bccwj/]]
--[[「日本語日常会話」>https://www2.ninjal.ac.jp/conversation/cejc.html]]
--[[「日本語歴史コーパス」（一部）>https://clrd.ninjal.ac.jp/chj/]]
***デモ [#hb184f26]
--テキストエディタとgrep
--全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
--Excel（ピボットテーブル）
--形態素解析：[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-現代語コーパス
--[[少納言>https://shonagon.ninjal.ac.jp]]
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
