#author("2022-05-05T10:03:44+00:00","default:ogiwiki","ogiwiki") [[成蹊2022]] *応用日本語講座(日本語・日本文学のためのコンピュータ) [#v8457c9d] -金曜2限:''10:40~12:20'' -Mail: ogiso@ogiso.net -[[CoursePower(成蹊大学)授業ページ>https://lms.seikei.ac.jp/lms/corsColl/doIndex;SID=s180286c6cc5c9b1f05dfc0a8ae]] ------ **05/06 正規表現 [#c333d4cf] -今日の練習用テキストデータ --[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/soseki2.zip?dl=1]] (前回と同じもの) ***テキストエディタ・正規表現(文字クラス)の復習 [#i5600b09] -文字クラス --例:読[まみむめもん] ***正規表現のいろいろ [#q514651f] -[[授業資料/正規表現]] --文字クラス [ ] --文字クラスの否定(補集合)[^ ] --繰り返し ? + * --グループ化 () --or(論理和) | --文頭 ^、文末 $ ***正規表現の応用 [#c7a3ea2d] -カタカナ語 --カタカナ(外来語)の形容動詞語幹 -送りがなの揺れ(行う/行なう) -会話文中("「"で始まる文中)の用例を検索する -同一文中での共起 --全然~ない。 --もし~なら(ば) ***タグ付き正規表現 [#z9ef50e5] -走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか --次のように置換するととんでもないことに… ---検索文字列:走[らりるれろっ] ---置換文字列:★走[らりるれろっ] -タグ付き正規表現:カッコ(半角丸カッコ)と\1(\2,\3…)を使う -[[授業資料/タグつき正規表現]] ***最長一致の原則(greedy matching) [#y047e9bd] -正規表現は、パターンが一致する最も長い範囲にマッチする --例:''あ+'' → ''【\1】'' ---ああああああああ → 【ああああああああ】 そのせいで… --例:''「(.+)」'' → ''【\1】'' ---「こんにちは」「さようなら」 → 【こんにちは」「さようなら】 --括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1】'' のように書かなければならない ---「こんにちは」「さようなら」 → 【こんにちは】【さようなら】 -よりかんたんに指定するには(最短一致,ものぐさ指定) --''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に「?」をつける -(参考)タグ付き正規表現の応用:[[grepと置換でKWICを作る>授業資料/grepと置換でKWICを作る]] ***検索文字列の中での後方参照 [#ra28185d] -検索語の中で\1を使う --(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ --(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ --(..)\1\1 --(...)\1 ***正規表現に関する参考資料 [#w86de08b] -サクラエディタの正規表現:http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html -正規表現に関する本 [[amazonで検索>https://www.amazon.co.jp/s?k=%E6%AD%A3%E8%A6%8F%E8%A1%A8%E7%8F%BE]] **04/29(授業実施日) テキストエディタの利用 [#ca0dd8a2] ***放送予定 [#w5292560] -チコちゃんに叱られる! 4月29日(金)午後7:57 --「私は」は「は」と書くのになぜ「わ」という? --https://www.nhk.jp/p/chicochan/ts/R12Z9955V3/episode/te/P2PV9VL5XX/ ***テキストデータ(青空文庫)の配布 [#bd04ed6f] -★[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki/soseki2.zip?dl=1]] (今日の授業で使います) --(参考: [[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7h1/aozoradoc2.zip?dl=1]](ちょっと古い青空文庫の全テキスト)) -ダウンロードして展開(解凍)してください ***復習[#j546f1d9] -検索・置換、grep --検索で初出行を調べる --置換で用例数を数える --grepで用例リストを作る --タグジャンプで文脈を確認する ***ショートカットキー [#da449f25] -[[授業資料/覚えておきたいショートカットキー]] -Mac のキーボードショートカット https://support.apple.com/ja-jp/HT201236 ***grepと置換でKWIC(CSVファイル)を作る(簡易版) [#u3ab2d6f] -CSVファイルとは:テキストファイルで表を表現する [[用語:CSVファイル>http://e-words.jp/w/CSV.html]] -KWIC:KeyWord In Context ***正規表現を使ってみる [#u471d57b] -文字クラス --例:読[まみむめもん] ---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字 ***正規表現とは [#d216d4e0] -''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]] --文字を表すための特殊な文字(メタ文字)を使って文字列のパターンを表現する --テキストエディタでは置換・検索・grepで利用できる (エディタ以外にもさまざまなアプリケ-ションやコンピュータ言語で利用されている) --特殊な文字(メタ文字)はすべて半角 //--特殊な文字そのものを表す場合には\でエスケープする(特殊な意味を打ち消す) 例:1\+2 -[[授業資料/正規表現]] --文字クラス [ ] --文字クラスの補集合(それ以外の文字)[^ ] **04/22 テキストデータと文字コード [#d34ebd0b] ***文字コード [#g8eacf69] -㋿(令和)の話 --[[授業資料/文字コード関連リンク]] ***テキストデータ [#k896318b] -すべての基本、文字が並ぶだけのデータ -[[授業資料/テキストデータとは]] --バイナリデータとテキストデータ --テキストデータとテキストファイル -TXT,CSV,HTM… --ファイルの種類と拡張子 参考:[[拡張子辞典>http://www.7key.jp/data/ext_new/]] --[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B%A1%E5%BC%B5%E5%AD%90]] -授業で使うテキストデータ --[[授業資料/テキストデータ紹介]] ***テキストエディタ [#q7ae852c] -テキストエディタとはどんなものか --[[授業資料/テキストエディタ]] ***サクラエディタのダウンロードとインストール [#bf5ea59f] フリーソフトウェア(無償)のエディタを使います。(PC教室のパソコンにはインストール済み) (以下は自分のPCで使う場合) -★[[サクラエディタのダウンロード:https://github.com/sakura-editor/sakura/releases/download/v2.4.1/sakura-tag-v2.4.1-build2849-ee8234f-Win32-Release-Installer.zip]] ---(参考) サクラエディタホームページ:https://sakura-editor.github.io/ -インストールの手順 --ダウンロードしたzipファイルの中のsakura_install~.exeをダブルクリック --以下、画面の指示に従ってインストール ***テキストエディタを使ってみる [#zc42842b] -テキストエディタの設定 --行の折り返し --行番号表示 ---スタイル行番号(ワープロ的行番号)と論理行番号(エディタ的行番号) -練習用サンプルデータ(漱石 こころ.txt) --[[sample.zip>https://www.dropbox.com/s/fi5kg860wvlgwir/sample.zip?dl=1]] -検索・置換、grep --検索で初出行を調べる --置換で用例数を数える --grepで用例リストを作る --タグジャンプで文脈を確認する **04/15 [#n5d114e2] ***イントロダクション [#j7eb4b41] -[[自己紹介]] --大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/ --[[言語資源開発センター>https://clrd.ninjal.ac.jp/]](先月までコーパス開発センター) -シラバス確認 --この授業の[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbdr.do?risyunen=2022&semekikn=1&kougicd=125236130]] --この授業の目的 --授業の進め方 --評価方法 ***授業で利用する主なソフトウェア [#i06478d2] |ソフトウェアの種類・名前|利用目的|h |[[テキストエディタ ''サクラエディタ''>http://sourceforge.net/projects/sakura-editor/]]|正規表現を使ったテキストの検索・整形| |[[全文検索ソフト''ひまわり''>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索| |表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成| |ワープロ''Word''|文書構造を意識したレポート作成| ***授業で利用する主なデータ [#g7f34e64] -[[青空文庫>https://www.aozora.gr.jp/]]の近代の小説 -国立国語研究所のコーパス --[[「現代日本語書き言葉均衡コーパス」>https://clrd.ninjal.ac.jp/bccwj/]] --[[「日本語歴史コーパス」(一部)>https://clrd.ninjal.ac.jp/chj/]] ***デモ [#hb184f26] --テキストエディタとgrep --全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]] --Excel(ピボットテーブル) --形態素解析:[[Web茶まめ>https://chamame.ninjal.ac.jp]] -現代語コーパス --[[少納言>https://shonagon.ninjal.ac.jp]]