![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
[[成蹊2015]] -日本語学・日本文学を研究していく上で必要なコンピュータの知識・技術（テキストエディタ・正規表現・表計算ソフト・文書の構造化）を学びます。 -前期2限 //-7号館3階 301パソコン教室 -ogiso＠ogiso.net ←＠を@に直してください **期末レポートについて -締切：7月31日（金） -提出先：メールで直接送付（必ず返信を確認すること） -分量：A4用紙で3～10枚 -メール・Wordファイルの両方に氏名・学籍番号を明記すること --Wordファイルのサイズが大きくなりすぎる場合には、PDFファイルとして保存して送ってください **2015/07/17 最終回 -レポート完成に向けて作業を進めながら積極的に質問してください。 ***Wordでレポートを書く -文書の構造化* --スタイルと見出し --ナビゲーション ウィンドウ（見出しマップ）の使い方 --章・節番号 -図表の貼り込み* --「形式を選択して貼り付け」 --図表番号とキャプション -脚注 --脚注と文末脚注 -相互参照 --節番号、図表番号と相互参照 --目次、図表目次 **2015/7/9 レポートテーマに関する調査 ***小レポート講評 -小レポートの調査結果に基づき、各自のレポートテーマについて調査してください。 -個別に見て回ります。積極的に質問してください。 ***現代語との比較 ―BCCWJ少納言 -1億語の[[「現代日本語書き言葉均衡コーパス」>http://www.ninjal.ac.jp/corpus_center/bccwj/]]の文字列検索 -http://www.kotonoha.gr.jp/shonagon/ ***調整頻度の計算 -作家ごと、年ごとに文章量が大きく違うので、調整頻度に直して比較する --語数はわからないので文字数を使う（たとえば10000文字当たり何回出現するか） ------ **6/26, 7/3の休講の代替措置について +6/26までに期末レポートに向けた調査テーマを決め、メールで連絡する --どのような語を調査するのかできるだけ具体的に書くこと --テーマについて質問がある場合や、複数のテーマを検討中の場合にはメールで相談すること +7/6までに上記のテーマの調査結果（小レポート）をメールに添付して送付する --小レポートにはコーパスの調査結果（検索結果をピボットテーブルで集計したものなど）を必ず含めてください。 --Wordではファイルサイズが大きくなるため、PDF形式で保存したものを送ってください。 **2015/6/19 ***レポートテーマについて -全員に聞きます。 -例：「それぎり」と「それきり」 ***ひまわりの検索結果をピボットテーブルで集計（続き） -分類用のフィールドを作って集計する --例：「新聞紙」の意味・用法の変化 -サンプリング調査 --大量に用例があり、調査内容からすべて対象にできない場合 --ランダムに並べ替え→先頭n例を調査対象に ---ランダムな数字の列： =rand() ---ランダムな数字の列をコピーして値として貼り付けると数字が固定される **2015/6/12 Excelによる集計 ***ひまわりのアップデート -[[Ver. 1.5.3公開>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.5]] --列名入りでのコピーに対応 ***生年月日データの書式について -「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ --1900年以前の年月日は文字列、それ以降は日付として認識される +Himawariで「すべて選択」後、「すべて選択」「コピー（列名含む）」をする +Excelで生年月日の列が貼り付けられることになる列（NとO）を丸ごと選択し、書式を「文字列」とする +Excelに貼り付ける ***関数の利用 -文字列処理関数 --例： =left(<文字列>,<文字数>) ---生年代： =left(<生年月日が入っているセル>,3)*10 ***振り仮名の検索 ***ひまわりで利用可能なデータについて [#p8928529] -現代語のデータ --国会会議録データ --法令データベース --口コミサイト -[[近代語のデータ>http://www.ninjal.ac.jp/corpus_center/cmj/]] --太陽コーパス --近代女性雑誌コーパス --明六雑誌コーパス --国定高等小学読本 -古典文学作品のデータ ***レポートについて -''レポートテーマ確認（第１回）来週'' **2015/6/5 ひまわりとExcel -6/26, 7/3休講について ***ひまわり検索結果をExcelで扱う [#k187ca82] -例： --「～的の」「～的な」 --「気持ち」「心持ち」 -列名 |前文脈|キー|後文脈|作品名|副題|著者|役割|初出|分類番号|文字遣い|作品ID|人物ID|生年月日|没年月日|文字数| ***Excelの基本操作 -並べ替え（ソート） -フィルター（絞り込み） --テキストフィルター --多重フィルター（複数の条件指定） -ピボットテーブル★ --ピボットグラフ ***レポートテーマについて(予告)[#cf3cbcf7] -授業で紹介したエディタや表計算ソフトの使い方を活かして、たとえば次のようなテーマでレポートをまとめてもらいます。データは授業で配布・紹介したものを自由に利用してください。 --例：作家ごとの言葉の使い方の違い --例：類義語の意味の違い --例：語の用法の変化 --例：語形・（表記）のゆれ --などなど **2015/05/29 ***前回小テスト解説 -配付資料（解答例） ***「ひまわり」とその使い方 -ひまわり（前回配布）の動作確認 -検索方法の説明 --ひまわりの正規表現について（[[授業資料/Himawariの正規表現]]） ***ひまわり検索結果をExcelで扱う [#k187ca82] -ピボットテーブルを使ってみる -列名 |前文脈|キー|後文脈|作品名|副題|著者|役割|初出|分類番号|文字遣い|作品ID|人物ID|生年月日|没年月日|文字数| **2015/5/22 全文検索システム「ひまわり」／正規表現小テスト ***「ひまわり」とその使い方 &ref(himawari_aozora.png,,50%); -ひまわり（前回配布）の動作確認 ***正規表現小テスト --テスト前に[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]]を検索可能にしておくこと **2015/5/15 タグ付き正規表現 ***タグ付き正規表現（再掲） -走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか --次のように置換するととんでもないことに… ---検索文字列：走[らりるれろっ] ---置換文字列：★走[らりるれろっ] -タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う -[[授業資料/タグつき正規表現]] ***検索文字列の中での後方参照 [#j9966c0d] -検索語の中で\1を使う --(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ --(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ ***最長一致の原則（greedy matching） [#y047e9bd] -正規表現は、パターンが一致する最も長い範囲にマッチする --例：''あ+'' → ''【\1】'' ---ああああああああ → 【ああああああああ】 そのせいで… --例：''「(.+)」'' → ''【\1】'' ---「こんにちは」「さようなら」 → 【こんにちは」「さようなら】 --括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1】'' のように書かなければならない ---「こんにちは」「さようなら」 → 【こんにちは】【さようなら】 -よりかんたんに指定するには（最短一致，ものぐさ指定） --''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に「?」をつける ***正規表現に関する参考資料 [#w86de08b] -サクラエディタの正規表現：http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html -正規表現に関する本 [[amazonで検索>http://www.amazon.co.jp/s/ref=nb_ss_gw?__mk_ja_JP=%83J%83%5E%83J%83i&url=search-alias%3Daps&field-keywords=%90%B3%8BK%95%5C%8C%BB&Go.x=0&Go.y=0&Go=Go]] #amazon(4873114500) #amazon(4873113598) #clear -（参考）タグ付き正規表現の応用：[[grepと置換でKWICを作る>授業資料/grepと置換でKWICを作る]] // ^(.*?,.*?,.*?,)(.*?,)(読[まみむめもん],)(.+,)(読[まみむめもん])(,.+) //↓ // \1\2\3\4\n\1\4\5\6 ***全文検索システム「ひまわり」について //&ref(himawari_aozora.png,,50%); -[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]] --ただのテキストファイル（プレーンテキスト）ではなく、XML形式にして、インデックスを付けた専用のデータを利用 -[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9ver.1.5]] プログラム本体 -[[ひまわり用「青空文庫」パッケージのダウンロードページ>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9%2F%A5%C0%A5%A6%A5%F3%A5%ED%A1%BC%A5%C9%2F%A1%D8%C0%C4%B6%F5%CA%B8%B8%CB%A1%D9%A5%D1%A5%C3%A5%B1%A1%BC%A5%B8]] 検索対象のデータセット ***「ひまわり」の導入 // -Web Collaboration : /temporary/ogiso/ -動作確認 ***正規表現小テスト -小テストについて **2015/5/8 やや高度な正規表現 ***復習 -grepで簡単なKWIC（活用しない語） ***正規表現のいろいろ [#q514651f] -[[授業資料/正規表現]] --文字クラス [ ] --文字クラスの否定（補集合）[^ ] --繰り返し ? + * --グループ化 () --or（論理和） | --文頭 ^、文末 $ ***正規表現の応用 [#c7a3ea2d] -カタカナ語 --カタカナ（外来語）の形容動詞語幹 -送りがなの揺れ（行う／行なう） -会話文中（"「"で始まる文中）の用例を検索する -同一文中での共起 --全然～ない。 --もし～なら（ば） ***タグ付き正規表現 -走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか --次のように置換するととんでもないことに… ---検索文字列：走[らりるれろっ] ---置換文字列：★走[らりるれろっ] -タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う -[[授業資料/タグつき正規表現]] **2015/5/1 正規表現 -今日の練習用テキストデータ ---[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]] （前回と同じもの） ***テキストエディタ・正規表現（文字クラス）の復習 -検索で初出行を調べる --2番目の行 -置換で用例数を数える -grepとタグジャンプ -正規表現を使ってみる --文字クラス ---例：読[まみむめもん] --文字クラスの補集合（それ以外の文字）[^ ] ---例：[＾中韓カヶ]国語 ***grepと置換でKWIC(CSVファイル)を作る（簡易版） [#u3ab2d6f] -CSVファイルとは：テキストファイルで表を表現する [[用語：CSVファイル>http://e-words.jp/w/CSV.html]] -KWIC：KeyWord In Context ***正規表現のいろいろ [#q514651f] -[[授業資料/正規表現]] --文字クラス [ ] --文字クラスの否定（補集合）[^ ] --繰り返し ? + * --グループ化 () --or（論理和） | --文頭 ^、文末 $ **2015/4/24 テキストエディタの利用 -今回からUSBメモリを利用します。 ------ -テキストデータ（青空文庫）の配布 //--Web Collaboration : /temporary/ogiso/ ---[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600/soseki2.zip]] （今日の授業で使います） ---[[aozoradoc2.zip>https://dl.dropboxusercontent.com/u/134600/aozoradoc2.zip]]（青空文庫全テキスト・参考） --ダウンロードしてUSBメモリに展開（解凍）してください -検索・置換、grep --検索で初出行を調べる --置換で用例数を数える --grepで用例リストを作る --タグジャンプで文脈を確認する --サブフォルダのgrep ***ショートカットキー [#da449f25] -[[授業資料/覚えておきたいショートカットキー]] ***正規表現を使ってみる [#u471d57b] -文字クラス --例：読[まみむめもん] ---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字 ***正規表現とは [#d216d4e0] -''正規表現'' [[＞用語>http://e-words.jp/w/E6ADA3E8A68FE8A1A8E78FBE.html]] --文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する --エディタでは置換・検索・grepで利用できる （エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている） --特殊な文字（メタ文字）はすべて半角 --特殊な文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す） 例：1\+2 **2015/4/17 テキストデータとテキストエディタ -USBメモリの準備 --次回の授業からUSBメモリを使います。2GB（できれば4GB）以上の空きのあるUSBメモリを用意してください。 ***テキストデータ -すべての基本、文字が並ぶだけのデータ --[[授業資料/テキストデータとは]] --バイナリファイルとテキストファイル -TXT,CSV,HTM・・・ --ファイルの種類と拡張子 参考：[[拡張子辞典>http://www.jisyo.com/viewer/]] --[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B%A1%E5%BC%B5%E5%AD%90]] -授業で使うテキストデータ --[[授業資料/テキストデータ紹介]] ***テキストエディタ [#q7ae852c] -テキストエディタとはどんなものか --[[授業資料/テキストエディタ]] -サクラエディタのダウンロードとインストール --[[サクラエディタのダウンロード:sakura2.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sakura2.zip&refer=%C0%AE%EC%FE2013%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]] ---(参考) サクラエディタホームページ：http://sourceforge.net/projects/sakura-editor/ -zipファイルの展開（解凍） --解凍しないままでも開けるが必ず解凍すること -テキストエディタの設定 --行の折り返し --行番号表示 ---スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号） -練習用サンプルデータ（漱石＋芥川） --[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=sample.zip&refer=%C0%AE%EC%FE2013%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]] **2015/4/11 イントロダクション -[[自己紹介]] --大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/ ---[[コーパス開発センター>http://pj.ninjal.ac.jp/corpus_center/]] ---現代日本語書き言葉均衡コーパス[[少納言>http://shonagon.ninjal.ac.jp]] -デモ --テキストエディタとgrep --全文検索システム[[ひまわり>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]] --Excel（ピボットテーブル） --形態素解析：茶まめ／MeCab+UniDic -シラバス確認 --[[シラバス>http://www.ogiso.net/wiki/index.php?plugin=attach&pcmd=open&file=2015%C1%B0%B4%FC%A5%B7%A5%E9%A5%D0%A5%B9_SEIKEI%20PORTAL%281%29.pdf&refer=%C0%AE%EC%FE2015%2F%C6%FC%CB%DC%B8%EC%C6%FC%CB%DC%CA%B8%B3%D8%A4%CE%A4%BF%A4%E1%A4%CE%A5%B3%A5%F3%A5%D4%A5%E5%A1%BC%A5%BF]] --この授業の目的 --授業の進め方 --評価方法 ***授業で利用する主なソフトウェア [#i06478d2] |ソフトウェアの種類・名前|利用目的|h |[[テキストエディタ ''サクラエディタ'' sakura2>http://sourceforge.net/projects/sakura-editor/]]|正規表現を使ったテキストの検索・整形| |[[全文検索ソフト''ひまわり''>http://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]|データの検索| |表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成| |ワープロ''Word''|「スタイル」を利用したレポート作成|
