成蹊2013/日本語日本文学のためのコンピュータ の履歴(No.18)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 成蹊2013/日本語日本文学のためのコンピュータ へ行く。
  • 1 (2013-04-10 (水) 13:45:38)
  • 2 (2013-04-10 (水) 13:57:33)
  • 3 (2013-04-12 (金) 15:03:34)
  • 4 (2013-04-18 (木) 00:25:23)
  • 5 (2013-04-18 (木) 18:08:38)
  • 6 (2013-04-25 (木) 23:03:29)
  • 7 (2013-04-26 (金) 14:53:44)
  • 8 (2013-05-09 (木) 18:07:08)
  • 9 (2013-05-10 (金) 00:00:31)
  • 10 (2013-05-14 (火) 15:16:31)
  • 11 (2013-05-16 (木) 13:21:27)
  • 12 (2013-05-17 (金) 14:59:11)
  • 13 (2013-05-30 (木) 22:50:41)
  • 14 (2013-05-31 (金) 15:34:26)
  • 15 (2013-06-06 (木) 17:25:56)
  • 16 (2013-06-06 (木) 22:33:47)
  • 17 (2013-06-07 (金) 08:16:13)
  • 18 (2013-06-13 (木) 23:16:04)
  • 19 (2013-06-14 (金) 14:49:27)
  • 20 (2013-06-20 (木) 15:28:26)
  • 21 (2013-06-21 (金) 13:36:25)
  • 22 (2013-06-27 (木) 11:22:45)
  • 23 (2013-06-28 (金) 09:01:45)
  • 24 (2013-06-28 (金) 16:24:02)
  • 25 (2013-07-04 (木) 12:15:09)
  • 26 (2013-07-05 (金) 14:54:19)
  • 27 (2013-07-09 (火) 12:24:45)
  • 28 (2013-07-12 (金) 15:08:02)
  • 29 (2013-07-18 (木) 07:22:52)

---

成蹊2013

• 日本語・日本文学を学んでいくうえでぜひ身につけておきたいコンピュータに関する知識・技術を学びます。
• 前期4限
• 7号館3階 301パソコン教室
• ogiso＠ogiso.net　←＠を@に直してください

2013/06/14

前回小テスト解説

「ひまわり」の準備・動作確認

• Web Collaboration : /temporary/ogiso/

「ひまわり」とその使い方

• 「ひまわり」　国立国語研究所/言語データベースとソフトウェア/ひまわり
• ただのテキストファイル（プレーンテキスト）ではなく、XML形式にして、インデックスを付けた専用のデータを利用

検索結果をExcelで扱う†

• 列名

  前文脈

  キー

  後文脈

  著者

  タイトル

  著者ID

  生年

  没年

  原著者

  原著者ID

  仮名遣い

  コーパス名

• 並べ替え（ソート）
• フィルター（絞り込み）
  • テキストフィルター
  • 複数の条件指定
• ピボットテーブル
  • ピボットグラフ

2013/06/07

全文検索システム「ひまわり」について

• 全文検索システム「ひまわり」
  • ひまわり のダウンロードページ
  • ひまわり用「青空文庫」パッケージのダウンロードページ

「ひまわり」利用の準備

• Web Collaboration : /temporary/ogiso/
• 動作確認

小テスト：エディタと正規表現

• テスト前にsoseki2.zipを検索可能にしておくこと

2013/05/30

タグ付き正規表現・つづき

• 授業資料/タグつき正規表現

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

^(.*?,.*?,.*?,)(.*?,)(読[まみむめもん],)(.+,)(読[まみむめもん])(,.+)

↓

\1\2\3\4\n\1\4\5\6

検索文字列の中での後方参照†

• 検索語の中で\1を使う
  • (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：あ+ → 【\1】
    • ああああああああ →　【ああああああああ】 そのせいで…
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】　のように書かなければならない
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• よりかんたんに指定するには（最短一致，ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける

正規表現に関する参考資料†

• サクラエディタの正規表現：http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html
• 正規表現に関する本　amazonで検索

#amazon(4873114500) #amazon(4873113598)

質問受付

2013/05/17

（復習）正規表現のいろいろ

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $ 【New】

正規表現の応用†

• カタカナ語
• 送りがなの揺れ（行う／行なう）
• 会話文中（"「"で始まる文中）の用例を検索する
• 同一文中での共起 全然～ない。

タグ付き正規表現

• 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろっ]
    • 置換文字列：★走[らりるれろっ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

2013/05/10　正規表現

• 今日の練習用テキストデータ
  • Web Collaboration : /temporary/ogiso/
    • soseki2.zip （前回のデータからルビと不要箇所を削除し、一文ずつ改行する形に変えたもの）

テキストエディタの復習

• 置換で用例数を数える
• grepとタグジャンプ

正規表現を使ってみる†

• キャラクタクラス
  • 例：読[まみむめもん]
    • 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
  • エディタでは置換・検索・grepで利用できる　（エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
  • 記号はすべて半角
  • 記号そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

• 文字クラス [ ]
  • 文字クラスの補集合（それ以外の文字）[^ ]

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

2013/04/26　　テキストエディタの利用

• 今回からUSBメモリを利用します。
  • テキストエディタをUSBメモリにコピー

---

• テキストデータ（青空文庫）の配布
  • Web Collaboration : /temporary/ogiso/
    • soseki.zip （今日の授業で使います）
    • aozoradoc2.zip
  • ダウンロードしてUSBメモリに展開（解凍）します

• 検索・置換、grep
  • 検索で初出行を調べる
  • 置換で用例数を数える
  • grepで用例リストを作る
  • タグジャンプで文脈を確認する
  • サブフォルダのgrep

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー

grepと置換でKWIC(CSVファイル)を作る（簡易版）†

• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• KWIC：KeyWord In Context

2013/04/19　テキストデータとテキストエディタ

• USBメモリの準備
  • 次回の授業からUSBメモリを使います。2G（なるべく4G）以上の空きのあるUSBメモリを用意してください。

テキストデータ

• すべての基本、文字が並ぶだけのデータ
  • 授業資料/テキストデータとは
  • バイナリファイルとテキストファイル
• TXT,CSV,HTM・・・
  • ファイルの種類と拡張子 参考：拡張子辞典
  • 拡張子(wikipedia)

• 授業で使うテキストデータ
  • 授業資料/テキストデータ紹介

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

• サクラエディタのダウンロードとインストール
  • サクラエディタのダウンロード:sakura2.zip
    • (参考) サクラエディタホームページ：http://sourceforge.net/projects/sakura-editor/

• zipファイルの展開（解凍）
  • 解凍しないままでも開けるが必ず解凍すること

• テキストエディタの設定
  • 行の折り返し
  • 行番号表示
    • スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）

• 練習用サンプルデータ（漱石＋芥川）
  • sample.zip

2013/04/12　イントロダクション

• 自己紹介
  • 大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/
    • 日本語コーパスKOTONOHA
    • 現代日本語書き言葉均衡コーパス少納言
    • コーパス開発センター

• デモ
  • テキストエディタとgrep
  • 全文検索システムひまわり
  • 形態素解析：茶まめ／MeCab+UniDic

• シラバス確認
  • シラバス
  • この授業の目的
  • 授業の進め方
  • 評価方法

授業で利用する主なソフトウェア†