一橋2011 の履歴(No.8)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 一橋2011 へ行く。
  • 1 (2011-09-29 (木) 22:34:07)
  • 2 (2011-09-29 (木) 22:56:53)
  • 3 (2011-10-05 (水) 18:40:39)
  • 4 (2011-10-14 (金) 00:10:08)
  • 5 (2011-10-21 (金) 10:44:13)
  • 6 (2011-10-27 (木) 16:07:58)
  • 7 (2011-11-03 (木) 22:29:20)
  • 8 (2011-11-18 (金) 09:34:31)
  • 9 (2011-11-24 (木) 15:28:24)
  • 10 (2011-11-24 (木) 18:29:45)
  • 11 (2011-11-25 (金) 09:21:03)
  • 12 (2011-11-26 (土) 16:47:56)
  • 13 (2011-12-01 (木) 17:58:35)
  • 14 (2011-12-08 (木) 19:11:49)
  • 15 (2011-12-15 (木) 18:29:40)
  • 16 (2011-12-16 (金) 11:35:02)
  • 17 (2011-12-16 (金) 11:35:02)
  • 18 (2012-01-06 (金) 00:14:25)
  • 19 (2012-01-13 (金) 13:24:06)
  • 20 (2012-01-20 (金) 10:51:55)
  • 21 (2012-01-26 (木) 19:17:05)
  • 22 (2012-05-07 (月) 00:29:09)

---

日本語学講義(I) 日本語コーパス研究入門†

• 授業に関するメールはこちらへ。小木曽 智信： ogiso@ogiso.net
• 授業資料/用語集リンク （わからないコンピュータ用語を調べてください）
• 授業フォルダ \\Linkstation\share\日本語コーパス

BCCWJ中納言の申し込み

• https://chunagon.ninjal.ac.jp/
  • 申し込んでから使えるようになるまでに時間がかかるので早めに申し込んでください。

2011/11/18　「ひまわり」とExcelの利用(1)†

全文検索ソフト「ひまわり」†

• 「ひまわり」　国立国語研究所/言語データベースとソフトウェア/ひまわり
• 「ひまわり」を授業フォルダに入れ、青空文庫などを検索できるようにしてあります。

• エディタでのGrepとひまわりの違い
  • 対象となるデータ
    • エディタ：テキストデータなら何でも
    • ひまわり：専用のXML形式（テキストデータを元に変換して作成する。設定ファイルの準備も必要）
  • 検索結果
    • エディタ：マッチした行を一覧表示
    • ひまわり：マッチした文字列をKWIC形式で表示。出典情報なども表示可能
  • 検索結果
    • エディタ：1行ずつチェックするのでデータが多くなると時間がかかる
    • ひまわり：インデックスを利用するので高速
  • 検索条件
    • エディタ：自由な正規表現
    • ひまわり：正規表現の利用にやや制限あり

「ひまわり」で使用できる正規表現†

• 授業資料/Himawariの正規表現
• 検索語/キー：普通の文字と、列挙型の文字クラス([あいう]のようなもの。[あ-う]のような範囲指定は不可)
• 前文脈/後文脈：ほぼ全ての正規表現
  • 例：[寂淋]し

• ピボットテーブル・ピボットグラフを使う
  • 参考：http://office.microsoft.com/ja-jp/excel/CH062528071041.aspx
  • 例：[寂淋]し
    • 著者別に集計
    • 作品別に集計

2011/11/4（一橋祭）　復習＆質問

• これまでの授業内容に関する質問
• 自分の研究での利用に関する質問
• などなど

• 参考資料・秀丸エディタの使い方(PDF)

2011/10/28 　タグ付き正規表現

タグ付き正規表現†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索語の中での後方参照†

• 検索語の中で\1を使う
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 「([^」]+)」 → 【\1】　のように書けばよい
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• 最短一致を指定するには（ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の後に「?」をつける

正規表現に関する本†

• amazonで検索
• 正規表現にはアプリケーションソフトやプログラミング言語ごとに多くの方言があるので注意

#amazon(4873111706) #amazon(4873113598)

2011/10/21 　正規表現

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

正規表現の応用†

• カタカナ語
• 送りがなの揺れ（行う／行なう）
• 全然～ない。
• 会話文中（「で始まる）

タグ付き正規表現†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索語の中での後方参照†

• 検索語の中で\1を使う
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 「([^」]+)」 → 【\1】　のように書けばよい
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• 最短一致を指定するには（ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の後に「?」をつける

2011/10/14 　テキストエディタの利用†

復習

• 検索で初出行を調べる
• 置換で用例数を数える
• grepとタグジャンプ

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー

grepと置換でKWIC（CSVファイル）を作る†

• grep結果の保存
• grep結果の置換による整形
• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• KWICとは：KeyWord In Context

おすすめテキストエディタ†

• フリーウェア
  • サクラエディタ(2.x) http://sourceforge.net/projects/sakura-editor/ 【unicode】オススメ
  • K2Editor http://k2top.jpn.org/index.php?K2Editor 【SJIS】
  • Apsalyテキストエディタ http://www.vector.co.jp/soft/win95/writing/se423509.html 【SJIS】
• シェアウェア
  • EmEditor http://jp.emeditor.com/ 4,200円
  • 秀丸エディタ http://hide.maruo.co.jp/software/hidemaru.html 4,200円

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）
  • 置換・検索・grepで利用できる
  • 記号はすべて半角
  • 特殊文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

• 文字クラス [ ]
  • 文字クラスの補集合（それ以外の文字）[^ ] (つづく)

• 授業資料/正規表現

2011/10/07 　テキストデータとテキストエディタ

まずは、テキストエディタを使ってテキストデータを扱うことからはじめます。

• 共有フォルダの確認
  • マイネットワーク＞share＞日本語コーパス

（補足）「コーパス」について†

この授業ではBCCWJのほかに、青空文庫・国会会議録などの広義のコーパス、自作のミニコーパスなども取り扱います。

• 狭義のコーパス　言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
  • Kotonoha (BCCWJ / CSJ / 太陽コーパス)
• 広義のコーパス　コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能なもの。
  • さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
  • Webデータ
    • 検索サイトの利用
    • WAC（Web as Corpus）

テキストデータ†

全ての基本。テキストデータ≒テキストファイル≒電子化テキスト

• テキストデータとはどんなものか
  • 授業資料/テキストデータとは
  • 授業資料/文字コード関連リンク
  • 授業資料/テキストデータ紹介（広義のコーパス）
    • 参考 『国会会議録を使った日本語研究』

#amazon(4894762994)

テキストファイルと拡張子†

• 拡張子(wikipedia)
• 拡張子辞典：http://jisyo.com/viewer/list/list.html
• TXT,CSV,HTM・・・

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

テキストエディタの基礎†

• スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）
  • cf. 見た目 と 構造
• 検索と置換、grep

2011/09/30 イントロダクション†

• 自己紹介
• 国立国語研究所（NINJAL）
• 国語研コーパス（KOTONOHA）
  • 現代日本語書き言葉均衡コーパス（BCCWJ）
    • 特定領域 日本語コーパス
    • 検索デモサイト
  • 日本語話し言葉コーパス（CSJ）
  • 太陽コーパス（明治・大正期の総合雑誌）
  • 通時コーパス（設計中）

• 授業の進め方について
  • 受講者のレベルにあわせて基礎的なことから始め、自分の研究に実際に活かせるようになることを目指します。
  • シラバス確認 https://mercas.hit-u.ac.jp/

• 受講者アンケート
  • 専門・関心領域
  • PCスキル

• デモンストレーション
  • 茶まめ（形態素解析）＋Excel

授業で利用する主なソフトウェア†