一橋2011 の履歴(No.6)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 一橋2011 へ行く。
  • 1 (2011-09-29 (木) 22:34:07)
  • 2 (2011-09-29 (木) 22:56:53)
  • 3 (2011-10-05 (水) 18:40:39)
  • 4 (2011-10-14 (金) 00:10:08)
  • 5 (2011-10-21 (金) 10:44:13)
  • 6 (2011-10-27 (木) 16:07:58)
  • 7 (2011-11-03 (木) 22:29:20)
  • 8 (2011-11-18 (金) 09:34:31)
  • 9 (2011-11-24 (木) 15:28:24)
  • 10 (2011-11-24 (木) 18:29:45)
  • 11 (2011-11-25 (金) 09:21:03)
  • 12 (2011-11-26 (土) 16:47:56)
  • 13 (2011-12-01 (木) 17:58:35)
  • 14 (2011-12-08 (木) 19:11:49)
  • 15 (2011-12-15 (木) 18:29:40)
  • 16 (2011-12-16 (金) 11:35:02)
  • 17 (2011-12-16 (金) 11:35:02)
  • 18 (2012-01-06 (金) 00:14:25)
  • 19 (2012-01-13 (金) 13:24:06)
  • 20 (2012-01-20 (金) 10:51:55)
  • 21 (2012-01-26 (木) 19:17:05)
  • 22 (2012-05-07 (月) 00:29:09)

---

日本語学講義(I) 日本語コーパス研究入門†

• 授業に関するメールはこちらへ。小木曽 智信： ogiso@ogiso.net
• 授業資料/用語集リンク （わからないコンピュータ用語を調べてください）
• 授業フォルダ \\Linkstation\share\日本語コーパス

BCCWJ中納言の申し込み

• https://chunagon.ninjal.ac.jp/
  • 申し込んでから使えるようになるまでに時間がかかるので早めに申し込んでください。

休講のお知らせ

• 11月11日は海外出張のため休講とします。
• 一橋祭が行われる11月4日は開講しますが、質問対応の回とし出欠は取りません。

2011/10/28 　タグ付き正規表現

タグ付き正規表現†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索語の中での後方参照†

• 検索語の中で\1を使う
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 「([^」]+)」 → 【\1】　のように書けばよい
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• 最短一致を指定するには（ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の後に「?」をつける

正規表現に関する本†

• amazonで検索
• 正規表現にはアプリケーションソフトやプログラミング言語ごとに多くの方言があるので注意

#amazon(4873111706) #amazon(4873113598)

2011/10/21 　正規表現

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

正規表現の応用†

• カタカナ語
• 送りがなの揺れ（行う／行なう）
• 全然～ない。
• 会話文中（「で始まる）

タグ付き正規表現†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索語の中での後方参照†

• 検索語の中で\1を使う
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 「([^」]+)」 → 【\1】　のように書けばよい
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• 最短一致を指定するには（ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の後に「?」をつける

正規表現に関する本†

• amazonで検索
• 正規表現にはアプリケーションソフトやプログラミング言語ごとに多くの方言があるので注意

#amazon(4873111706) #amazon(4873113598)

2011/10/14 　テキストエディタの利用†

復習

• 検索で初出行を調べる
• 置換で用例数を数える
• grepとタグジャンプ

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー

grepと置換でKWIC（CSVファイル）を作る†

• grep結果の保存
• grep結果の置換による整形
• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• KWICとは：KeyWord In Context

おすすめテキストエディタ†

• フリーウェア
  • サクラエディタ(2.x) http://sourceforge.net/projects/sakura-editor/ 【unicode】オススメ
  • K2Editor http://k2top.jpn.org/index.php?K2Editor 【SJIS】
  • Apsalyテキストエディタ http://www.vector.co.jp/soft/win95/writing/se423509.html 【SJIS】
• シェアウェア
  • EmEditor http://jp.emeditor.com/ 4,200円
  • 秀丸エディタ http://hide.maruo.co.jp/software/hidemaru.html 4,200円

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）
  • 置換・検索・grepで利用できる
  • 記号はすべて半角
  • 特殊文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

• 文字クラス [ ]
  • 文字クラスの補集合（それ以外の文字）[^ ] (つづく)

• 授業資料/正規表現

2011/10/07 　テキストデータとテキストエディタ

まずは、テキストエディタを使ってテキストデータを扱うことからはじめます。

• 共有フォルダの確認
  • マイネットワーク＞share＞日本語コーパス

（補足）「コーパス」について†

この授業ではBCCWJのほかに、青空文庫・国会会議録などの広義のコーパス、自作のミニコーパスなども取り扱います。

• 狭義のコーパス　言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
  • Kotonoha (BCCWJ / CSJ / 太陽コーパス)
• 広義のコーパス　コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能なもの。
  • さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
  • Webデータ
    • 検索サイトの利用
    • WAC（Web as Corpus）

テキストデータ†

全ての基本。テキストデータ≒テキストファイル≒電子化テキスト

• テキストデータとはどんなものか
  • 授業資料/テキストデータとは
  • 授業資料/文字コード関連リンク
  • 授業資料/テキストデータ紹介（広義のコーパス）
    • 参考 『国会会議録を使った日本語研究』

#amazon(4894762994)

テキストファイルと拡張子†

• 拡張子(wikipedia)
• 拡張子辞典：http://jisyo.com/viewer/list/list.html
• TXT,CSV,HTM・・・

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

テキストエディタの基礎†

• スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）
  • cf. 見た目 と 構造
• 検索と置換、grep

2011/09/30 イントロダクション†

• 自己紹介
• 国立国語研究所（NINJAL）
• 国語研コーパス（KOTONOHA）
  • 現代日本語書き言葉均衡コーパス（BCCWJ）
    • 特定領域 日本語コーパス
    • 検索デモサイト
  • 日本語話し言葉コーパス（CSJ）
  • 太陽コーパス（明治・大正期の総合雑誌）
  • 通時コーパス（設計中）

• 授業の進め方について
  • 受講者のレベルにあわせて基礎的なことから始め、自分の研究に実際に活かせるようになることを目指します。
  • シラバス確認 https://mercas.hit-u.ac.jp/

• 受講者アンケート
  • 専門・関心領域
  • PCスキル

• デモンストレーション
  • 茶まめ（形態素解析）＋Excel

授業で利用する主なソフトウェア†