一橋2009 の履歴(No.14)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 一橋2009 へ行く。
  • 1 (2009-04-08 (水) 16:18:39)
  • 2 (2009-04-08 (水) 16:45:08)
  • 3 (2009-04-16 (木) 16:02:50)
  • 4 (2009-04-16 (木) 19:35:29)
  • 5 (2009-04-17 (金) 10:37:23)
  • 6 (2009-04-17 (金) 13:30:25)
  • 7 (2009-04-19 (日) 16:23:47)
  • 8 (2009-04-24 (金) 10:37:18)
  • 9 (2009-04-27 (月) 14:35:47)
  • 10 (2009-04-29 (水) 09:40:17)
  • 11 (2009-04-30 (木) 21:55:08)
  • 12 (2009-05-01 (金) 10:30:57)
  • 13 (2009-05-07 (木) 22:45:05)
  • 14 (2009-05-14 (木) 13:24:53)
  • 15 (2009-05-15 (金) 01:15:47)
  • 16 (2009-05-22 (金) 04:18:15)
  • 17 (2009-05-22 (金) 12:02:50)
  • 18 (2009-05-25 (月) 10:35:52)
  • 19 (2009-05-28 (木) 14:38:16)
  • 20 (2009-05-29 (金) 09:19:54)
  • 21 (2009-06-05 (金) 09:58:17)
  • 22 (2009-06-06 (土) 14:17:29)
  • 23 (2009-06-11 (木) 16:35:52)
  • 24 (2009-06-11 (木) 21:56:05)
  • 25 (2009-06-12 (金) 11:38:53)
  • 26 (2009-06-19 (金) 03:21:03)
  • 27 (2009-06-19 (金) 11:54:30)
  • 28 (2009-06-26 (金) 10:30:21)
  • 29 (2009-07-02 (木) 15:51:10)
  • 30 (2009-07-03 (金) 13:09:36)
  • 31 (2009-07-09 (木) 20:06:46)
  • 32 (2009-07-10 (金) 11:16:37)
  • 33 (2009-07-10 (金) 11:16:37)
  • 34 (2009-07-17 (金) 10:47:18)

---

日本語学講義(I) 日本語コーパス研究†

• 授業に関するメールはこちらへ。小木曽 智信： ogiso@ogiso.net
• 授業資料/用語集リンク （わからないコンピュータ用語を調べてください）
• 授業フォルダ \\Linkstation\share\日本語コーパス

---

お知らせ†

【重要】BCCWJモニター公開データを申し込んでください。†

• http://www.kokken.go.jp/kotonoha/ex_8.html
• 「現在のモニター公開データ(2008年度版)は，配布の際のデータの交錯をふせぐため，5月29日までで受け付けを中止し，7月に再開する予定です」とのことですので、早めに申し込んでください。

後半の発表・レポートに向けて†

• 後半の発表とレポートに向けて、どのような資料を使い、どのようなテーマを扱うか考えておいてください。

持ち帰り用データ†

• 授業フォルダの「持ち帰り用」フォルダ内にある「ひまわり」のデータ、青空文庫のテキストはコピーして持ち帰ってかまいません。

---

• ★都合により5/15, 5/29 の授業は少し早めに終わります。

---

今後の予定（あくまでも予定です）†

• 関係データベース
  • 関係データベースとは
  • Access
  • 形態素解析結果をデータベースに読み込む
  • 解析結果の比較・分析
  • クエリの作成・SQL

• 形態素解析
  • 形態素解析とは
  • UniDicを使う
  • 解析結果の利用（Excel）

• ミニコーパスを作る
  • 自分でミニコーパスを作るには
  • マークアップ言語
  • HTML,XML
  • 「ひまわり」用のデータを作る（「えだまめ」の利用）

---

第6回　2009/05/15　「ひまわり」とExcelの利用†

全文検索ソフト「ひまわり」の利用†

• 「ひまわり」　国立国語研究所/言語データベースとソフトウェア/ひまわり
• 「ひまわり」を授業フォルダに入れ、青空文庫などを検索できるようにしてあります。

「ひまわり」で使用できる正規表現†

• 授業資料/Himawariの正規表現
• 検索語/キー：普通の文字と、列挙型の文字クラス([あいう]のようなもの。[あ-う]のような範囲指定は不可)
• 前文脈/後文脈：ほぼ全ての正規表現

表計算ソフト Excel入門†

• 並べ替え
• オートフィルタ
  • オートフィルタの「オプション」

• ピボットテーブル・ピボットグラフを使う
  • 参考：http://office.microsoft.com/ja-jp/excel/CH062528071041.aspx

• Excelの使い方全般について
  • Excel 2003 のヘルプと使い方
  • Excelトレーニング（Microsoft）

Excelを使った集計†

• ピボットテーブル・ピボットグラフを使う
  • 参考：http://office.microsoft.com/ja-jp/excel/CH062528071041.aspx

• グラフの種類について
  • http://office.microsoft.com/ja-jp/help/HA012337371041.aspx
  • 扱う対象・方法に適したグラフを選択する 上記URL参照

• 用例の分類と集計
  1. 分類記号を入れる列を用意し、自分で入力する
  2. ピボットテーブルで入力した分類を使う

• 関数を使う
  • =left([文字列],[文字数])
  • 生没年（1867-1916）から10年ごとの生まれた年代（1860）を取り出すには
    • =left([生没年],3)*10

• エディタと組み合わせて使う
  • 特定の列をエディタにコピーして正規表現を使った置換を行う

第5回　2009/05/08　高度な正規表現†

タグ付き正規表現（復習）†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現
• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索語の中での後方参照†

• 検索語の中で\1を使う
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 「([^」]+)」 → 【\1】　のように書けばよい
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• 最短一致を指定するには（ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の後に「?」をつける

正規表現に関する本†

• amazonで検索
• 正規表現にはアプリケーションソフトやプログラミング言語ごとに多くの方言があるので注意

#amazon(4873111706) #amazon(4873113598)

おすすめテキストエディタ†

• フリーウェア
  • K2Editor http://k2top.jpn.org/index.php?K2Editor 【SJIS】
  • Apsalyテキストエディタ http://www.vector.co.jp/soft/win95/writing/se423509.html 【SJIS】
  • サクラエディタ http://sakura-editor.sourceforge.net/ 【SJIS】unicode版開発中
• シェアウェア
  • EmEditor http://jp.emeditor.com/ 4,200円
  • 秀丸エディタ http://hide.maruo.co.jp/software/hidemaru.html 4,200円

全文検索ソフト「ひまわり」の利用†

• 「ひまわり」　国立国語研究所/言語データベースとソフトウェア/ひまわり
• 「ひまわり」を授業フォルダに入れ、青空文庫などを検索できるようにしてあります。

---

第4回　2009/05/01 　正規表現†

• 秀丸エディタの使い方(PDF)

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）
  • 置換・検索・grepで利用できる
  • 記号はすべて半角
  • 特殊文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

正規表現の応用†

• カタカナ語
• 送りがなの揺れ（行う／行なう）
• 全然～ない。
• 会話文中（「で始まる）

タグ付き正規表現†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

第3回　2009/04/24 　テキストエディタの利用†

• 復習
  • 検索で初出行を調べる
  • 置換で用例数を数える
• grepとタグジャンプ
  • grep
  • タグジャンプ
  • grep結果の保存

grepと置換でKWIC（CSVファイル）を作る†

• grep結果の置換による整形
• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• CSVファイルをExcelで開く
• KWIC：KeyWord In Context

テキストファイルと拡張子†

• 拡張子(wikipedia)
• 拡張子辞典：http://jisyo.com/viewer/list/list.html
• TXT,CSV,HTM・・・

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）
  • 置換・検索・grepで利用できる
  • 記号はすべて半角
  • 特殊文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

• 文字クラス [ ]
• 文字クラスの否定（補集合）[^ ]

(続きは次回)

第2回　2009/04/17 　テキストデータとテキストエディタ†

コーパスについて†

この授業ではBCCWJ（モニター公開版）・太陽コーパスのほか、青空文庫・国会会議録などの広義のコーパスも取り扱う。

• 狭義のコーパス　言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
  • Kotonoha (BCCWJ / CSJ / 太陽コーパス)
• 広義のコーパス　コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
  • さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
  • Webデータ
    • 検索サイトの利用
    • WAC（Web as Corpus）

授業で利用する主なソフトウェア†

このほかにWeb上で利用できるサービスも取り上げます。

最初に、テキストエディタを使ってテキストデータを扱うことからはじめます。

• 共有フォルダの確認
  • マイネットワーク＞share＞日本語コーパス

テキストデータ†

全ての基本。テキストデータ≒テキストファイル≒電子化テキスト

• テキストデータとはどんなものか
  • 授業資料/テキストデータとは
  • 授業資料/テキストデータ紹介（広義のコーパス）
    • 参考 『国会会議録を使った日本語研究』

#amazon(4894762994)

• 授業資料/文字コード関連リンク

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

テキストエディタの基礎†

• スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）
  • cf. 見た目 と 構造
• 検索と置換
• grep

2009/04/10 イントロダクション†

• 自己紹介
• 国語研コーパスの紹介（KOTONOHA）
  • 現代日本語書き言葉均衡コーパス（BCCWJ） 日本語コーパス：http://www.tokuteicorpus.jp/
  • 日本語話し言葉コーパス（CSJ）
  • 太陽コーパス

• 授業の進め方について
  • シラバス確認

• デモンストレーション
  • 茶まめ（形態素解析）＋Excel

• 受講者アンケート
  • 専門・関心領域
  • PCスキル