一橋2011 の履歴(No.19)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 一橋2011 へ行く。
  • 1 (2011-09-29 (木) 22:34:07)
  • 2 (2011-09-29 (木) 22:56:53)
  • 3 (2011-10-05 (水) 18:40:39)
  • 4 (2011-10-14 (金) 00:10:08)
  • 5 (2011-10-21 (金) 10:44:13)
  • 6 (2011-10-27 (木) 16:07:58)
  • 7 (2011-11-03 (木) 22:29:20)
  • 8 (2011-11-18 (金) 09:34:31)
  • 9 (2011-11-24 (木) 15:28:24)
  • 10 (2011-11-24 (木) 18:29:45)
  • 11 (2011-11-25 (金) 09:21:03)
  • 12 (2011-11-26 (土) 16:47:56)
  • 13 (2011-12-01 (木) 17:58:35)
  • 14 (2011-12-08 (木) 19:11:49)
  • 15 (2011-12-15 (木) 18:29:40)
  • 16 (2011-12-16 (金) 11:35:02)
  • 17 (2011-12-16 (金) 11:35:02)
  • 18 (2012-01-06 (金) 00:14:25)
  • 19 (2012-01-13 (金) 13:24:06)
  • 20 (2012-01-20 (金) 10:51:55)
  • 21 (2012-01-26 (木) 19:17:05)
  • 22 (2012-05-07 (月) 00:29:09)

---

日本語学講義(I) 日本語コーパス研究入門†

• 授業に関するメールはこちらへ。
  小木曽 智信： ogiso＠ogiso.net ←＠を半角に置き換えてください
• 授業資料/用語集リンク （わからないコンピュータ用語を調べてください）
• 授業フォルダ \\Linkstation\share\日本語コーパス

今後のテーマ

「ひまわり」で検索できるミニコーパスを作る

Wordで論文を書く（スタイルと見出し機能）

---

2012/01/06　BCCWJの設計と書誌情報

（スライド参照）

• 均衡コーパス（balanced corpus）とは
  • サブコーパスと母集団
  • 可変長と固定長

レポートテーマ

• 現時点で考えているレポートテーマについて

2011/12/16　BCCWJの形態論情報とUniDicによる形態素解析

---

形態素解析：「Mecab」と「UniDic」†

形態素解析とは†

どんなものか

• デモ: Web茶まめ　(MeCab + UniDic）
  • https://chamame.ninjal.ac.jp/

---

• 日本語の自然言語処理の基礎技術
• 今ではかなり枯れた技術
• 機械学習による言語処理のはしり

---

• 形態素解析の解析単位は言語学で言う「形態素」ではないことに注意
  • 「形態素解析」= "Morphological analysis"
  • morphologicalな（形態論上の）単位は形態素だけではない（訳語に問題がある）
  • 日本語の形態素解析の単位は一般に「語」（語をどう定義するかという問題は残る）

• 形態素解析の仕組み
  • 生起コストと連接コスト
    • その語はどれくらい出てくるか、どんな語とつながりやすいか
    • コーパスから統計的に取得（機械学習）
  • 経路の選択（参考：ビタビアルゴリズム）

形態素解析用ソフトウェア†

以前から使われているソフトウェア

• 形態素解析器（解析エンジン・プログラム）
  • JUMAN
  • 茶筌（ChaSen） <HMM
  • 和布蕪（MeCab） <CRF
• 解析用辞書
  • IPADIC
  • NAIST-jdic
  • UniDic

• Web茶まめ（解析用のお助けツール）
  • MeCab＋UniDic/IPAdic

UniDicの特長†

1. 見出し語が短単位という斉一な単位に揃えられている
2. 見出し語が階層化されており表記の揺れや語形の変異にかかわらず同一の見出しを与えることができる
3. アクセントや音変化の情報を付与することができる
4. 語種など言語研究のための豊富な情報が付与されている

• UniDicはChaSen, MeCabのどちらの解析器でも利用可能*1
  • 後から開発されたMeCabの方が解析精度が高いのでおすすめ

比較的新しい形態素解析器†

• KyTea
  • http://www.phontron.com/kytea/index-ja.html
  • 点予測という系列ラベリングとは別の手法による形態素解析器
• JUMAN++
  • https://nlp.ist.i.kyoto-u.ac.jp/?JUMAN%2B%2B
  • 深層学習（RNN）を使った形態素解析器

形態素解析に関する専門書†

• 工藤拓『形態素解析の理論と実装』近代科学社（2018）

（参考）長単位解析器†

• Comainu*2
  • https://ja.osdn.net/projects/comainu/

※BCCWJの長単位を付けるのに使われた。短単位を組み上げて品詞を長単位規定に合わせることができる

（参考）係り受け解析器†

• CaboCha
  • https://taku910.github.io/cabocha/

※BCCWJには係り受け情報は付いていない。NWJCは自動解析した係り受け情報付き

---

• MeCab（Windows用）最新版　Download

茶まめで形態素解析・Excelで集計

1. 茶まめで解析してみる（解析器はMeCab＋解析辞書はUniDic）
2. Excelに出力する
3. ピボットテーブルで集計する

• 応用：テキストのジャンルと語種，品詞の割合をグラフ化してみる
  • ブログのテキストと新聞記事のテキストの解析結果を比較

2011/12/09　Excelによるデータの処理

復習

• ひまわりとExcelピボットテーブルの組み合わせ
• 例：「それぎり」と「それきり」

応用・意味に関わる分析

• 分類用のフィールドを作って自分で分類後、集計する
  • 例：「新聞紙」の意味・用法の変化
    • ランダム→先頭100

相対頻度の計算

• Himawari版青空文庫・文字数データ
  Aozora2009GWchars.xls

中納言の検索結果をピボットテーブルで集計する

2011/12/02　中納言

BCCWJ中納言の使い方

• 中納言負荷テスト

2011/11/25　「ひまわり」とExcelの利用(2)

表計算ソフト Excel入門†

• ピボットテーブル（復習）
  • 例：大[事切]
• 並べ替え
• オートフィルタ
  • オートフィルタの「オプション」
    • 例：前文脈に「一番」または「いちばん」を含む

Excelを使った集計†

• ピボットテーブル・ピボットグラフを使う
  • 参考：http://office.microsoft.com/ja-jp/excel/CH062528071041.aspx

• グラフの種類について
  • 扱う対象・方法に適したグラフを選択する
  • 参考：http://office.microsoft.com/ja-jp/help/HA012337371041.aspx

• 文字列処理関数を使って集計用の列を作る
  • 例（生年代）：=left(生没年,3)*10

テキストエディタと組み合わせて使う†

• エディタと組み合わせて使う
  • 特定の列をエディタにコピーして正規表現を使った置換を行う
  • 例：検索語がヒットした文の前後の文（の断片）を除去する
    • 前文脈で：.+。 →　
    • 後文脈で：。.+　→　。

2011/11/18　「ひまわり」とExcelの利用(1)†

全文検索ソフト「ひまわり」†

• 「ひまわり」　国立国語研究所/言語データベースとソフトウェア/ひまわり
• 「ひまわり」を授業フォルダに入れ、青空文庫などを検索できるようにしてあります。

• エディタでのGrepとひまわりの違い
  • 対象となるデータ
    • エディタ：テキストデータなら何でも
    • ひまわり：専用のXML形式（テキストデータを元に変換して作成する。設定ファイルの準備も必要）
  • 検索結果
    • エディタ：マッチした行を一覧表示
    • ひまわり：マッチした文字列をKWIC形式で表示。出典情報なども表示可能
  • 検索結果
    • エディタ：1行ずつチェックするのでデータが多くなると時間がかかる
    • ひまわり：インデックスを利用するので高速
  • 検索条件
    • エディタ：自由な正規表現
    • ひまわり：正規表現の利用にやや制限あり

「ひまわり」で使用できる正規表現†

• 授業資料/Himawariの正規表現
• 検索語/キー：普通の文字と、列挙型の文字クラス([あいう]のようなもの。[あ-う]のような範囲指定は不可)
• 前文脈/後文脈：ほぼ全ての正規表現
  • 例：[寂淋]し

• ピボットテーブル・ピボットグラフを使う
  • 参考：http://office.microsoft.com/ja-jp/excel/CH062528071041.aspx
  • 例：[寂淋]し
    • 著者別に集計
    • 作品別に集計

2011/11/4（一橋祭）　復習＆質問

• これまでの授業内容に関する質問
• 自分の研究での利用に関する質問
• などなど

• 参考資料・秀丸エディタの使い方(PDF)

2011/10/28 　タグ付き正規表現

タグ付き正規表現†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索語の中での後方参照†

• 検索語の中で\1を使う
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 「([^」]+)」 → 【\1】　のように書けばよい
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• 最短一致を指定するには（ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の後に「?」をつける

正規表現に関する本†

• amazonで検索
• 正規表現にはアプリケーションソフトやプログラミング言語ごとに多くの方言があるので注意

#amazon(4873111706) #amazon(4873113598)

2011/10/21 　正規表現

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

正規表現の応用†

• カタカナ語
• 送りがなの揺れ（行う／行なう）
• 全然～ない。
• 会話文中（「で始まる）

タグ付き正規表現†

• 走[らりるれろ] でGrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろ]
    • 置換文字列：★走[らりるれろ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

検索語の中での後方参照†

• 検索語の中で\1を使う
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 「([^」]+)」 → 【\1】　のように書けばよい
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• 最短一致を指定するには（ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の後に「?」をつける

2011/10/14 　テキストエディタの利用†

復習

• 検索で初出行を調べる
• 置換で用例数を数える
• grepとタグジャンプ

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー

grepと置換でKWIC（CSVファイル）を作る†

• grep結果の保存
• grep結果の置換による整形
• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• KWICとは：KeyWord In Context

おすすめテキストエディタ†

• フリーウェア
  • サクラエディタ(2.x) http://sourceforge.net/projects/sakura-editor/ 【unicode】オススメ
  • K2Editor http://k2top.jpn.org/index.php?K2Editor 【SJIS】
  • Apsalyテキストエディタ http://www.vector.co.jp/soft/win95/writing/se423509.html 【SJIS】
• シェアウェア
  • EmEditor http://jp.emeditor.com/ 4,200円
  • 秀丸エディタ http://hide.maruo.co.jp/software/hidemaru.html 4,200円

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）
  • 置換・検索・grepで利用できる
  • 記号はすべて半角
  • 特殊文字そのものを表す場合には\でエスケープする（特殊な意味を打ち消す）　例：1\+2

• 文字クラス [ ]
  • 文字クラスの補集合（それ以外の文字）[^ ] (つづく)

• 授業資料/正規表現

2011/10/07 　テキストデータとテキストエディタ

まずは、テキストエディタを使ってテキストデータを扱うことからはじめます。

• 共有フォルダの確認
  • マイネットワーク＞share＞日本語コーパス

（補足）「コーパス」について†

この授業ではBCCWJのほかに、青空文庫・国会会議録などの広義のコーパス、自作のミニコーパスなども取り扱います。

• 狭義のコーパス　言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
  • Kotonoha (BCCWJ / CSJ / 太陽コーパス)
• 広義のコーパス　コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能なもの。
  • さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
  • Webデータ
    • 検索サイトの利用
    • WAC（Web as Corpus）

テキストデータ†

全ての基本。テキストデータ≒テキストファイル≒電子化テキスト

• テキストデータとはどんなものか
  • 授業資料/テキストデータとは
  • 授業資料/文字コード関連リンク
  • 授業資料/テキストデータ紹介（広義のコーパス）
    • 参考 『国会会議録を使った日本語研究』

#amazon(4894762994)

テキストファイルと拡張子†

• 拡張子(wikipedia)
• 拡張子辞典：http://jisyo.com/viewer/list/list.html
• TXT,CSV,HTM・・・

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

テキストエディタの基礎†

• スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）
  • cf. 見た目 と 構造
• 検索と置換、grep

2011/09/30 イントロダクション†

• 自己紹介
• 国立国語研究所（NINJAL）
• 国語研コーパス（KOTONOHA）
  • 現代日本語書き言葉均衡コーパス（BCCWJ）
    • 特定領域 日本語コーパス
    • 検索デモサイト
  • 日本語話し言葉コーパス（CSJ）
  • 太陽コーパス（明治・大正期の総合雑誌）
  • 通時コーパス（設計中）

• 授業の進め方について
  • 受講者のレベルにあわせて基礎的なことから始め、自分の研究に実際に活かせるようになることを目指します。
  • シラバス確認 https://mercas.hit-u.ac.jp/

• 受講者アンケート
  • 専門・関心領域
  • PCスキル

• デモンストレーション
  • 茶まめ（形態素解析）＋Excel

授業で利用する主なソフトウェア†