東京外大2017
Japan Studies 1：コーパス日本語学入門
- 春学期・木曜4限
- ogiso＠ogiso.net ←＠を@に直してください
レポートについて
- 〆切：7月13日(木)
- 枚数：A4用紙で4枚以上～20枚以下
- メールで提出
2017/06/22
ランダムサンプリング調査(Excelでの集計・補足)
- 大量に用例があり、調査内容からすべて対象にできない場合
- ランダムに並べ替え→先頭n例を調査対象に
- ランダムな数字の列： =RAND()
- ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される
重複の削除
用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合
VLOOKUP
【補足】Excelの文字列関数で前後文脈を整える
- 後文脈の「。」より後を消す（「。」がない場合はそのまま）
=IF(ISERROR(SEARCH("。",<後文脈>)),<後文脈>,LEFT(<後文脈>,SEARCH("。",<後文脈>)))
- 前文脈の「。」以前を消す（「。」がない場合はそのまま）*1
=RIGHT(<前文脈>,LEN(<前文脈>)-(FIND("~",SUBSTITUTE("。"&<前文脈>,"。","~",LEN("。"&<前文脈>)-LEN(SUBSTITUTE("。"&<前文脈>,"。",""))),1)-1))
レポートテーマについて
- 来週、レポートテーマについて全員に聞き、コメントします。テーマを考えておいてください。
2017/06/15
Excelの文字列関数とIF関数
- 例：ジャンル（NDC）の整理
- 先頭の文字を取り出す（NDCの一次区分（＝類））
- スラッシュで区切られた最初の部分（ジャンルの大分類）
- =LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)
- 集計用に用意した列で文字列処理関数を利用する
- LEFT
- RIGHT
- MID
- LEN
- SEARCH
- SUBSTITUTE
- 応用例：品詞の大分類を使う
- =IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)
BCCWJ利用の落とし穴
- BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない
- レジスターによって母集団の年が違っている
- 30年あるのは白書・ベストセラー・国会会議録など一部のものだけ
- もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない→調整頻度の計算
- cf.人口あたりの事故件数，１平方キロあたりの…etc.
調整頻度の計算
- 粗頻度を総語数で割る
- レジスターごとの語数データ：中納言ページの「語数について」からExcelでダウンロードできる
- 調整頻度には100万語あたりの頻度（pmw）がよく使われる
- ※割合の違いを比較するだけなら調整頻度を出す必要はない。
2017/06/08
- （配布資料）「中納言」検索課題
- 定型表現の揺れ
- 表記（交ぜ書き・拡張新字体・印刷標準字体）
- 語彙（抽象概念の尺度となる形容詞）
- 文法（格助詞の選択）
複数の検索結果の結合
ショートカットキーを活用すると便利
- Ctrl+End ファイルの末尾/表のいちばん右下に移動
- Shift+Ctrl+End 〃範囲を選択
- 表をコピー
- Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl+End, Ctrl+C
- コピーした表を既存の表の下に貼り付け
- Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
集計用の列を自分で用意する
- 例：表記（ひらがな・かたかな・漢字）別集計
- 例：用法分類
2017/06/01
質問対応
「中納言」検索結果のダウンロードとExcelでの利用（復習）
- ダウンロード
- アーカイブの展開（解凍）
- Excelでインポート
Excelの基礎
【重要】ピボットテーブルの使い方
複数の検索結果の結合
ショートカットキーを活用すると便利
- Ctrl+End ファイルの末尾/表のいちばん右下に移動
- Shift+Ctrl+End 〃範囲を選択
- 表をコピー
- Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl+End, Ctrl+C
- コピーした表を既存の表の下に貼り付け
- Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
集計用の列を自分で用意する
- 例：表記（ひらがな・かたかな・漢字）別集計
- 例：用法分類
2017/05/25
質問対応
(復習)形態論情報を使った検索
検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"
2017/05/18 休講
2017/05/11
前回の単位分割課題
形態論情報を使ったコーパスの検索
- 配布資料「中納言の使い方」参照
- この資料は次回以降も使いますので持ってきてください。
2017/04/27
コーパスの形態論情報：短単位と長単位
品詞体系と見出し語の階層
- BCCWJ,CHJはUniDicの品詞体系にもとづく
形態論情報を使った検索
（参考）Web茶まめ
http://chamame.ninjal.ac.jp/
2017/04/20
「中納言」オンライン利用申込み
コーパスの設計とサンプリング
- （スライド参照） 第2回コーパスの設計とサンプリング
- 均衡コーパス（Balanced corpus）
- 「バランスがとれている」「代表性」とは？
- コーパスの母集団の設定とサンプリング
- BCCWJのサブコーパス
- 可変長と固定長
- 著作権をめぐる問題
参考リンク
- 英語のコーパス リファレンス
- 現代日本語書き言葉均衡コーパス（BCCWJ）
2017/04/13
「コーパス」について†
- 狭義のコーパス
- 言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
- 現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）
- 広義のコーパス
- コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能。
- さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
- Web上のデータ
- 検索サイトの利用
- WAC（Web as Corpus）
- この授業で扱うのは主に狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」が中心
- 日本語コーパス以前のデータとBCCWJの違いは
紙の資料からコーパスまで
- (紙の)本文
- (紙の)総索引（コンコーダンス）
- 電子テキスト
- 構造化テキスト
- 形態論情報付きコーパス
現代日本語書き言葉均衡コーパス（BCCWJ）とは
- BCCWJについて、まず最小限のことを説明します。
「現代日本語書き言葉均衡コーパス（BCCWJ）」
「中納言」オンライン利用申込み
2017/04/06
イントロダクション／日本語コーパスの紹介
- デモ
- 「現代日本語書き言葉均衡コーパス（BCCWJ）」
- Web茶まめ
- Excelによる集計（ピボットテーブル）
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
