FrontPage
日本語学講義Ⅱ(コーパス日本語学入門)†
04/21 第2回 日本語コーパスの紹介(1)†
『現代日本語書き言葉均衡コーパス』『日本語日常会話コーパス』
「中納言」授業アカウントの配布†
- 必要な人に一人ずつ配布します
- 個人用アカウントを取得した人は不要です
コーパスを使ってみる†
- 細かい話は抜きで「中納言」でコーパスを使ってみよう
- 『現代日本語書き言葉均衡コーパス』(BCCWJ)コアのみを対象に設定
- 文字列検索
- 短単位検索
コーパスとは†
(以下スライド参照)
- 狭義のコーパス
- 言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
- 現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コーパス(CHJ)
- 広義のコーパス
- コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
- さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 / 国会会議録)
- Web上のデータ
- 検索サイトの利用・WAC(Web as Corpus)
- この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス(BCCWJ)」「日本語日常会話コーパス(SHC)」「日本語歴史コーパス(CHJ)」「昭和・平成書き言葉コーパス(SHC)」
コーパスへの要請†
- 大規模であること
- 各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
- 著作権の問題がないこと
- 言語研究に利用できる情報がついていること
「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサンプリング†
- 均衡コーパス(Balanced corpus)
- 「バランスがとれている」「代表性」とは?
- コーパスの母集団の設定とサンプリング
- BCCWJのサブコーパス
- 可変長と固定長
参考リンク†
- 英語のコーパス リファレンス
- 現代日本語書き言葉均衡コーパス(BCCWJ)
「日本語日常会話コーパス」(CEJC)の構成†
利用する側から見たコーパスの設計†
- BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある
- サブコーパスのサイズを無視した比較
- バランスのとれていない項目間の単純比較(BCCWJの年代、CHJの時代・ジャンル等)
04/14 第1回 イントロダクション†
授業内容等の確認†
「中納言」アカウントについて†
- 「授業アカウント」について
- 個人用の「中納言」オンライン利用申込み
授業で利用する主なソフトウェア・Webアプリケーション(予定)†
授業内容デモ†
- コーパスの利用
- Excelによる集計(ピボットテーブル)
- 形態素解析
- テキストエディタと正規表現
(参考動画)†