成蹊2022
日本語学講義D コーパス日本語学入門†
11/11 「中納言」の使い方(2)†
「中納言」の使い方†
資料7ページから
11/4 コーパスの形態論情報(2)/「中納言」の使い方(1)†
品詞体系†
- BCCWJ・CHJはUniDicの品詞体系にもとづく(BCCWJのために開発されたのがUniDic)
コーパスへの形態論情報の付与†
- 短単位:MeCabとUniDicを使った形態素解析で情報付与
- 長単位:Comainu(など)で短単位を組み上げる
形態素解析を試してみる†
形態素解析の仕組み†
「中納言」の使い方†
10/28 【休講】†
※都合により休講とします。かわりにCoursePower(下記リンク先の「参考動画資料」)で動画を公開しましたのでオンデマンドで履修してください。
動画①は前回の復習+α、②は次回の授業で改めて説明する内容になります。
10/21 (四大学運動競技大会)†
10/14 第4回 コーパスの形態論情報†
前回のこり†
(歴史コーパスの設計)
利用する側から見たコーパスの設計†
- BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある
- サブコーパスのサイズを無視した比較
- バランスのとれていない項目間の単純比較(BCCWJの年代、CHJの時代・ジャンル等)
- 今後の授業の中で詳しく説明していきます
コーパスの形態論情報†
- コーパス検索アプリケーション「中納言」と短単位と長単位
参考資料†
10/6 第3回 日本語コーパスの紹介(2)『日本語日常会話コーパス』『日本語歴史コーパス』†
「現代日本語書き言葉均衡コーパス」の構成とサンプリング (残り)†
「日本語日常会話コーパス」(CEJC)の構成†
「日本語歴史コーパス」(CHJ)の構成†
- 残された資料に限りがある(そもそも偏りがある)歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難
- 近世以前
- 残されている資料が少なく、できるだけ(可能なら全部)コーパスに入れたい
- 近世(後期)以降
- 偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい(作品など資料単位で調査したい)
- 『日本語歴史コーパス』の中身
- 中世以前は重要な資料をまるごと対象に
- 近世の洒落本・人情本:年代・著者(・地域)のバランスを取って作品単位でサンプリング
近代語コーパスの場合†
- 近代雑誌(現在はCHJの一部)
- 多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
- 発行年での大まかなサンプリング
- その後の雑誌コーパスも8年おきに収録
- 明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文藝春秋)
- 近代小説
9/30 第2回 日本語コーパスの紹介(1)『現代日本語書き言葉均衡コーパス』†
「中納言」授業アカウント配布†
コーパスを使ってみる†
- 細かい話は抜きで「中納言」でコーパスを使ってみよう
- 『現代日本語書き言葉均衡コーパス』(BCCWJ)コアのみ
- 文字列検索
- 短単位検索
コーパスとは†
- 狭義のコーパス
- 言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
- 現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コーパス(CHJ)
- 広義のコーパス
- コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
- さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 / 国会会議録)
- Web上のデータ
- 検索サイトの利用
- WAC(Web as Corpus)
- この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス(BCCWJ)」「日本語日常会話コーパス(CEJC)」と「日本語歴史コーパス(CHJ)」
コーパスへの要請†
- 大規模であること
- 各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
- 著作権の問題がないこと
- 言語研究に利用できる情報がついていること
「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサンプリング†
- 均衡コーパス(Balanced corpus)
- 「バランスがとれている」「代表性」とは?
- コーパスの母集団の設定とサンプリング
- BCCWJのサブコーパス
- 可変長と固定長
参考リンク†
- 英語のコーパス リファレンス
- 現代日本語書き言葉均衡コーパス(BCCWJ)
09/23 第1回 イントロダクション†
授業内容等の確認†
授業内容デモ†
- コーパスの利用
- Excelによる集計(ピボットテーブル)
- 形態素解析
- テキストエディタと正規表現
「中納言」アカウントについて†
授業で利用する主なソフトウェア・Webアプリケーション(予定)†