FrontPage
日本語学講義Ⅱ（コーパス日本語学入門）†
06/09 第8回 Excelによる検索結果の集計(2)†
ピボットテーブルの使い方（復習）†
- ダウンロード
- ダブルクリックしてExcelで開く
- ピボットテーブル
- 例：CEJC 副詞「あまり」の語形（「やはり」との比較）
Excelの基礎†
- 並べ替え（ソート）
- フィルタ（絞り込み）
- テキストフィルタ
- 多重フィルター（複数の条件指定）
複数の検索結果の結合†
ショートカットキーを活用すると便利
- Ctrl*1+End*2 ファイルの末尾/表のいちばん右下に移動
- Shift+Ctrl+End*3 〃範囲を選択
- 表をコピー
- Ctrl+Home*4（表の左上へ移動）, ↓（列名は選択しないようにするため1行下へ）,Shift+Ctrl+End, Ctrl+C（コピー）
- コピーした表を既存の表の下に貼り付け
- Ctrl+↓（表の一番下の行に移動）, ↓（1行下へ）, Ctrl+V（貼り付け）
一度にピボットテーブルで集計できるように一つの表にまとめる
- ※必ず表をくっつけること（空行を入れるとそこで表が切れていると認識される）
複数の検索結果を一つにまとめる別の方法†
- 「検索条件式ごとに出力ファイルを分割する」を外して検索条件式で一度にダウンロード（ZIPファイルの中のcsvファイルを利用）
キー: 語彙素="ビール";
キー: 語彙素="ワイン";
キー: 語彙素="ブランデー";
キー: 語彙素="ウイスキー";
キー: 語彙素="焼酎";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;
キー: 語彙素="日本" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;
「中納言」検索課題（いままでの復習・レポートテーマに向けて）†
06/02 第7回 『中納言』の使い方（3）／Excelによる検索結果の集計(1)†
検索条件式の利用†
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"
↓これだけでもいい（IN 以下の検索対象コーパスやWITH OPTIONS 以下は式で指定がない場合、検索画面での設定に従う）
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
OR検索†
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: (語彙素="言葉" OR 語彙素="言語") ON 1 WORDS FROM キー
周辺語検索†
キー: 品詞 LIKE "名詞%"
AND 共起: 語彙素="美しい" BETWEEN -3 AND 3 WORDS FROM キー
検索結果のダウンロードとExcelでの利用†
- 並べ替え（ソート）
- フィルター（絞り込み）
- テキストフィルター
- 多重フィルター（複数の条件指定）
- ピボットテーブル★
05/26 第6回 『中納言』の使い方（2）†
位置情報と用例へのパーマリンク†
- 位置検索
- サンプルID,開始位置*5のセットでコーパス上の用例の位置を一意に指定できる
- 位置検索での区切り記号はカンマのほかタブやスペースでも可
05/19 第5回 『中納言』の使い方†
（前回補足）形態素解析を試してみる†
- Web茶まめ
- 利用例：ニュースのテキストとブログやSNSのテキストの比較／BCCWJなどのコーパスとの比較
「中納言の使い方」†
05/12 第4回 コーパスの形態論情報†
コーパスの形態論情報†
品詞体系†
- BCCWJ・CHJはUniDicの品詞体系にもとづく（BCCWJのために開発されたのがUniDic）
コーパスへの形態論情報の付与†
- 短単位：MeCabとUniDicを使った形態素解析で情報付与
- 長単位：短単位を組み上げて情報付与
参考資料†
04/28 第3回 日本語コーパスの紹介（2）†
『日本語日常会話コーパス』『日本語歴史コーパス』『昭和・平成書き言葉コーパス』
「日本語日常会話コーパス」（CEJC）の構成†
（以下スライド参照）
「日本語歴史コーパス」（CHJ）の構成†
- 残された資料に限りがある（そもそも偏りがある）歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難
- 近世以前
- 残されている資料が少なく、できるだけ（可能なら全部）コーパスに入れたい
- 近世（後期）以降
- 偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい（作品など資料単位で調査したい）
- 『日本語歴史コーパス』の中身
- 中世以前は重要な資料をまるごと対象に
- 近世の洒落本・人情本：年代・著者（・地域）のバランスを取って作品単位でサンプリング
近代語コーパスの場合†
- 近代雑誌コーパス（現在はCHJの一部）
- 多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
- 発行年での大まかなサンプリング
- その後の雑誌コーパスも8年おきに収録
- 明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文藝春秋）
- 近代小説
「昭和・平成書き言葉コーパス」（SHC）の構成†
- CHJの後を受けて現代までを通時的に研究するためのコーパス。1933年以降、8年おき11か年分（1933・1941・1949・1957・1965・1973・1981・1989・1997・2005・2013）を収録。
- 雑誌
- 1933～1957 年刊の『中央公論』と1965～2013 年刊の『文芸春秋』（8年おき11か年分）
- ベストセラー書籍
- 1933年以降、8年おき11か年のベストセラー書籍
- 新聞
- 1933年以降、8年おき11か年の『読売新聞』奇数月2日の朝刊1冊
利用する側から見たコーパスの設計†
- BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある
- サブコーパスのサイズを無視した比較
- バランスのとれていない項目間の単純比較（BCCWJの年代、CHJの時代・ジャンル等）
04/21 第2回 日本語コーパスの紹介（1）†
『現代日本語書き言葉均衡コーパス』
「中納言」授業アカウントの配布†
- 必要な人に一人ずつ配布します（授業期間＋αのみ利用可能）
- 個人用アカウントを取得した人はそちらを利用して下さい
コーパスを使ってみる†
- 細かい話は抜きで「中納言」でコーパスを使ってみよう
- 『現代日本語書き言葉均衡コーパス』（BCCWJ）コアのみを対象に設定
- 文字列検索
- 短単位検索
コーパスとは†
（以下スライド参照）
- 狭義のコーパス
- 言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
- 現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）
- 広義のコーパス
- コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
- さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
- Web上のデータ
- 検索サイトの利用・WAC（Web as Corpus）
- この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」「日本語日常会話コーパス（SHC）」「日本語歴史コーパス（CHJ）」「昭和・平成書き言葉コーパス（SHC）」
コーパスへの要請†
- 大規模であること
- 各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
- 著作権の問題がないこと
- 言語研究に利用できる情報がついていること
「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサンプリング†
- 均衡コーパス（Balanced corpus）
- 「バランスがとれている」「代表性」とは？
- コーパスの母集団の設定とサンプリング
- BCCWJのサブコーパス
- 可変長と固定長
参考リンク†
- 英語のコーパス リファレンス
- 現代日本語書き言葉均衡コーパス（BCCWJ）
04/14 第1回 イントロダクション†
授業内容等の確認†
「中納言」アカウントについて†
- 「授業アカウント」について
- 個人用の「中納言」オンライン利用申込み
授業で利用する主なソフトウェア・Webアプリケーション（予定）†
授業内容デモ†
- コーパスの利用
- Excelによる集計（ピボットテーブル）
- 形態素解析
- テキストエディタと正規表現
（参考動画）†
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
