九大2021 の履歴(No.29)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 九大2021 へ行く。
  • 1 (2021-03-26 (金) 01:58:28)
  • 2 (2021-04-07 (水) 22:30:35)
  • 3 (2021-04-08 (木) 21:36:14)
  • 4 (2021-04-08 (木) 22:36:12)
  • 5 (2021-04-08 (木) 22:36:12)
  • 6 (2021-04-14 (水) 20:14:08)
  • 7 (2021-04-15 (木) 19:10:19)
  • 8 (2021-04-15 (木) 21:17:16)
  • 9 (2021-04-16 (金) 02:57:59)
  • 10 (2021-04-20 (火) 07:27:47)
  • 11 (2021-04-22 (木) 13:37:35)
  • 12 (2021-04-22 (木) 19:26:18)
  • 13 (2021-04-23 (金) 04:27:01)
  • 14 (2021-05-05 (水) 00:58:31)
  • 15 (2021-05-06 (木) 18:30:11)
  • 16 (2021-05-07 (金) 03:46:22)
  • 17 (2021-05-13 (木) 19:26:29)
  • 18 (2021-05-18 (火) 02:10:28)
  • 19 (2021-05-20 (木) 09:23:41)
  • 20 (2021-05-20 (木) 22:25:14)
  • 21 (2021-05-23 (日) 13:03:06)
  • 22 (2021-05-27 (木) 21:05:14)
  • 23 (2021-06-02 (水) 18:50:56)
  • 24 (2021-06-03 (木) 21:30:54)
  • 25 (2021-06-03 (木) 21:30:54)
  • 26 (2021-06-10 (木) 03:05:03)
  • 27 (2021-06-10 (木) 21:16:32)
  • 28 (2021-06-17 (木) 21:09:37)
  • 29 (2021-06-24 (木) 18:26:25)
  • 30 (2021-06-24 (木) 21:37:44)
  • 31 (2021-07-01 (木) 19:26:50)
  • 32 (2021-07-08 (木) 09:52:57)
  • 33 (2021-07-08 (木) 21:38:31)
  • 34 (2021-07-15 (木) 19:29:33)
  • 35 (2021-07-29 (木) 19:07:35)

---

九州大学：国語学講義 III / 日本語学方法論特論 III†

コーパス日本語学†

• 前期木曜2限：10:30-12:00
• Mail: ogiso@ogiso.net

• 授業はTeamsミーティングで行います。授業のURLは下記のMoodleの授業コースのページで確認してください。毎回同じアドレスです。
  • https://moodle.s.kyushu-u.ac.jp/course/view.php?id=37105

---

• 質問コーナー（授業のことで質問があったら下記に記入してください。毎回の授業時に回答します。）
  • https://moodle.s.kyushu-u.ac.jp/mod/questionnaire/view.php?id=603522

• 中納言 https://chunagon.ninjal.ac.jp

6月24日（第11回）　文字列関数の利用 ／VLOOKUP関数による辞書引き集計†

Excelの文字列関数†

集計に必要な情報をフィールドから切り出すことで集計に使う

• 授業資料/EXCELの文字列関数参照

• （参考）Mac版Excelと文字種
  • フィルタのオプションで平仮名と片仮名が区別されないので、文字コードで区別する
    • =unicode(文字列) ：文字列の先頭文字の文字コード（Unicode、10進数）を返す

VLOOKUP関数の利用†

• 授業資料/VLOOKUP関数参照

（参考）分類語彙表†

• https://ccd.ninjal.ac.jp/goihyo.html

6月17日（第10回）　調整頻度の計算†

ランダムサンプリング調査（再）†

• 大量に用例があり、調査内容からすべて対象にできない場合
• ランダムに並べ替え→先頭n例を調査対象に
  • ランダムな数字の列： =RAND()
  • ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される

• 例：「られる」「全然」

出現サンプル数の調査（重複の削除）†

用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合

• たとえば同一サンプル内での繰り返しが多いものを調査するとき（例：一人称代名詞など）
  • 「データ」→「重複の削除」
• 例：「俺・僕・私」

BCCWJ利用の落とし穴†

• BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない
  • レジスターによって母集団の年が違っている
    • レジスターの偏りを年代の偏りと勘違いしないこと
  • 30年あるのは白書・ベストセラー・国会会議録など一部のものだけ

• もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない
  • →調整頻度の計算
    • cf.人口あたりの事故件数，１平方キロあたりの…etc.

• BCCWJの語数
  • https://ccd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
• 短単位語数表をピボットテーブルで集計
  • 短単位語数表：http://doi.org/10.15084/00003226

調整頻度（pmw）†

• 粗頻度を総語数で割る
  • レジスターごとの語数データ：中納言ページの「語数について」のリンク先からExcel形式でダウンロードできる
    • 語数ファイルをピボットテーブルで集計して分母に

• 調整頻度には100万語あたりの頻度（pmw）がよく使われる
  • 粗頻度/コーパス総語数*1000000
    • 数字が小さくなりすぎないようにするため

• 例：「パソコン」「立ち上げる」
• 例：「矢張り」
• ※割合を比較するだけなら調整頻度を出す必要はない。

（Excel基礎）セルの相対参照と絶対参照†

• A1：相対参照
• $A$1：絶対参照
• $A1：列のみ絶対参照

調整頻度の例：『日本語歴史コーパス』†

• 頻度で見る「あはれ」「をかし」と源氏・枕
  • ※最低限、調査対象の語数を考慮した（＝調整頻度による）比較が必要

6月10日（第9回）　 Excelによる検索結果の集計2 ：ちょっとした応用†

複数の検索結果の結合（復習）†

• 例：ワイン・葡萄酒　※単位数が違うので検索条件式でも一つの式では書けない

  キー: 語彙素="ワイン";
  キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;

一度にピボットテーブルで集計できるように一つの表にまとめる

• ※必ず表をくっつけること（空行を入れるとそこで表が切れていると認識される）

ショートカットキーを活用すると便利

• Ctrl*1+End*2　ファイルの末尾/表のいちばん右下に移動
• Shift+Ctrl+End*3　〃範囲を選択

1. 表をコピー
   • Ctrl+Home*4（表の左上へ移動）, ↓（列名は選択しないようにするため1行下へ）,Shift+Ctrl+End, Ctrl+C（コピー）
2. コピーした表を既存の表の下に貼り付け
   • Ctrl+↓（表の一番下の行に移動）, ↓（1行下へ）, Ctrl+V（貼り付け）

（補足）ショートカットキーについて†

• 授業資料/覚えておきたいショートカットキー

集計用の列を自分で用意する†

• 検索例：蒲公英・向日葵・蓮華
  • 表記（ひらがな・カタカナ・漢字）別集計

• 応用：用法分類などなど

ランダムサンプリング調査†

• 大量に用例があり、調査内容からすべて対象にできない場合
• ランダムに並べ替え→先頭n例を調査対象に
  • ランダムな数字の列： =RAND()
  • ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される

• 例：「られる」「全然」

6月3日（第8回） 「Excelによる検索結果の集計†

• 中納言の使い方 (PDF)
  • 6.3. 検索結果のダウンロードから

「中納言」検索結果のダウンロードとExcelでの利用†

1. ダウンロード
2. Excelでインポート

• データの形式
  • タブ区切りテキストの各列

Excelの基礎†

• 並べ替え（ソート）
  • 反転前文脈の使い方
• フィルタ（絞り込み）
  • テキストフィルタ
  • 多重フィルター（複数の条件指定）

【重要】ピボットテーブルの使い方†

• ピボットテーブル
• ピボットグラフ

• 例：CHJの犬と猫

5月27日（第7回） 「中納言」の使い方2：検索条件の指定†

• 「中納言」 https://chunagon.ninjal.ac.jp/
  • BCCWJ: https://chunagon.ninjal.ac.jp/bccwj-nt
  • CHJ: https://chunagon.ninjal.ac.jp/chj

• 中納言の使い方 (PDF)
  • 3.5から

位置情報と用例へのパーマリンク†

• 位置検索
  • サンプルID,開始位置*5のセットでコーパス上の用例の位置を一意に指定できる
  • 位置検索での区切り記号はカンマのほかタブやスペースでも可

• 用例へのpermalink
  • CHJ源氏冒頭の「やんごとなし」：https://chunagon.ninjal.ac.jp/chj/permalink?unit=short&position=20-%E6%BA%90%E6%B0%8F1010_00001,330

検索条件式の利用†

キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
 AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
 WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"

検索結果のダウンロードとExcelでの利用†

• 並べ替え（ソート）
• フィルター（絞り込み）
  • テキストフィルター
  • 多重フィルター（複数の条件指定）
• ピボットテーブル★
  • ピボットグラフ

5月20日（第6回） コーパス検索アプリケーション「中納言」†

• 「中納言」 https://chunagon.ninjal.ac.jp/
  • BCCWJ: https://chunagon.ninjal.ac.jp/bccwj-nt
  • CHJ: https://chunagon.ninjal.ac.jp/chj

• 中納言の使い方

5月13日（第5回） コーパスの形態論情報(2)†

品詞体系†

• BCCWJ・CHJはUniDicの品詞体系にもとづく（BCCWJのために開発されたのがUniDic）
  • 授業資料/UniDicの品詞体系
  • 授業資料/UniDicの見出し語階層

形態素解析を試してみる†

• Web茶まめ
  • https://chamame.ninjal.ac.jp/

形態素解析とその仕組み†

• 授業資料/形態素解析

中納言の使い方†

• 資料：中納言の使い方

5月6日（第4回） コーパスの形態論情報†

• 都合により、30分程度遅れて開始します。（11:00ごろ～12:00）

紙の資料からコーパスまで ～テキストの電子化とアノテーションの高度化†

1. (紙の)本文
2. (紙の)総索引（コンコーダンス）
3. 電子テキスト：テキスト （199x年代～）
   • 授業資料/テキストデータ紹介
4. 構造化テキスト：テキスト+XMLによる構造化タグ （200x年代～）
   • 太陽コーパスなど
5. 単語情報付きのコーパス：テキスト+XMLによる構造化タグ+形態論情報　（201x年代～）
   • 現代日本語書き言葉均衡コーパス（BCCWJ）など
   • 日本語歴史コーパス（CHJ）など

電子化とアノテーション（明六雑誌コーパスを例に）†

• 明六雑誌コーパス：https://ccd.ninjal.ac.jp/cmj/meiroku/

• ファイル形式と実例
  1. 電子テキスト：プレーンテキスト
  2. 構造化テキスト：XMLファイル
  3. 単語情報付きデータ：単語情報を埋め込んだXML　／XMLファイル＋CSVファイル
  • （発展）XMLの限界とスタンドオフアノテーション

• それぞれの利用アプリケーション
  1. 電子テキスト：テキストエディタ＋grepなど
  2. 構造化テキスト：全文検索システム「ひまわり」
  3. 単語情報付きデータ：中納言（オンライン）／Chaki.Net（PC上）

コーパスの形態論情報（1）†

• https://ccd.ninjal.ac.jp/bccwj/morphology.html

• 短単位と長単位
  • （スライド）長単位と短単位 参照
  • 長単位と短単位・資料 単位切りの例
  • （参考）動画：コーパス検索システムの言語単位『短単位』 https://youtu.be/s5akpYOzNIU

• コーパス検索アプリケーション「中納言」と短単位と長単位
  • 中納言の使い方

4月22日（第3回） コーパスの設計2†

（Moodleに置いたスライド参照）

• ともかく「中納言」（BCCWJ，CHJ）を使ってみる

「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサンプリング （つづき）†

• https://ccd.ninjal.ac.jp/bccwj/

• 均衡コーパス（Balanced corpus）
  • 「バランスがとれている」「代表性がある（representative）」とは？
  • コーパスの母集団の設定とサンプリング
  • BCCWJのサブコーパス★ここから↓（スライド41ページ）
  • 可変長と固定長
• 著作権をめぐる問題

「日本語歴史コーパス」（CHJ）の構成†

• https://ccd.ninjal.ac.jp/chj/

• 残された資料に限りがある（そもそも偏りがある）歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難

近世以前

残されている資料が少なく、できるだけ（可能なら全部）コーパスに入れたい

近世（後期）以降

偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい（作品など資料単位で調査したい）

• 『日本語歴史コーパス』の中身
  • 中世以前は重要な資料をまるごと対象に
  • 近世の洒落本・人情本：年代・著者（・地域）のバランスを取って作品単位でサンプリング

近代語コーパスの場合†

• 近代雑誌（現在はCHJの一部）
  • 多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
  • 発行年での大まかなサンプリング
    • 「太陽コーパス」：8年おきに12冊ずつを対象
  • その後の雑誌コーパスも8年おきに収録
    • 明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文藝春秋）
• 近代小説 ※明日の夕方に公開予定
  • 複数の有識者が日本語資料として選定・投票した結果（1980年代に作成した資料）をもとにサンプリング
  • https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi_2019b_e3.pdf

利用する側から見たコーパスの設計†

• BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある
  • サブコーパスのサイズを無視した比較
  • バランスのとれていない項目間の単純比較（BCCWJの年代、CHJの時代・ジャンル等）

4月15日（第2回） コーパスの設計†

「中納言」のアカウントについて†

• 授業アカウントの配布

（以下、Moodleに置いたスライドも参照）

コーパスとは†

狭義のコーパス

言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。

• 現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）

広義のコーパス

コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。

• さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
  • 「ひまわり」パッケージ
• Web上のデータ
  • 検索サイトの利用
  • WAC（Web as Corpus）

• 言語学分野では前者、自然言語処理分野などでは後者の意味で使いがち。

• この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」と「日本語歴史コーパス（CHJ）」

コーパスに求められるもの†

• コーパス以前の電子化日本語資料（とその限界）
  • 個人研究者による電子化テキスト
    • cf. 日本文学等テキストファイル(岡島昭浩)
  • 出版社による電子出版物（CD-ROM）
    • 新潮文庫の100冊 etc.
  • 新聞のデータベース（CD-ROM）
    • 毎日新聞CD-ROM etc.
  • Web上のテキストアーカイブ
    • 青空文庫 etc.
  • Webそのもの
    • Web as Corpus

• （現代語）コーパスへの要請
  • 大規模であること
  • 各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
  • 著作権の問題がないこと
  • 言語研究に利用できる情報がついていること

「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサンプリング†

• https://ccd.ninjal.ac.jp/bccwj/

• 均衡コーパス（Balanced corpus）
  • 「バランスがとれている」「代表性がある（representative）」とは？
  • コーパスの母集団の設定とサンプリング
  • BCCWJのサブコーパス
  • 可変長と固定長
• 著作権をめぐる問題

参考リンク†

• 英語のコーパス リファレンス
  • ブラウンコーパス マニュアル http://khnt.aksis.uib.no/icame/manuals/brown/
  • BNCリファレンスガイド http://www.natcorp.ox.ac.uk/docs/URG/
• 現代日本語書き言葉均衡コーパス（BCCWJ）
  • 現代日本語書き言葉均衡コーパス：概要
  • BCCWJの基本設計：https://ccd.ninjal.ac.jp/bccwj/basic-design.html
  • サンプリング：https://ccd.ninjal.ac.jp/bccwj/sampling.html
  • XMLによる電子化：https://ccd.ninjal.ac.jp/bccwj/XML.html

4月8日（第1回）イントロダクション/日本語コーパスの紹介†

イントロダクション†

• 自己紹介
  • 大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/
  • 国立国語研究所コーパス開発センター https://ccd.ninjal.ac.jp/corpus_center/

• （参考）国語研オープンハウス2020　https://www2.ninjal.ac.jp/openhouse2020/
  • 動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR2K2h2E

授業内容等の確認†

• シラバスの確認
  • この授業の目的
  • 授業の進め方
  • 評価方法

• 受講者アンケート
  • 関心のある分野について
  • PC等のスキルについて

「中納言」アカウントについて†

• 「授業アカウント」について
• 「中納言」オンライン利用申込み
  • https://chunagon.ninjal.ac.jp/useraccount/register

授業で利用する主なソフトウェア・Webアプリケーション（予定）†

授業内容デモ†

• コーパスの利用
  • 「現代日本語書き言葉均衡コーパス（BCCWJ）」
    • 梵天（BCCWJ文字列検索）
    • 中納言
  • 「日本語歴史コーパス（CHJ）」
• Excelによる集計（ピボットテーブル）
• 形態素解析
  • Web茶まめ
• テキストエディタとgrep
• 全文検索システムひまわり
• R