学習院2024 の履歴(No.29)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 学習院2024 へ行く。
  • 1 (2024-04-08 (月) 05:12:48)
  • 2 (2024-04-08 (月) 05:18:10)
  • 3 (2024-04-12 (金) 09:01:32)
  • 4 (2024-04-16 (火) 09:09:02)
  • 5 (2024-04-17 (水) 11:03:08)
  • 6 (2024-04-19 (金) 14:40:54)
  • 7 (2024-04-25 (木) 16:12:36)
  • 8 (2024-04-26 (金) 13:54:01)
  • 9 (2024-05-07 (火) 15:41:10)
  • 10 (2024-05-10 (金) 08:40:13)
  • 11 (2024-05-15 (水) 11:31:38)
  • 12 (2024-05-17 (金) 13:47:05)
  • 13 (2024-05-18 (土) 11:59:55)
  • 14 (2024-05-24 (金) 12:22:47)
  • 15 (2024-05-30 (木) 19:11:06)
  • 16 (2024-05-31 (金) 15:16:51)
  • 17 (2024-05-31 (金) 15:16:51)
  • 18 (2024-05-31 (金) 15:16:51)
  • 19 (2024-06-06 (木) 23:39:13)
  • 20 (2024-06-07 (金) 15:10:00)
  • 21 (2024-06-07 (金) 17:34:40)
  • 22 (2024-06-13 (木) 11:14:23)
  • 23 (2024-06-14 (金) 17:49:32)
  • 24 (2024-06-14 (金) 17:51:49)
  • 25 (2024-06-20 (木) 19:30:48)
  • 26 (2024-06-21 (金) 14:17:43)
  • 27 (2024-06-24 (月) 12:08:35)
  • 28 (2024-06-24 (月) 17:19:58)
  • 29 (2024-06-28 (金) 12:57:18)
  • 30 (2024-07-03 (水) 17:42:20)
  • 31 (2024-07-05 (金) 15:08:59)
  • 32 (2024-07-12 (金) 09:02:55)

---

FrontPage

日本語学講義Ⅱ（コーパス日本語学入門）†

• 学年暦
• 前期金曜4限：15:10-16:55
• Mail: ogiso@ogiso.net

• Moodleの授業ページ

• 中納言

オンラインで開催する授業回について†

• 下記の授業はオンライン（zoom）で実施します。原則として授業時間中にリアルタイムで行います（オンデマンドではありません）。
  • 5月10日【済】※録画はMoodle経由で確認してください。
  • 5月31日【済】
  • 6月07日【済】
  • 6月14日【済】
• 参加URLはMoodleの授業ページで確認してください。

06/28 第11回　VLOOKUP関数／テキストエディタ†

レポートテーマについて（続き）†

• 質問について（リアクションペーパー）
  • 検索方法（各コーパス・形態論情報・「中納言」）
  • 集計方法（Excel）
  • レポートテーマ

---

VLOOKUP関数の利用†

• 辞書引き集計
  • 自分で作った（または誰かが用意してくれた）辞書データ（コーパスの見出し語に対する追加情報）を利用する

• 授業資料/VLOOKUP関数参照

コーパスの語彙表†

• 語数表とは違ってどの語が何例ずつあるか集計した表（巨大な表で開くのがたいへんなので注意。本当はデータベースに入れて使ったほうがいい）

• BCCWJ
  • 短単位語彙表(Version 1.1) https://doi.org/10.15084/00003219
  • 長単位語彙表(Version 1.1) https://doi.org/10.15084/00003213
• CHJ
  • 『日本語歴史コーパス』統合語彙表（バージョン2024.03） https://doi.org/10.15084/0002000263
• SHC
  • 『昭和・平成書き言葉コーパス』短単位語彙表（バージョン2023.05） https://doi.org/10.15084/0002000043
• CEJC
  • https://www2.ninjal.ac.jp/conversation/cejc/cejc-wc.html

語彙表とコロケーション強度†

• 授業資料/コロケーション強度参照
  • 例：「玉葱」と共起する動詞
    • collocation_sample.xlsx

• （応用）VLOOKUPで、語彙表から調査対象語のコーパス中の頻度を引いてくる

テキストエディタの準備†

準備：VS Codeのインストールと設定†

1. VS codeのインストール ★次週までにこれだけはやっておく
   • https://code.visualstudio.com/
2. 拡張機能 Japanese Language Packの追加
   • 参考：https://web.yokkaichi-u.ac.jp/yucc/archives/1542
3. ファイルオープン時にエンコーディングを自動判別するよう設定
   • 参考：https://www.javadrive.jp/vscode/setting/index3.html

デモ†

Excelで中納言検索結果の列を丸ごとコピーし、エディタで整形した後、Excelに貼り付ける

• 前後文脈の整理（キーが現れた文以外を消す）
  • 前文脈：.+#*1　　後文脈：#.+
• 値の一部を取り出す
  • 品詞大分類：-.+　ジャンル大分類：/.+

※慣れると文字列関数よりも早くて便利

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

テキストデータと文字コード†

• 授業資料/テキストデータとは

• 練習用サンプルデータkokoto.txt

06/21 第10回　関数の利用／レポートテーマについて†

レポートテーマについて†

• リアクションペーパーで提出

集計用の列を自分で用意する（復習）†

• 応用：用法分類などなど

• 検索例：動植物名の表記
  • 文字種（ひらがな・カタカナ・漢字）別集計
    • フィルタ機能を上手く使って「文字種」列を作る
    • Macではフィルタの際に平仮名と片仮名が区別されないので、関数を使って文字コードで区別する必要がある（後述）

Excelの文字列関数†

集計に必要な情報をフィールドから切り出すことで集計に使う

• 授業資料/EXCELの文字列関数参照

• Mac版Excelと文字種
  • フィルタのオプションで平仮名と片仮名が区別されないので、文字コードで区別する
    • unicode関数 =unicode(文字列) で文字列の先頭文字の文字コード（Unicode、10進数）を返す

06/14 第9回　調整頻度の計算(2)／関数の利用／レポートテーマについて【オンライン】†

クロス集計表の調整頻度をまとめて計算†

• 例：「矢張り」（前回続き）

ランダムサンプリング調査†

• 大量に用例があり、調査内容からすべて対象にできない場合
• ランダムに並べ替え→先頭n例を調査対象に
  • ランダムな数字の列： =RAND()
  • ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される

• 例：「られる」「全然」

出現サンプル数の調査（重複の削除）†

用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合

• たとえば同一サンプル内での繰り返しが多いものを調査するとき（例：一人称代名詞など）
  • 「データ」→「重複の削除」
• 例：「俺・僕・私」

集計用の列を自分で用意する†

• 応用：用法分類などなど

• 検索例：蒲公英・向日葵・蓮華
  • 文字種（ひらがな・カタカナ・漢字）別集計
    • フィルタ機能を上手く使って「文字種」列を作る
    • Macではフィルタの際に平仮名と片仮名が区別されないので、関数を使って文字コードで区別する必要がある（後述）

レポートテーマについて†

• 普段から見聞きする言葉に気をつけるとともに、他の授業や書籍の情報も活用する
• ひとつの言葉から、同種の別の語や違う観点からの観察などへと膨らませていく

• 参考
  • 〈参考〉 国語に関する世論調査の結果について（文化庁）
  • 〈参考〉国語研・ことばの疑問
  • 〈参考〉NHK放送文化研究所・ことばの研究

• 例*2
  • 表記
    • 「雀」「すずめ」「スズメ」動植物名の表記・・・レジスター別用例数、文体差
    • 「卵」「玉子」「たまご」「タマゴ」・・・意味の違い？文体差？
    • 「栄養／営養」「仕合わせ／幸せ」
    • 「石鹸」「石けん」「せっけん」、「障碍」「障害」「障がい」・・・常用漢字表外字を含む漢語の表記の揺れ
  • 類義語・対義語
    • 「奇麗」と「美しい」・・・連体修飾する名詞の違い（→意味の違い）
    • 「うるさい」「やかましい」「さわがしい」「かしましい」「かまびすしい」類義語・・・共起語、文体差
    • 「男性」と「女性」（「男」と「女」）・・・語彙の非対称性、社会言語学的分析
  • 語形、語法
    • 「好ましい」「好もしい」・・・語形の揺れと文体差
    • 「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙草をのむ」の出現条件
    • 「婦人／女性」「普通／尋常」
  • 意味変化
    • 「美しい」「すごい」「やばい」、「米」

06/07 第8回　Excelによる検索結果の集計(2)／調整頻度の計算(1)【オンライン】†

ピボットテーブルの使い方（復習）†

• 例：CEJC 副詞「あまり」の語形（「やはり」との比較）
• 例：食うと食べる／CHJ・SHC・CEJC

複数の検索結果の結合†

• 複数回の検索結果をまとめて一つのピボットテーブルで集計したい場合の対処：表を下にくっつける

ショートカットキーを活用すると便利

• 授業資料/覚えておきたいショートカットキー

• Ctrl*3+End*4　ファイルの末尾/表のいちばん右下に移動
• Shift+Ctrl+End*5　〃範囲を選択

1. 表をコピー
   • Ctrl+Home*6（表の左上へ移動）, ↓（列名は選択しないようにするため1行下へ）,Shift+Ctrl+End, Ctrl+C（コピー）
2. コピーした表を既存の表の下に貼り付け
   • Ctrl+↓（表の一番下の行に移動）, ↓（1行下へ）, Ctrl+V（貼り付け）

• 例：SHC ワイン・葡萄酒　※単位数が違うので検索条件式でも一つの式では書けない

  キー: 語彙素="ワイン";
  キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;

一度にピボットテーブルで集計できるように一つの表にまとめる

• ※必ず表をくっつけること（空行を入れるとそこで表が切れていると認識される）

複数の検索結果を一つにまとめるもう一つの方法†

• 「検索条件式ごとに出力ファイルを分割する」を外して検索条件式で一度にダウンロード（ZIPファイルの中のcsvファイルを利用）
  • たくさんまとめて調べたい場合には特に便利

キー: 語彙素="ビール";
キー: 語彙素="ワイン";
キー: 語彙素="ブランデー";
キー: 語彙素="ウイスキー";
キー: 語彙素="焼酎";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;
キー: 語彙素="日本" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;

BCCWJ利用の落とし穴†

• BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない
  • レジスターによって母集団の年が違っている
    • レジスターの偏りを年代の偏りと勘違いしないこと
  • 30年あるのは白書・ベストセラー・国会会議録など一部のものだけ

どのコーパスにも向き不向きがあり、設計を踏まえた適切な利用が必要

• 例：「立ち上げる」

調整頻度の計算†

• もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない
  • →調整頻度の計算
    • cf.人口あたりの事故件数，１平方キロあたりの…etc.

• BCCWJの語数
  • https://clrd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
• 短単位語数表をピボットテーブルで集計
  • BCCWJ短単位語数表：http://doi.org/10.15084/00003226

調整頻度（pmw）†

• 調査対象がどのくらい出てきやすいかを比較するときには、どのコーパスでもコーパスのサイズ（分母となる語数）を考慮して調整頻度で測る必要がある。
  • 特にコーパスでサイズが統制されていないもの（レジスター、性別、年齢、etc.）で集計して比較する際には必須。
  • たんに複数の語の割合を比較する（％で見る）だけなら（これまでに見てきたように）調整頻度を出す必要はない。

• 粗頻度を総語数で割る
  • レジスターごとの語数データ：中納言ページの「語数について」のリンク先からExcel形式でダウンロードできる
    • 語数ファイルをピボットテーブルで集計して分母にする

• 調整頻度には100万語あたりの頻度（pmw）がよく使われる
  • 粗頻度/コーパス総語数*1000000
    • 数字が小さくなりすぎないようにするため

各コーパスの語数表†

• BCCWJ
  • 短単位語数表Excel http://doi.org/10.15084/00003226
  • 長単位語数表Excel http://doi.org/10.15084/00003224
• CEJC
• CHJ
• SHC

※語数表はコーパスの（サンプルごとの）語数をまとめた表。語彙表はコーパスの語彙（見出し語）ごとの使用頻度をまとめたもの

05/31 第7回　『中納言』の使い方（3）／Excelによる検索結果の集計(1)【オンライン】†

（復習）中納言検索課題†

• 中納言検索課題PDF

• やや複雑な条件指定
  • 動詞「食べる」の前方3語以内にくる名詞
  • 動詞「食べる」の前方3語以内にくる「を」で格表示された名詞
  • 「かもしれない」の前に来る動詞

周辺語検索（検索条件式のみ）†

• 「美しい」の前後3語以内に出現する名詞

キー: 品詞 LIKE "名詞%"
 AND 共起: 語彙素="美しい" BETWEEN -3 AND 3 WORDS FROM キー

検索結果のダウンロードとExcelでの利用†

• 並べ替え（ソート）
• フィルター（絞り込み）
  • テキストフィルター
  • 多重フィルター（複数の条件指定）
• ピボットテーブル★
  • ピボットグラフ

• 例：CEJCの副詞「矢張り」の語形
  • 性差
  • 年齢差

05/24 第6回　『中納言』の使い方（2）†

• アルバイト（自宅作業）について

復習†

• 検索語の条件指定
• 複数単位の組み合わせ
  • 文頭・文末からの指定

「中納言の使い方」†

• 中納言の使い方
• 3.7. 検索にあたっての注意点 ～

検索条件式の利用†

キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
 AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
 WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"

↓これだけでもいい（IN 以下の検索対象コーパスやWITH OPTIONS 以下は式で指定がない場合、検索画面での設定に従う）

キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
 AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー

OR検索†

キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
 AND 後方共起: (語彙素="言葉" OR 語彙素="言語") ON 1 WORDS FROM キー

位置情報と用例へのパーマリンク†

• 位置検索
  • サンプルID,開始位置*7のセットでコーパス上の用例の位置を一意に指定できる
  • 位置検索での区切り記号はカンマのほかタブやスペースでも可

• 用例へのpermalink
  • CHJ源氏冒頭の「やんごとなし」：https://chunagon.ninjal.ac.jp/chj/permalink?unit=short&position=20-%E6%BA%90%E6%B0%8F1010_00001,330

検索結果のダウンロード†

05/17 第5回　『中納言』の使い方†

（前回補足）形態素解析を試してみる†

• Web茶まめ
  • https://chamame.ninjal.ac.jp/
• 利用例：ニュースのテキストとブログやSNSのテキストの比較／BCCWJなどのコーパスとの比較

「中納言の使い方」†

• 中納言の使い方
  • 印刷したものを配布します。今後の授業で使うので持ってきてください。

05/10 第4回　コーパスの形態論情報【オンライン】†

• 今回はオンライン（Zoomによるリアルタイム講義）で行います。ZoomのアドレスはMoodle上で確認してください。

コーパスの形態論情報†

• BCCWJの形態論情報
  • https://clrd.ninjal.ac.jp/bccwj/morphology.html

• 短単位と長単位
  • （スライド）短単位と長単位 参照
  • 配布資料：長単位と短単位・資料 （単位切りの例）
• （参考）動画：コーパス検索システムの言語単位『短単位』 https://youtu.be/s5akpYOzNIU

• 「中納言」と短単位・長単位
  • 中納言の使い方（次回以降しばらく使います）

品詞体系†

• BCCWJ・CHJはUniDicの品詞体系にもとづく（BCCWJのために開発されたのがUniDic）
  • 授業資料/UniDicの品詞体系
  • 授業資料/UniDicの見出し語階層

コーパスへの形態論情報の付与†

• 短単位：MeCabとUniDicを使った形態素解析で情報付与
• 長単位：短単位を組み上げて情報付与

• 形態論情報とUniDic

参考資料†

• BCCWJ関連報告書 https://clrd.ninjal.ac.jp/bccwj/doc.html
  • 形態論情報規程集(PDF)　第4版 上・第4版 下

04/28 第3回　日本語コーパスの紹介（2）†

『日本語日常会話コーパス』『日本語歴史コーパス』『昭和・平成書き言葉コーパス』

「日本語日常会話コーパス」（CEJC）の構成†

• https://www2.ninjal.ac.jp/conversation/cejc.html
• https://www2.ninjal.ac.jp/conversation/cejc/design.html
• 『日本語日常会話コーパス』設計・構築・特徴（報告書）
  • https://www2.ninjal.ac.jp/conversation/report/report06.pdf

（以下スライド参照）

• https://moodle.univ.gakushuin.ac.jp/course/view.php?id=18365#section-1

「日本語歴史コーパス」（CHJ）の構成†

• https://clrd.ninjal.ac.jp/chj/

• 残された資料に限りがある（そもそも偏りがある）歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難

近世以前

残されている資料が少なく、できるだけ（可能なら全部）コーパスに入れたい

近世（後期）以降

偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい（作品など資料単位で調査したい）

• 『日本語歴史コーパス』の中身
  • 中世以前は重要な資料をまるごと対象に
  • 近世の洒落本・人情本：年代・著者（・地域）のバランスを取って作品単位でサンプリング

近代語コーパスの場合†

• 近代雑誌コーパス（現在はCHJの一部）
  • 多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
  • 発行年での大まかなサンプリング
    • 「太陽コーパス」：8年おきに12冊ずつを対象
  • その後の雑誌コーパスも8年おきに収録
    • 明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文藝春秋）
• 近代小説
  • 複数の有識者が日本語資料として選定・投票した結果（1980年代に作成した資料）をもとにサンプリング
  • https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi_2019b_e3.pdf

「昭和・平成書き言葉コーパス」（SHC）の構成†

• https://clrd.ninjal.ac.jp/shc/

• CHJの後を受けて現代までを通時的に研究するためのコーパス。1933年以降、8年おき11か年分（1933・1941・1949・1957・1965・1973・1981・1989・1997・2005・2013）を収録。

雑誌

1933～1957 年刊の『中央公論』と1965～2013 年刊の『文芸春秋』（8年おき11か年分）

ベストセラー書籍

1933年以降、8年おき11か年のベストセラー書籍

新聞

1933年以降、8年おき11か年の『読売新聞』奇数月2日の朝刊1冊

---

利用する側から見たコーパスの設計†

• BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある
  • サブコーパスのサイズを無視した比較
  • バランスのとれていない項目間の単純比較（BCCWJの年代、CHJの時代・ジャンル等）

04/19 第2回　日本語コーパスの紹介（1）†

『現代日本語書き言葉均衡コーパス』『昭和・平成書き言葉コーパス』

「中納言」授業アカウントの配布†

• 必要な人に一人ずつ配布します（授業期間＋αのみ利用可能）
• 個人用アカウントを取得した人はそちらを利用して下さい

コーパスを使ってみる†

• 細かい話は抜きで「中納言」でコーパスを使ってみよう
  • 『現代日本語書き言葉均衡コーパス』（BCCWJ）コアのみを対象に設定
  • 文字列検索
  • 短単位検索

コーパスとは†

（以下スライド参照）

• https://moodle.univ.gakushuin.ac.jp/mod/resource/view.php?id=74182

狭義のコーパス

言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。

• 現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）

広義のコーパス

コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。

• さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
  • 参考：「ひまわり」パッケージ
• Web上のデータ
  • 検索サイトの利用・WAC（Web as Corpus）

• この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」「日本語日常会話コーパス（SHC）」「日本語歴史コーパス（CHJ）」「昭和・平成書き言葉コーパス（SHC）」

コーパスへの要請†

• 大規模であること
• 各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
• 著作権の問題がないこと
• 言語研究に利用できる情報がついていること

「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサンプリング†

• https://clrd.ninjal.ac.jp/bccwj/

• 均衡コーパス（Balanced corpus）
  • 「バランスがとれている」「代表性」とは？
  • コーパスの母集団の設定とサンプリング
  • BCCWJのサブコーパス
  • 可変長と固定長

• BCCWJ2

---

• 著作権をめぐる問題

参考リンク†

• 英語のコーパス リファレンス
  • ブラウンコーパス マニュアル http://khnt.aksis.uib.no/icame/manuals/brown/
  • BNCリファレンスガイド http://www.natcorp.ox.ac.uk/docs/URG/
• 現代日本語書き言葉均衡コーパス（BCCWJ）
  • 現代日本語書き言葉均衡コーパス：概要
  • BCCWJの基本設計：https://clrd.ninjal.ac.jp/bccwj/basic-design.html
  • サンプリング：https://clrd.ninjal.ac.jp/bccwj/sampling.html
  • XMLによる電子化：https://clrd.ninjal.ac.jp/bccwj/XML.html

04/12 第1回　イントロダクション†

• 自己紹介
  • 大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/
    • 国立国語研究所言語資源開発センター https://clrd.ninjal.ac.jp/

授業内容等の確認†

• シラバスの確認
  • シラバス(G-Port)
  • この授業の目的
  • 授業の進め方
  • 評価方法

• 一部講義のオンライン実施について

• 受講者アンケート
  • 関心のある分野について
  • PC等のスキルについて

「中納言」アカウントについて†

• 「授業アカウント」について
  • 授業期間中、受講者が利用可能なアカウントをこちらで用意します。
• 個人用の「中納言」オンライン利用申込み
  • https://chunagon.ninjal.ac.jp/useraccount/register
  • 授業後も継続して利用するために、個人アカウントの申請をおすすめします。

授業で利用する主なソフトウェア・Webアプリケーション（予定）†

授業内容デモ†

• コーパスの利用
  • 「現代日本語書き言葉均衡コーパス（BCCWJ）」
  • 「日本語日常会話」
  • 「日本語歴史コーパス（CHJ）」
  • 「昭和・平成書き言葉コーパス（SHC）」
    • 中納言
• Excelによる集計（ピボットテーブル）
• 形態素解析
  • Web茶まめ

（参考動画）†

• 言語学レクチャーシリーズ　https://www.ninjal.ac.jp/education/videolecture/
  • 動画：コーパスを使って日本語の歴史を探る https://www.youtube.com/watch?v=dEi0kKdyrWk&list=PLZfZgVvFbh1a3zOK9Z2OJk6mA0olmcw3u