成蹊2024
日本語学講義D†
- 2024年度後期・金曜2限:10:40~12:20
- 教室:7号館303
12/13 XLOOKUP(旧VLOOKUP)関数†
XLOOKUP関数の利用†
辞書引き集計†
自分で作った(または誰かが用意してくれた)辞書データ(コーパスの見出し語に対する追加情報)を利用する
レポートテーマについて†
- 次回、レポートテーマ案を報告してもらいます
- 1月以降、全員に短いパワーポイントを使ったライトニングトークをしてもらいます
12/6 集計の前処理と文字列関数†
集計用の列を自分で用意する†
- 検索例:蒲公英・向日葵・蓮華
- (参考)Mac版Excelと文字種
- Macではフィルタの際に平仮名と片仮名が区別されないので、関数を使って文字コードで区別する
- =unicode(文字列) :文字列の先頭文字の文字コード(Unicode、10進数)を返す
- 応用:用法分類などなど
出現サンプル数の調査(重複の削除)†
用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合
- たとえば同一サンプル内での繰り返しが多いものを調査するとき(例:一人称代名詞など)
- 例:「俺・僕・私」
ランダムサンプリング調査†
- 大量に用例があり、調査内容からすべて対象にできない場合
- ランダムに並べ替え→先頭n例を調査対象に
- ランダムな数字の列: =RAND()
- ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される
Excelの文字列関数†
集計に必要な情報をフィールドから切り出すことで集計に使う
レポートテーマについて†
- 授業で習得したコーパスの利用方法を活用し、日本語について各自で設定したテーマについて論じなさい。
- ※原則として授業時に調査・発表した内容を扱うこと。
- 普段から見聞きする言葉に気をつけるとともに、他の授業や書籍の情報も活用する
- ひとつの言葉から、同種の別の語や違う観点からの観察などへと膨らませていく
※レポートテーマに関する小プレゼンテーションについて
- 1月以降、全員に短いパワーポイントを使ったライトニングトークをしてもらいます
11/29 コーパスの語数表と調整頻度†
「中納言」検索課題†
BCCWJ利用の落とし穴(設計を踏まえたコーパス利用の必要性)†
- BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない
- レジスターによって母集団の年が違っている
- 30年あるのは白書・ベストセラー・国会会議録など一部のものだけ
- もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない
- →調整頻度の計算
- cf.人口あたりの事故件数,1平方キロあたりの…etc.
- BCCWJの語数
- 短単位語数表をピボットテーブルで集計
調整頻度(pmw)†
- 粗頻度を総語数で割る
- レジスターごとの語数データ:中納言ページの「語数について」のリンク先からExcel形式でダウンロードできる
- 語数ファイルをピボットテーブルで集計して分母にする
- 調整頻度には100万語あたりの頻度(pmw)がよく使われる
- 例:BCCWJ「パソコン」「立ち上げる」
- ※用例数の増加と、コーパス中の年ごとのテキスト量の違いを区別
- 例:BCCWJ「矢張り」(語形別)
- ※割合を比較するだけなら調整頻度を出す必要はないが、どのくらい出てきやすいのかに注目するなら調整頻度が必要
コーパスの語数表†
(Excel基礎知識)セルの相対参照と絶対参照†
- A1:相対参照
- $A$1:絶対参照
- $A1:列のみ絶対参照
11/22 休み 欅祭†
11/15 第8回 Excelによる検索結果の集計(2)†
Excelの基礎†
- 並べ替え(ソート)
- フィルタ(絞り込み)
- テキストフィルタ
- 多重フィルター(複数の条件指定)
【重要】ピボットテーブルの使い方†
複数の検索結果の結合†
一度にピボットテーブルで集計できるように一つの表にまとめる
- ※必ず表をくっつけること(空行を入れるとそこで表が切れていると認識される)
ショートカットキーを活用すると便利
- Ctrl*1+End*2 ファイルの末尾/表のいちばん右下に移動
- Shift+Ctrl+End*3 〃範囲を選択
- 表をコピー
- Ctrl+Home*4(表の左上へ移動), ↓(列名は選択しないようにするため1行下へ),Shift+Ctrl+End, Ctrl+C(コピー)
- コピーした表を既存の表の下に貼り付け
- Ctrl+↓(表の一番下の行に移動), ↓(1行下へ), Ctrl+V(貼り付け)
または、「検索条件式ごとに出力ファイルを分割する」を外して検索条件式で一度にダウンロード(ZIPファイルの中のcsvファイルを利用)
たくさんまとめて調べたい場合には特に便利
キー: 語彙素="ワイン";
キー: 語彙素="ブランデー";
キー: 語彙素="ウイスキー";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;
キー: 語彙素="日本" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー;
11/8 第7回 「中納言」の使い方(3) / Excelによる検索結果の集計(1)†
位置情報と用例へのパーマリンク†
- 位置検索
- サンプルID,開始位置*5のセットでコーパス上の用例の位置を一意に指定できる
- 位置検索での区切り記号はカンマのほかタブやスペースでも可
検索条件式の利用†
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"
↓これだけでもいい(WITH OPTIONS 以下は式で指定がない場合、検索画面での設定に従う)
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
OR検索†
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: (語彙素="言葉" OR 語彙素="言語") ON 1 WORDS FROM キー
周辺語検索†
- 「美しい」の前後3語以内に出現する名詞(平安仮名文学)
キー: 品詞 LIKE "名詞%"
AND 共起: 語彙素="美しい" BETWEEN -3 AND 3 WORDS FROM キー
IN subcorpusName="平安-仮名文学" AND core="true"
「中納言」検索結果のダウンロードとExcelでの利用†
- ダウンロード
- Excelでインポート
11/1 第6回 「中納言」の使い方(2)†
- 3.4 複数単位の組み合わせ(共起・連接)から(p.6)
10/25 第5回 コーパスの形態論情報(2)/「中納言」の使い方(1)†
コーパスへの形態論情報の付与†
- 短単位:MeCabとUniDicを使った形態素解析で情報付与
- 長単位:Comainu(など)で短単位を組み上げる
形態素解析を試してみる†
形態素解析の仕組み†
「中納言」の使い方†
10/18 休み(四大学運動競技大会)†
10/11 第4回 コーパスの形態論情報†
利用する側から見たコーパスの設計†
- BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある
- サブコーパスのサイズを無視した比較
- バランスのとれていない項目間の単純比較(BCCWJの年代、CHJの時代・ジャンル等)
- 今後の授業の中で詳しく説明していきます
コーパスの形態論情報†
品詞体系†
- BCCWJ・CHJはUniDicの品詞体系にもとづく(BCCWJのために開発されたのがUniDic)
- コーパス検索アプリケーション「中納言」と短単位と長単位
参考資料†
コーパスへの形態論情報の付与†
- 短単位:MeCabとUniDicを使った形態素解析で情報付与
- 長単位:長単位解析器で短単位を組み上げる
形態素解析を試してみる†
形態素解析の仕組み†
「中納言」の使い方†
10/4 第3回 日本語コーパスの紹介(2)『日本語日常会話コーパス』『日本語歴史コーパス』『昭和・平成書き言葉コーパス』†
(前回補足)参考リンク†
- 英語のコーパス リファレンス
- 現代日本語書き言葉均衡コーパス(BCCWJ)
「日本語日常会話コーパス」(CEJC)の設計・構成†
「日本語歴史コーパス」(CHJ)の構成†
- 残された資料に限りがある(そもそも偏りがある)歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難
- 近世以前
- 残されている資料が少なく、できるだけ(可能なら全部)コーパスに入れたい
- 近世(後期)以降
- 偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい(作品など資料単位で調査したい)
- 『日本語歴史コーパス』の中身
- 中世以前は重要な資料をまるごと対象に
- 近世の洒落本・人情本:年代・著者(・地域)のバランスを取って作品単位でサンプリング
近代語コーパスの場合†
- 近代雑誌(現在はCHJの一部)
- 多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
- 発行年での大まかなサンプリング
- その後の雑誌コーパスも8年おきに収録
- 明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文藝春秋)
- 近代小説
「昭和・平成書き言葉コーパス」(SHC)の設計・構成†
9/27 第2回 コーパスとは 日本語コーパスの紹介(1)『現代日本語書き言葉均衡コーパス』†
「中納言」授業アカウント配布†
コーパスを使ってみる†
細かい話は抜きで「中納言」でコーパスを使ってみよう
- 『現代日本語書き言葉均衡コーパス』(BCCWJ)
- コアデータのみを対象とする指定(負荷軽減のため)
- 文字列検索
- 短単位検索
コーパスとは†
- 狭義のコーパス
- 言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
- 現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コーパス(CHJ)
- 広義のコーパス
- コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
- さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 / 国会会議録)
- Web上のデータ
- 検索サイトの利用
- WAC(Web as Corpus)
- この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス(BCCWJ)」「日本語日常会話コーパス(CEJC)」と「日本語歴史コーパス(CHJ)」「昭和・平成書き言葉コーパス(SHC)」
コーパスへの要請†
- 大規模であること
- 各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
- 著作権の問題がないこと
- 言語研究に利用できる情報がついていること
「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサンプリング†
- 均衡コーパス(Balanced corpus)
- 「バランスがとれている」「代表性」とは?
- コーパスの母集団の設定とサンプリング
- BCCWJのサブコーパス
- 可変長と固定長
09/20 第1回 イントロダクション†
授業内容等の確認†
授業内容デモ†
「中納言」アカウントについて†
授業で利用する主なソフトウェア・Webアプリケーション(予定)†