東京外大2017/JapanStudies1 の履歴(No.27)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 東京外大2017/JapanStudies1 へ行く。
  • 1 (2017-04-04 (火) 11:08:35)
  • 2 (2017-04-06 (木) 13:36:51)
  • 3 (2017-04-13 (木) 13:10:24)
  • 4 (2017-04-20 (木) 14:11:37)
  • 5 (2017-04-20 (木) 14:12:19)
  • 6 (2017-04-20 (木) 14:12:19)
  • 7 (2017-04-26 (水) 05:37:13)
  • 8 (2017-04-27 (木) 10:44:08)
  • 9 (2017-04-27 (木) 14:00:19)
  • 10 (2017-04-27 (木) 14:00:19)
  • 11 (2017-05-11 (木) 16:35:45)
  • 12 (2017-05-24 (水) 19:22:17)
  • 13 (2017-05-25 (木) 13:49:28)
  • 14 (2017-05-25 (木) 13:49:28)
  • 15 (2017-06-01 (木) 13:57:02)
  • 16 (2017-06-07 (水) 13:25:42)
  • 17 (2017-06-08 (木) 14:03:55)
  • 18 (2017-06-08 (木) 17:06:15)
  • 19 (2017-06-15 (木) 13:39:04)
  • 20 (2017-06-16 (金) 04:03:28)
  • 21 (2017-06-22 (木) 09:51:39)
  • 22 (2017-06-22 (木) 16:51:11)
  • 23 (2017-06-22 (木) 16:51:11)
  • 24 (2017-06-27 (火) 14:06:41)
  • 25 (2017-06-29 (木) 14:23:28)
  • 26 (2017-07-06 (木) 14:28:14)
  • 27 (2017-07-10 (月) 15:36:37)

---

東京外大2017

Japan Studies 1：コーパス日本語学入門

• 春学期・木曜4限
• ogiso＠ogiso.net　←＠を@に直してください

---

• コーパス検索アプリケーション「中納言」 https://chunagon.ninjal.ac.jp/

レポートについて

• 〆切：7月13日(木)
• 枚数：A4用紙で4枚以上～20枚以下
• メールで提出

Active Learning (II)

• 7/11 (火) 14:00-15:30 国語研3Fセミナー室
• 梵天（NWJC） 講習会

• ※当日参加できない人もWeb上で受講が可能になりました。詳しくは小木曽までメールで連絡して下さい。

• 『国語研日本語ウェブコーパス』（NWJC）

2017/07/06

Active Learning (II)について

レポートテーマに関する調査と質問対応

Active Learning (I)　6/29〆切

レポートテーマの選定とコーパスの予備調査

• 中納言で利用可能なコーパスを使ったレポートテーマを検討し、その予備調査としてコーパスを検索し、検索結果・集計表を作成して、レポートテーマとともにメールで送付しなさい。

2017/06/29

Active Learningについて

コロケーション強度の話

• 授業資料/コロケーション強度

レポートテーマに関する調査と質問対応

2017/06/22

ランダムサンプリング調査(Excelでの集計・補足)

• 大量に用例があり、調査内容からすべて対象にできない場合
• ランダムに並べ替え→先頭n例を調査対象に
  • ランダムな数字の列： =RAND()
  • ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される

出現サンプル数の調査（重複の削除）

• 用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合
  • たとえば一人称代名詞など、サンプル毎に偏って多数現れる語の調査
  • 「データ」→「重複の削除」

VLOOKUPの利用

• 自作の辞書テーブルのようなものを使って用例を集計する
• VLOOKUP関数

• VLOOKUPを使った調整頻度の計算

【補足】Excelの文字列関数で前後文脈を整える

• 後文脈の「#」より後を消す（「#」がない場合はそのまま）

  =IF(ISERROR(SEARCH("#",<後文脈>)),<後文脈>,LEFT(<後文脈>,SEARCH("#",<後文脈>)))

• 前文脈の「#」以前を消す（「#」がない場合はそのまま）*1

  =RIGHT(<前文脈>,LEN(<前文脈>)-(FIND("~",SUBSTITUTE("#"&<前文脈>,"#","~",LEN("#"&<前文脈>)-LEN(SUBSTITUTE("#"&<前文脈>,"#",""))),1)-1))

中納言状での他のコーパスの利用

• 日本語歴史コーパス CHJ
• 日本語話し言葉コーパス CSJ
• 多言語母語の日本語学習者横断コーパス I-JAS
• 名大会話コーパス

2017/06/15

Excelの文字列関数とIF関数

• 例：ジャンル（NDC）の整理
  • 先頭の文字を取り出す（NDCの一次区分（＝類））
    • =LEFT(<ジャンルのセル>,1)
  • スラッシュで区切られた最初の部分（ジャンルの大分類）
    • =LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)

• 集計用に用意した列で文字列処理関数を利用する
  • LEFT
  • RIGHT
  • MID
  • LEN
  • SEARCH
  • SUBSTITUTE

• 条件わけ：IF

• エラー対応：IFERROR

• 応用例：品詞の大分類を使う
  • =IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)

BCCWJ利用の落とし穴

• BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない
  • レジスターによって母集団の年が違っている
    • レジスターの偏りを年代の偏りと勘違いしないこと
  • 30年あるのは白書・ベストセラー・国会会議録など一部のものだけ

• もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない→調整頻度の計算
  • cf.人口あたりの事故件数，１平方キロあたりの…etc.

調整頻度の計算

• 粗頻度を総語数で割る
  • レジスターごとの語数データ：中納言ページの「語数について」からExcelでダウンロードできる
    • 語数ファイルをピボットテーブルで集計して分母に

• 調整頻度には100万語あたりの頻度（pmw）がよく使われる
  • 粗頻度/総語数*1000000
    • 数字が小さくなりすぎないようにするため

• ※割合の違いを比較するだけなら調整頻度を出す必要はない。

2017/06/08

• （配布資料）「中納言」検索課題
  • 定型表現の揺れ
  • 表記（交ぜ書き・拡張新字体・印刷標準字体）
  • 語彙（抽象概念の尺度となる形容詞）
  • 文法（格助詞の選択）

複数の検索結果の結合

• 例：蒲公英・向日葵・菫

ショートカットキーを活用すると便利

• Ctrl+End　ファイルの末尾/表のいちばん右下に移動
• Shift+Ctrl+End　〃範囲を選択

1. 表をコピー
   • Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl+End, Ctrl+C
2. コピーした表を既存の表の下に貼り付け
   • Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home

集計用の列を自分で用意する

• 例：表記（ひらがな・かたかな・漢字）別集計
• 例：用法分類

2017/06/01

質問対応

• 自分の研究テーマのための検索方法の相談

「中納言」検索結果のダウンロードとExcelでの利用（復習）

1. ダウンロード
2. アーカイブの展開（解凍）
3. Excelでインポート

Excelの基礎

• 並べ替え
  • 反転前文脈の使い方
• フィルタ
  • テキストフィルタ

【重要】ピボットテーブルの使い方

• ピボットテーブル
• ピボットグラフ

複数の検索結果の結合

• 例：蒲公英・向日葵・菫

ショートカットキーを活用すると便利

• Ctrl+End　ファイルの末尾/表のいちばん右下に移動
• Shift+Ctrl+End　〃範囲を選択

1. 表をコピー
   • Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl+End, Ctrl+C
2. コピーした表を既存の表の下に貼り付け
   • Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home

集計用の列を自分で用意する

• 例：表記（ひらがな・かたかな・漢字）別集計
• 例：用法分類

2017/05/25

質問対応

• 自分の研究テーマのための検索方法の相談

(復習)形態論情報を使った検索

• 資料「中納言の使い方」参照

検索条件式の利用

キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
 AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
 WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1"
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF"

2017/05/18 休講

• 出張のため休講とします。

2017/05/11

前回の単位分割課題

• 短単位・長単位分割の解答

形態論情報を使ったコーパスの検索

• 配布資料「中納言の使い方」参照
  • この資料は次回以降も使いますので持ってきてください。

2017/04/27

コーパスの形態論情報：短単位と長単位

• 配布資料参照

品詞体系と見出し語の階層

• BCCWJ,CHJはUniDicの品詞体系にもとづく

• 授業資料/UniDicの品詞体系
• 授業資料/UniDicの見出し語階層

形態論情報を使った検索

• 例

（参考）Web茶まめ

http://chamame.ninjal.ac.jp/

2017/04/20

「中納言」オンライン利用申込み

• https://chunagon.ninjal.ac.jp/useraccount/register

コーパスの設計とサンプリング

• （スライド参照）　第2回コーパスの設計とサンプリング

• 均衡コーパス（Balanced corpus）
  • 「バランスがとれている」「代表性」とは？
  • コーパスの母集団の設定とサンプリング
  • BCCWJのサブコーパス
  • 可変長と固定長
• 著作権をめぐる問題

参考リンク

• 英語のコーパス リファレンス
  • ブラウンコーパス マニュアル http://www.hit.uib.no/icame/brown/bcm.html
  • BNCリファレンスガイド http://www.natcorp.ox.ac.uk/docs/URG/
• 現代日本語書き言葉均衡コーパス（BCCWJ）
  • 現代日本語書き言葉均衡コーパス：概要
  • 現代日本語書き言葉均衡コーパス：サンプリング

2017/04/13

「コーパス」について†

狭義のコーパス

言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。

• 現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）

広義のコーパス

コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能。

• さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
• Web上のデータ
  • 検索サイトの利用
  • WAC（Web as Corpus）

• この授業で扱うのは主に狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」が中心
• 日本語コーパス以前のデータとBCCWJの違いは
  • cf. スライド

紙の資料からコーパスまで

1. (紙の)本文
2. (紙の)総索引（コンコーダンス）
3. 電子テキスト
4. 構造化テキスト
5. 形態論情報付きコーパス

現代日本語書き言葉均衡コーパス（BCCWJ）とは

• BCCWJについて、まず最小限のことを説明します。

• BCCWJ少納言
  • 登録不要
  • 文字列検索のみ
  • 500例まで表示
• BCCWJ中納言
  • 要登録
  • 形態論情報を使った検索
  • 全件（一度に最大10万例まで）ダウンロード可

「現代日本語書き言葉均衡コーパス（BCCWJ）」

• BCCWJ少納言

「中納言」オンライン利用申込み

• https://chunagon.ninjal.ac.jp/useraccount/register

2017/04/06

イントロダクション／日本語コーパスの紹介

• 自己紹介
  • 大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/
• コーパスとは
  • 国立国語研究所コーパス開発センター

• デモ
  • 「現代日本語書き言葉均衡コーパス（BCCWJ）」
    • BCCWJ少納言
    • BCCWJ中納言
  • Web茶まめ
  • Excelによる集計（ピボットテーブル）

• シラバス確認
  • この授業の目的
  • 授業の進め方
  • 評価方法