成蹊2014
- 後期・金曜2限
- ogiso＠ogiso.net ←＠を@に直してください
2014/11/28
BCCWJ利用の落とし穴
- BCCWJはあくまでも「現代語」のためのコーパスなので通時的な調査には向かない
- レジスターによって母集団の年が違っている
- 30年あるのは白書・ベストセラー・国会会議録など一部のものだけ
- もともとテキスト量の多いレジスターにたくさん用例があるからといって「そのレジスターでよく使われる」とはいえない→調整頻度の計算
- cf.人口あたりの事故件数，１平方キロあたりの…etc.
調整頻度の計算
- 粗頻度を総語数で割る
- レジスターごとの語数データ：中納言ページの「語数について」からExcelでダウンロードできる
- 調整頻度には100万語あたりの頻度（pmw）が比較的よく使われる
ランダムサンプリング調査(Excelでの集計・補足)
- 大量に用例があり、調査内容からすべて対象にできない場合
- ランダムに並べ替え→先頭n例を調査対象に
- ランダムな数字の列： =RAND()
- ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される
NINJAL LWP for BCCWJの紹介
レポートテーマについて
2014/11/21
検索の例つづき
検索の例
キー: (語彙素 LIKE "[男女]" AND (語彙素読み="オトコ" OR 語彙素読み = "オンナ"))
WITH OPTIONS unit="1" AND tglWords="20" AND limitToSelfSentence="0" AND
endOfLine="CRLF" AND tglKugiri="|" AND encoding="UTF-16LE" AND tglFixVariable="2"
キー: (語彙素="男性" OR 語彙素 = "女性")
WITH OPTIONS unit="1" AND tglWords="20" AND limitToSelfSentence="0" AND
endOfLine="CRLF" AND tglKugiri="|" AND encoding="UTF-16LE" AND tglFixVariable="2"
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: (語彙素 = "男性" OR 語彙素 = "女性") ON 1 WORDS FROM キー
WITH OPTIONS unit="2" AND tglWords="10" AND limitToSelfSentence="0" AND
endOfLine="CRLF" AND tglKugiri="|" AND encoding="UTF-16LE" AND tglFixVariable="2"
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: (語彙素 LIKE "[男女]" AND (語彙素読み="オトコ" OR 語彙素読み = "オンナ")) ON 1 WORDS FROM キー
WITH OPTIONS unit="2" AND tglWords="10" AND limitToSelfSentence="0" AND
endOfLine="CRLF" AND tglKugiri="|" AND encoding="UTF-16LE" AND tglFixVariable="2"
レポートテーマについて
- 次回までにレポートテーマを考えてくること（全員に聞きます）
- 普段から見聞きする言葉に気をつけるとともに、図書館も活用すること
- ひとつの言葉から、同種の別の語や違う観点からの観察などへと膨らませていく
表記
- 「雀」「すずめ」「スズメ」動植物名の表記・・・レジスター別用例数、文体差
- 「卵」「玉子」「たまご」「タマゴ」・・・意味の違い？文体差？
- 「斡旋」「あっ旋」「あっせん」、「石鹸」「石けん」「せっけん」・・・常用漢字表外字を含む漢語の表記の揺れ
類義語・対義語
- 「奇麗」と「美しい」・・・連体修飾する名詞の違い（→意味の違い）
- 「うるさい」「やかましい」「さわがしい」「かしましい」「かまびすしい」類義語・・・共起語、文体差
- 「男性」と「女性」（「男」と「女」）・・・語彙の非対称性、社会言語学的分析
語形、語法
- 「好ましい」「好もしい」・・・語形の揺れと文体差
- 「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙草をのむ」の出現条件
新語・意味変化
- 「断トツ」「定番」「夜ご飯」・・・新語の広がり
- 「役不足」「確信犯」・・・”誤用”と”正用”
2014/11/06
「中納言」の利用：形態論情報を使った検索
復習
- 「中納言」による検索
- Excelでインポート
- ピボットテーブルで集計
Excelの基礎
補足
2014/10/31
「中納言」の利用：形態論情報を使った検索
検索条件式
キー: 語彙素 = "奇麗" IN core="true" WITH OPTIONS unit="1" AND tglWords="20" AND tglKugiri="|" AND tglFixVariable="2"
検索結果をExcelで利用する
「中納言」検索結果のダウンロードとExcelでの利用
- ダウンロード
- Excelでインポート
【重要】ピボットテーブルの使い方
2014/10/24
「中納言」利用申込み
「中納言」の利用：形態論情報を使った検索
- 配布資料「『中納言』概説・実習」
- 1.３つの検索方法 ～ 2.7検索にあたっての注意点 まで
- 配布資料は次回以降も使いますので必ず持ってきてください。
2014/10/10
「中納言」利用申込み
- 先週申し込んだ人にはアカウントを発行しました。メールを確認してログインして下さい。
コーパスの形態論情報
短単位と長単位
品詞体系
UniDicの品詞体系
品詞分類
活用型
活用形
学校文法との主な違い
- 品詞
- 名詞-普通名詞-一般（大分類＞中分類＞小分類） のように階層化されている
- 名詞-普通名詞-サ変可能 のように可能性に基づく品詞付与がなされている
- 「形状詞」という品詞を立てている（＝形容動詞語幹） 例：「奇麗」「愉快」
- 活用型
- 下一段-ア行（大分類＞行分類（＞小分類）） のように階層化されている
- 五段-カ行-イク のように実際の活用にあわせてより細かく分類されている*1
- 漢語サ変動詞を名詞（語幹）と動詞（「する」）に分割（学校文法では全体で1語の動詞として扱う） 例：「研究|する」
- 動詞に助動詞「う」が付いた形を動詞の意志推量形（全体として1語）として扱う 例：「飲もう」
UniDic見出し語の階層構造
見出し語の階層構造
- 語彙素：辞書の見出しのレベル
- 語形：異語形を区別するレベル
- 書字形：異表記を区別するレベル
各レベルが持つ情報*2
- 語彙素レベル（語彙素・語彙素読み・語彙素細分類・語種）
- 語形レベル（語形・品詞・活用型・活用形）
- 書字形レベル（書字形・仮名形）
- 発音形レベル（発音形・アクセント）
※語彙素読み・語形・発音形はカタカナ表記。語彙素は漢字を多用した「代表表記」。
基本形と出現形
語形以下のレベルでは、基本形（辞書見出し形＝終止形）と出現形（実際の活用形）の別があり、活用語では違う形になる
例：アザラシが泳ぎます
- 語彙素レベル：（語彙素）泳ぐ （語彙素読み）オヨグ
- 語形レベル：（語形(基本形)）オヨグ，（語形出現形*3）オヨギ
- 書字形レベル：（書字形(基本形)）泳ぐ，（書字形出現形）泳ぎ
- 発音形レベル：（発音形(基本形)）オヨグ，（発音形出現形）オヨギ
見出し語の例とBCCWJ中の用例数
- 語彙素：矢張り（ヤハリ） 32887
- 語形：ヤハリ：19876
- 書字形：やはり：19781
- 書字形：ヤハリ：0
- 書字形：矢張り：93
- 書字形：矢張：2
- 語形：ヤッパリ：11373
- 書字形：やっぱり：11296
- 書字形：ヤッパリ：36
- 書字形：やつぱり：23
- 書字形：やッぱり：2
- 書字形：矢っ張：1
- 書字形：矢つ張：1
- 書字形：矢ッ張り：4
- 書字形：矢っ張り：5
- 書字形：矢つ張り：5
- 語形：ヤッパシ：96
- 語形：ヤッパ：1506
- 語形：ヤパ：35
- 語形：ヤパリ：1
形態論情報を活かした検索
2014/10/03
「中納言」利用申込み
- 申込用紙を回収します。
- 提出した人には仮アカウントを発給しました。メールを確認して本登録を行ってください。
日本語コーパスの紹介（2） コーパスの設計とサンプリング
- （スライド参照） 第2回コーパスの設計とサンプリング
- 均衡コーパス（Balanced corpus）
- 「バランスがとれている」とは？
- コーパスの母集団の設定とサンプリング
- BCCWJのサブコーパス
- 可変長と固定長
- 著作権をめぐる問題
参考リンク
- 英語のコーパス リファレンス
- 現代日本語書き言葉均衡コーパス（BCCWJ）
2014/9/26
「中納言」利用申込み
- 申込用紙を配布します。押印して次回、必ず持ってきてください。
現代日本語書き言葉均衡コーパス（BCCWJ）とは
- BCCWJについて、まず最小限のことを説明します。
日本語コーパスの紹介（1）コーパスとはどんなものか
- 狭義のコーパス
- 言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
- 広義のコーパス
- コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究にも利用可能。
- この授業で扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」
- 日本語コーパス以前のデータとBCCWJの違いは
2014/09/19
イントロダクション
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
