東大2016/コーパス言語学入門
をテンプレートにして作成
開始行:
*コーパス言語学入門・日本語コーパスの活用
-コーパス言語学入門(人文社会系研究科/基礎文化研究専攻言語...
-人文情報学特殊講義(文学部次世代人文学開発センター)
-言語学特殊講義(文学部言語文化学科言語学専修課程)
-冬学期 4限（14：55～16：40） 法文1号室 111教室
------
-[[コーパス検索アプリケーション中納言>http://chunagon.nin...
-[[国語研究所・コーパス開発センター>http://pj.ninjal.ac.j...
**2017/01/17
-授業改善アンケート
***復習と質問対応
***（おまけ）Wordでレポートや論文を書く
-''文書の構造化''
--章・節番号
--「スタイル」「ナビゲーション ウィンドウ」（見出しマップ...
-図表の取り扱い
--「形式を選択して貼り付け」
--図表番号、キャプション
-図表番号と相互参照
--脚注、文末脚注
--目次、図表目次
**2017/01/06
***レポートについて
-1/31〆切
-メールで提出
-授業で紹介したコーパス・手法・ツールを活用した言語研究（...
-A4で4枚以上
***コロケーション強度
-[[授業資料/コロケーション強度]]
***特徴語抽出
-[[授業資料/対数尤度比による特徴語抽出]]
***Rの利用
-[[授業資料/Rの利用]]
**2016/12/16
***形態素解析の実際
インストールと利用のデモ
-MeCab http://taku910.github.io/mecab/
-UniDic https://ja.osdn.net/projects/unidic/
#amazon(4254516029);
//-授業用アーカイブ（Windows用）ダウンロード
-[[Web茶まめ>http://chamame.ninjal.ac.jp/]]
#clear
***形態素解析結果の利用
-ピボットテーブルでの集計
テキストの性質に関する古典的な指標とその出し方
-語種比率
-TTR （Type Token Ratio）延べ異なり比
-名詞率
-MVR （Modifier / Verb Ratio）
--[[樺島忠夫, 寿岳章子『文体の科学』1965年>http://iss.ndl...
-平均文長
***形態素解析結果を利用するツール
-CaboCha (文節係り受け解析) https://taku910.github.io/cab...
-ChaKi.net （コーパス管理ツール）https://ja.osdn.net/proj...
***【補足】テキスト処理のレベルとツール
|~処理|形態素解析（短単位）→|（長単位解析）→|文節係り受け...
|~BCCWJの場合|MeCab（解析器）＋UniDic（辞書）→|Comainu→|→...
|~一般向けツール|MeCabなど（解析器）＋UniDicなど（辞書）→...
**2016/12/09
***自分用のミニコーパスを自分で作る
（テキストデータは別途用意するのを前提として）
-日本語コーパスのタグ付けのレベル
|テキストのレベル|ツール|必要な技術|h
|プレーンテキスト|テキストエディタ|grepと正規表現|
|構造化テキスト|ひまわり→ Excel|XML・マークアップの基礎，...
|形態素解析済みテキスト|UniDic+MeCab→中納言・ChaKi|形態素...
+プレーンテキスト：テキストエディタ（grepと正規表現） →...
+構造化テキスト（旧「太陽コーパス」など）：XMLと「ひまわ...
+形態素解析済みテキスト（BCCWJ，CHJなど）：「中納言」相当...
***XMLとひまわり
-[[XML>https://ja.wikipedia.org/wiki/Extensible_Markup_La...
--独自のタグが定義できる汎用のマークアップ言語
--多くのコーパスがXMLで記述されている。
---「現代日本語書き言葉均衡コーパス」（BCCWJ）も「日本語...
***ひまわり
-[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/...
-ただのテキストファイル（プレーンテキスト）ではなく、XML...
-基本的に文字列検索のみ（形態論情報付きデータの検索にはあ...
***全文検索システム「ひまわり」について
-[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp...
-ひまわり用データ
--近代雑誌のコーパス（現在ではCHJに包含）
---[[太陽コーパス>http://pj.ninjal.ac.jp/corpus_center/cm...
---[[近代女性雑誌コーパス>http://pj.ninjal.ac.jp/corpus_c...
---[[明六雑誌コーパス>http://pj.ninjal.ac.jp/corpus_cente...
---[[国民之友コーパス>http://pj.ninjal.ac.jp/corpus_cente...
--青空文庫
---[[ひまわり用「青空文庫」パッケージ>http://www2.ninjal....
--[[「国会会議録」パッケージ>http://www2.ninjal.ac.jp/lrc...
--その他
-テキストデータを「ひまわり」で利用できるようにするには
--[[XMLファイルを作る>http://www2.ninjal.ac.jp/lrc/index....
--[[インポート機能をつかって簡単に作る>http://www2.ninjal...
-「ひまわり」の検索結果をピボットテーブルで集計する
**2016/12/02
***調整頻度の計算
-粗頻度を総語数で割る
--レジスターごとの語数データ：中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度（pmw）が比較的よく使われる
--粗頻度/総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
--データ：語彙素「矢張り」 [[kwic-yahari.zip>https://dl....
***ランダムサンプリング調査
大量に用例があり、調査内容から全てをすべて対象にできない...
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列： =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-ex.「全然」
***重複の削除
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
***テキストエディタと正規表現
-前後文脈を整える
-インラインタグを活用する
-初心者におすすめの正規表現に対応したテキストエディタ（フ...
--Windows: Sakura Editor
---http://sakura-editor.sourceforge.net/
--Mac: Mi
---http://www.mimikaki.net/
***授業用サクラエディタのダウンロード
（正規表現ライブラリ同梱）
-[[sakura2.zip>https://dl.dropboxusercontent.com/u/134600...
サンプルテキスト
-[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600...
***正規表現
-''正規表現'' [[＞用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字（メタ文字）を使って文字列の...
--エディタでは置換・検索・grepで利用できる （エディタ以...
--特殊な文字（メタ文字）はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする（特...
-[[授業資料/正規表現]]
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現：http://sakura-editor.sourcefor...
-正規表現に関する本 [[amazonで検索>http://www.amazon.co....
#amazon(4873114500)
#amazon(4873113598)
#clear
**2016/11/25
***復習：「中納言」検索結果のダウンロードとExcelでの利用
***複数の検索結果の結合
-例：蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
[[授業資料/覚えておきたいショートカットキー]]
***集計用の列を自分で用意する
-例：表記（ひらがな・かたかな・漢字）別集計
-例：用法分類
***Excelの文字列関数とIF関数
-例：ジャンル（NDC）の整理
--先頭の文字を取り出す（NDCの一次区分（＝類））
---=LEFT(<ジャンルのセル>,1)
--スラッシュで区切られた最初の部分（ジャンルの大分類）
---=LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)
-集計用に用意した列で文字列処理関数を利用する
--LEFT
--RIGHT
--MID
--LEN
--SEARCH
--SUBSTITUTE
-条件わけ：IF
-エラー対応：IFERROR
-応用例：品詞の大分類を使う
--=IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)
***【補足】Excelの文字列関数とIF関数
--後文脈の「。」より後を消す（「。」がない場合はそのまま）
=IF(ISERROR(SEARCH("。",<後文脈>)),<後文脈>,LEFT(<後文脈...
--前文脈の「。」以前を消す（「。」がない場合はそのまま）(...
=RIGHT(<前文脈>,LEN(<前文脈>)-(FIND("~",SUBSTITUTE("。"&...
***BCCWJ利用の落とし穴
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数，１平方キロあたりの…etc.
-cf.語数について
**2016/11/18
***「中納言」の利用・続き
-配布資料：「中納言の使い方」
--検索条件式
--ピボットテーブル
***検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
-複数の検索条件式の利用
***「中納言」検索結果のダウンロードとExcelでの利用
-Excelの基礎
--並べ替え
---反転前文脈の使い方
--フィルタ
---テキストフィルタ
-''ピボットテーブル''の使い方
--ピボットテーブル
--ピボットグラフ
**2016/11/11
(休講)
[[シカゴに出張していました。>https://ceas.uchicago.edu/pa...
**2016/10/28
***補足
-UniDicとiPhoneなど
-近代雑誌コーパスの[[『日本語歴史コーパス』>http://pj.nin...
-11月11日 休講
--https://ceas.uchicago.edu/page/digital-humanities-works...
***「中納言」の利用続き
-配布資料：「中納言の使い方」
--複数単位の組み合わせ（共起・連接）～
**2016/10/21
（復習）
-[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与
-短単位：MeCabとUniDicを使った形態素解析で情報付与
-長単位：Comainu（など）で短単位を組み上げる
-BCCWJ関連報告書 http://pj.ninjal.ac.jp/corpus_center/bcc...
--形態論情報規程集(PDF) [[第4版 上>http://pj.ninjal.ac.j...
//***形態素解析
#include(授業資料/形態素解析,notitle)
***最近の動向
-KyTea
--http://www.phontron.com/kytea/index-ja.html
--点予測という系列ラベリングとは別の手法による形態素解析器
-JUMAN++
--http://nlp.ist.i.kyoto-u.ac.jp/index.php?JUMAN++
--ごく最近公開されたRNN（ディープラーニングの一種）を使っ...
***長単位解析器
-Comainu
--https://ja.osdn.net/projects/comainu/
***係り受け解析器
-CaboCha
--https://taku910.github.io/cabocha/
※（中納言で使える）BCCWJには係り受け情報は付いていない。
***参考図書
#amazon(4254516010,left);
#amazon(4254516029,left);
#amazon(479812852X,left);
#amazon(4339024511,left);
#amazon(4873114705,left);
#amazon(4339027510,left);
#clear
**2016/10/14
-配布資料：「中納言の使い方」（次回以降も使います）
***（前回補足）コーパスの設計とサンプリング
--BCCWJの基本設計：http://pj.ninjal.ac.jp/corpus_center/b...
--サンプリング：http://pj.ninjal.ac.jp/corpus_center/bccw...
***XMLによる電子化
--http://pj.ninjal.ac.jp/corpus_center/bccwj/XML.html
***形態論情報
--http://pj.ninjal.ac.jp/corpus_center/bccwj/morphology.h...
-短単位と長単位
--''（配付資料）''参照
--''（スライド）''参照
-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]...
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
**2016/10/7
-配布資料：「仮想講義」（前川）
***「コーパス」について [#k44345b6]
-OED corpus, n. http://www.oed.com/view/Entry/41873
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
--さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫...
--Web上のデータ
---検索サイトの利用
---WAC（Web as Corpus）
***紙の資料からコーパスまで (日本語研究資料の変遷)
+(紙の)本文
+(紙の)総索引（コンコーダンス）
+各種の電子テキスト
+構造化テキスト
--[[太陽コーパス>http://pj.ninjal.ac.jp/corpus_center/cmj...
+形態論情報付きコーパス
--[[現代日本語書き言葉均衡コーパス（BCCWJ）>http://pj.nin...
***コーパスに求められるもの
-コーパス以前の電子化日本語資料（とその限界）
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www....
--出版社による電子出版物（CD-ROM）
---新潮文庫の100冊 etc.
--新聞のデータベース（CD-ROM）
---毎日新聞CD-ROM etc.
--研究機関のデータベース
---国文学資料館 大系DB etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus
-コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***コーパスの設計とサンプリング
-''（スライド参照）''
-均衡コーパス（Balanced corpus）
--「バランスがとれている」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
***参考リンク
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>http://pj.ninjal...
--[[現代日本語書き言葉均衡コーパス：サンプリング>http://p...
**2016/9/30
***イントロダクション/日本語コーパスの紹介
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所コーパス開発センター>http://pj.ninjal.a...
-コーパス
--[[現代日本語書き言葉均衡コーパス（BCCWJ）>http://pj.nin...
--[[日本語歴史コーパス（CHJ）>http://pj.ninjal.ac.jp/corp...
--[[形態素解析辞書UniDic>http://sourceforge.jp/projects/u...
-デモ
--BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
--BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]]
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
--Excelによる集計（ピボットテーブル）
-シラバス確認
--この授業の目的
--授業の進め方
--評価方法
-受講者の関心・スキルについて
***「中納言」オンライン利用申込み
-https://chunagon.ninjal.ac.jp/useraccount/register
終了行:
*コーパス言語学入門・日本語コーパスの活用
-コーパス言語学入門(人文社会系研究科/基礎文化研究専攻言語...
-人文情報学特殊講義(文学部次世代人文学開発センター)
-言語学特殊講義(文学部言語文化学科言語学専修課程)
-冬学期 4限（14：55～16：40） 法文1号室 111教室
------
-[[コーパス検索アプリケーション中納言>http://chunagon.nin...
-[[国語研究所・コーパス開発センター>http://pj.ninjal.ac.j...
**2017/01/17
-授業改善アンケート
***復習と質問対応
***（おまけ）Wordでレポートや論文を書く
-''文書の構造化''
--章・節番号
--「スタイル」「ナビゲーション ウィンドウ」（見出しマップ...
-図表の取り扱い
--「形式を選択して貼り付け」
--図表番号、キャプション
-図表番号と相互参照
--脚注、文末脚注
--目次、図表目次
**2017/01/06
***レポートについて
-1/31〆切
-メールで提出
-授業で紹介したコーパス・手法・ツールを活用した言語研究（...
-A4で4枚以上
***コロケーション強度
-[[授業資料/コロケーション強度]]
***特徴語抽出
-[[授業資料/対数尤度比による特徴語抽出]]
***Rの利用
-[[授業資料/Rの利用]]
**2016/12/16
***形態素解析の実際
インストールと利用のデモ
-MeCab http://taku910.github.io/mecab/
-UniDic https://ja.osdn.net/projects/unidic/
#amazon(4254516029);
//-授業用アーカイブ（Windows用）ダウンロード
-[[Web茶まめ>http://chamame.ninjal.ac.jp/]]
#clear
***形態素解析結果の利用
-ピボットテーブルでの集計
テキストの性質に関する古典的な指標とその出し方
-語種比率
-TTR （Type Token Ratio）延べ異なり比
-名詞率
-MVR （Modifier / Verb Ratio）
--[[樺島忠夫, 寿岳章子『文体の科学』1965年>http://iss.ndl...
-平均文長
***形態素解析結果を利用するツール
-CaboCha (文節係り受け解析) https://taku910.github.io/cab...
-ChaKi.net （コーパス管理ツール）https://ja.osdn.net/proj...
***【補足】テキスト処理のレベルとツール
|~処理|形態素解析（短単位）→|（長単位解析）→|文節係り受け...
|~BCCWJの場合|MeCab（解析器）＋UniDic（辞書）→|Comainu→|→...
|~一般向けツール|MeCabなど（解析器）＋UniDicなど（辞書）→...
**2016/12/09
***自分用のミニコーパスを自分で作る
（テキストデータは別途用意するのを前提として）
-日本語コーパスのタグ付けのレベル
|テキストのレベル|ツール|必要な技術|h
|プレーンテキスト|テキストエディタ|grepと正規表現|
|構造化テキスト|ひまわり→ Excel|XML・マークアップの基礎，...
|形態素解析済みテキスト|UniDic+MeCab→中納言・ChaKi|形態素...
+プレーンテキスト：テキストエディタ（grepと正規表現） →...
+構造化テキスト（旧「太陽コーパス」など）：XMLと「ひまわ...
+形態素解析済みテキスト（BCCWJ，CHJなど）：「中納言」相当...
***XMLとひまわり
-[[XML>https://ja.wikipedia.org/wiki/Extensible_Markup_La...
--独自のタグが定義できる汎用のマークアップ言語
--多くのコーパスがXMLで記述されている。
---「現代日本語書き言葉均衡コーパス」（BCCWJ）も「日本語...
***ひまわり
-[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/...
-ただのテキストファイル（プレーンテキスト）ではなく、XML...
-基本的に文字列検索のみ（形態論情報付きデータの検索にはあ...
***全文検索システム「ひまわり」について
-[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp...
-ひまわり用データ
--近代雑誌のコーパス（現在ではCHJに包含）
---[[太陽コーパス>http://pj.ninjal.ac.jp/corpus_center/cm...
---[[近代女性雑誌コーパス>http://pj.ninjal.ac.jp/corpus_c...
---[[明六雑誌コーパス>http://pj.ninjal.ac.jp/corpus_cente...
---[[国民之友コーパス>http://pj.ninjal.ac.jp/corpus_cente...
--青空文庫
---[[ひまわり用「青空文庫」パッケージ>http://www2.ninjal....
--[[「国会会議録」パッケージ>http://www2.ninjal.ac.jp/lrc...
--その他
-テキストデータを「ひまわり」で利用できるようにするには
--[[XMLファイルを作る>http://www2.ninjal.ac.jp/lrc/index....
--[[インポート機能をつかって簡単に作る>http://www2.ninjal...
-「ひまわり」の検索結果をピボットテーブルで集計する
**2016/12/02
***調整頻度の計算
-粗頻度を総語数で割る
--レジスターごとの語数データ：中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度（pmw）が比較的よく使われる
--粗頻度/総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
--データ：語彙素「矢張り」 [[kwic-yahari.zip>https://dl....
***ランダムサンプリング調査
大量に用例があり、調査内容から全てをすべて対象にできない...
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列： =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-ex.「全然」
***重複の削除
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
***テキストエディタと正規表現
-前後文脈を整える
-インラインタグを活用する
-初心者におすすめの正規表現に対応したテキストエディタ（フ...
--Windows: Sakura Editor
---http://sakura-editor.sourceforge.net/
--Mac: Mi
---http://www.mimikaki.net/
***授業用サクラエディタのダウンロード
（正規表現ライブラリ同梱）
-[[sakura2.zip>https://dl.dropboxusercontent.com/u/134600...
サンプルテキスト
-[[soseki2.zip>https://dl.dropboxusercontent.com/u/134600...
***正規表現
-''正規表現'' [[＞用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字（メタ文字）を使って文字列の...
--エディタでは置換・検索・grepで利用できる （エディタ以...
--特殊な文字（メタ文字）はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする（特...
-[[授業資料/正規表現]]
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現：http://sakura-editor.sourcefor...
-正規表現に関する本 [[amazonで検索>http://www.amazon.co....
#amazon(4873114500)
#amazon(4873113598)
#clear
**2016/11/25
***復習：「中納言」検索結果のダウンロードとExcelでの利用
***複数の検索結果の結合
-例：蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓（列名はコピーしないようにする）,Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
[[授業資料/覚えておきたいショートカットキー]]
***集計用の列を自分で用意する
-例：表記（ひらがな・かたかな・漢字）別集計
-例：用法分類
***Excelの文字列関数とIF関数
-例：ジャンル（NDC）の整理
--先頭の文字を取り出す（NDCの一次区分（＝類））
---=LEFT(<ジャンルのセル>,1)
--スラッシュで区切られた最初の部分（ジャンルの大分類）
---=LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)
-集計用に用意した列で文字列処理関数を利用する
--LEFT
--RIGHT
--MID
--LEN
--SEARCH
--SUBSTITUTE
-条件わけ：IF
-エラー対応：IFERROR
-応用例：品詞の大分類を使う
--=IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)
***【補足】Excelの文字列関数とIF関数
--後文脈の「。」より後を消す（「。」がない場合はそのまま）
=IF(ISERROR(SEARCH("。",<後文脈>)),<後文脈>,LEFT(<後文脈...
--前文脈の「。」以前を消す（「。」がない場合はそのまま）(...
=RIGHT(<前文脈>,LEN(<前文脈>)-(FIND("~",SUBSTITUTE("。"&...
***BCCWJ利用の落とし穴
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数，１平方キロあたりの…etc.
-cf.語数について
**2016/11/18
***「中納言」の利用・続き
-配布資料：「中納言の使い方」
--検索条件式
--ピボットテーブル
***検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
-複数の検索条件式の利用
***「中納言」検索結果のダウンロードとExcelでの利用
-Excelの基礎
--並べ替え
---反転前文脈の使い方
--フィルタ
---テキストフィルタ
-''ピボットテーブル''の使い方
--ピボットテーブル
--ピボットグラフ
**2016/11/11
(休講)
[[シカゴに出張していました。>https://ceas.uchicago.edu/pa...
**2016/10/28
***補足
-UniDicとiPhoneなど
-近代雑誌コーパスの[[『日本語歴史コーパス』>http://pj.nin...
-11月11日 休講
--https://ceas.uchicago.edu/page/digital-humanities-works...
***「中納言」の利用続き
-配布資料：「中納言の使い方」
--複数単位の組み合わせ（共起・連接）～
**2016/10/21
（復習）
-[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与
-短単位：MeCabとUniDicを使った形態素解析で情報付与
-長単位：Comainu（など）で短単位を組み上げる
-BCCWJ関連報告書 http://pj.ninjal.ac.jp/corpus_center/bcc...
--形態論情報規程集(PDF) [[第4版 上>http://pj.ninjal.ac.j...
//***形態素解析
#include(授業資料/形態素解析,notitle)
***最近の動向
-KyTea
--http://www.phontron.com/kytea/index-ja.html
--点予測という系列ラベリングとは別の手法による形態素解析器
-JUMAN++
--http://nlp.ist.i.kyoto-u.ac.jp/index.php?JUMAN++
--ごく最近公開されたRNN（ディープラーニングの一種）を使っ...
***長単位解析器
-Comainu
--https://ja.osdn.net/projects/comainu/
***係り受け解析器
-CaboCha
--https://taku910.github.io/cabocha/
※（中納言で使える）BCCWJには係り受け情報は付いていない。
***参考図書
#amazon(4254516010,left);
#amazon(4254516029,left);
#amazon(479812852X,left);
#amazon(4339024511,left);
#amazon(4873114705,left);
#amazon(4339027510,left);
#clear
**2016/10/14
-配布資料：「中納言の使い方」（次回以降も使います）
***（前回補足）コーパスの設計とサンプリング
--BCCWJの基本設計：http://pj.ninjal.ac.jp/corpus_center/b...
--サンプリング：http://pj.ninjal.ac.jp/corpus_center/bccw...
***XMLによる電子化
--http://pj.ninjal.ac.jp/corpus_center/bccwj/XML.html
***形態論情報
--http://pj.ninjal.ac.jp/corpus_center/bccwj/morphology.h...
-短単位と長単位
--''（配付資料）''参照
--''（スライド）''参照
-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]...
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
**2016/10/7
-配布資料：「仮想講義」（前川）
***「コーパス」について [#k44345b6]
-OED corpus, n. http://www.oed.com/view/Entry/41873
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
--さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫...
--Web上のデータ
---検索サイトの利用
---WAC（Web as Corpus）
***紙の資料からコーパスまで (日本語研究資料の変遷)
+(紙の)本文
+(紙の)総索引（コンコーダンス）
+各種の電子テキスト
+構造化テキスト
--[[太陽コーパス>http://pj.ninjal.ac.jp/corpus_center/cmj...
+形態論情報付きコーパス
--[[現代日本語書き言葉均衡コーパス（BCCWJ）>http://pj.nin...
***コーパスに求められるもの
-コーパス以前の電子化日本語資料（とその限界）
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www....
--出版社による電子出版物（CD-ROM）
---新潮文庫の100冊 etc.
--新聞のデータベース（CD-ROM）
---毎日新聞CD-ROM etc.
--研究機関のデータベース
---国文学資料館 大系DB etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus
-コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***コーパスの設計とサンプリング
-''（スライド参照）''
-均衡コーパス（Balanced corpus）
--「バランスがとれている」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
***参考リンク
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>http://pj.ninjal...
--[[現代日本語書き言葉均衡コーパス：サンプリング>http://p...
**2016/9/30
***イントロダクション/日本語コーパスの紹介
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所コーパス開発センター>http://pj.ninjal.a...
-コーパス
--[[現代日本語書き言葉均衡コーパス（BCCWJ）>http://pj.nin...
--[[日本語歴史コーパス（CHJ）>http://pj.ninjal.ac.jp/corp...
--[[形態素解析辞書UniDic>http://sourceforge.jp/projects/u...
-デモ
--BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
--BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]]
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
--Excelによる集計（ピボットテーブル）
-シラバス確認
--この授業の目的
--授業の進め方
--評価方法
-受講者の関心・スキルについて
***「中納言」オンライン利用申込み
-https://chunagon.ninjal.ac.jp/useraccount/register
ページ名:
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
