東京外大2016/JapanStudies1
をテンプレートにして作成
開始行:
[[東京外大2016]]
*Japan Studies 1:コーパス日本語学入門
-春学期・木曜4限
-ogiso@ogiso.net ←@を@に直してください
----
-[[コーパス検索アプリケーション「中納言」 https://chunago...
//
//ひまわり はとばす
//
***レポートについて
-〆切:7月21日(木)
-枚数:A4用紙で4枚以上~20枚以下
-メールで提出
**アクティブラーニング(第2回)
-国語研究所コーパス開発センター見学
-2016/7/14 13:30 一階ロビー集合
**2016/07/07 (最終回)
***レポートに向けた研究課題の検討・調査(2)
***質問対応
***UniDicと形態素解析
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
**2016/06/30
***アクティブラーニング課題に関するコメント
***Wordでレポートを書く
文書の構造化とWordの使い方(レポートの書き方)
-文書の構造化*
--スタイルと見出し
--ナビゲーション ウィンドウ(見出しマップ)の使い方
--章・節番号
-図表の貼り込み*
--「形式を選択して貼り付け」
--図表番号とキャプション
-脚注
--脚注と文末脚注
-相互参照
--節番号、図表番号と相互参照
--目次、図表目次
***レポートに向けた研究課題の検討・調査
**アクティブラーニング(第1回)
-「中納言」によるレポートテーマに関する語の検索、データ集...
**2016/06/23
***レポートテーマについて
-研究課題の発表
***コロケーション強度の話
-共起する語(AとB)を評価するとき、単純な用例数だけでは危険
--もともと頻度が高いもの同士のつながりは多くて当たり前だ...
コロケーション強度をはかるスコアには様々なものがあり、そ...
-ダイス係数
--=2×(ABの用例数/(Aの用例数+Bの用例数))
---=2*B5/(C$2+C5)
-tスコア
--=(ABの用例数 - (Aの用例数×Bの用例数/コーパスの総語...
---=B5-(C$2*C5/C$1)/SQRT(B5)
-MIスコア(相互情報量)
--=log[2] (ABの用例数×コーパスの総語数)/(Aの用例数×Bの...
---=LOG((B5*C$1)/(C$2*C5),2)
(例)
-例:「玉葱」と共起する(3語以内)動詞の場合
--AB= 「玉葱」~「炒める」の用例数:46
--A=「炒める」の用例数:2069
--B=「玉葱」の用例数:2087
--ダイス係数=2*(46/(2069+2087))=0.0221
-[[サンプルデータ collocation.xlsx>http://www.ogiso.net/w...
それぞれの数値の調べ方
-※用例数を求めるだけでいいが、「中納言」は用例を取得する...
--BCCWJの語彙表を使えば個々の語の検索は不要 http://pj.nin...
--検索する場合は、語彙リストをエディタで整形し、検索条件...
-「コーパスの総語数」は「語数について」のページを参照
-【参考資料】[[助動詞と上接動詞のコロケーション>https://d...
**2016/06/16
***調整頻度の計算
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度が比較的よく使われる
--粗頻度/総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
***ランダムサンプリング調査
--大量に用例があり、調査内容からすべて対象にできない場合
--ランダムに並べ替え→先頭n例を調査対象に
---ランダムな数字の列: =RAND()
---ランダムな数字の列をコピーして「値として貼り付ける」と...
***重複の削除
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-「データ」→「重複の削除」
***vlookupの使い方
-[[vlookup関数>授業資料/vlookup関数]]
***レポートテーマについて
-来週、レポートテーマについて全員に聞き、コメントします。...
**2016/06/09
-(配布資料)「中納言」検索課題
***テキストエディタと正規表現の応用
-前後文脈を整える
-インラインタグを活用する
***Excelの文字列関数とIF関数
-例:ジャンル(NDC)の整理
--先頭の文字を取り出す(NDCの一次区分(=類))
---=LEFT(<ジャンルのセル>,1)
--スラッシュで区切られた最初の部分(ジャンルの大分類)
---=LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)
-集計用に用意した列で文字列処理関数を利用する
--LEFT
--RIGHT
--MID
--LEN
--SEARCH
--SUBSTITUTE
-条件わけ:IF
-エラー対応:IFERROR
-応用例:品詞の大分類を使う
--=IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)
***BCCWJ利用の落とし穴
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数,1平方キロあたりの…etc.
--データ:語彙素「矢張り」 [[kwic-yahari.zip>https://www...
**2016/06/02
***「中納言」検索結果のダウンロードとExcelでの利用
+ダウンロード
+アーカイブの展開(解凍)
+Excelでインポート
***Excelの基礎
-並べ替え
--反転前文脈の使い方
-フィルタ
--テキストフィルタ
***【重要】ピボットテーブルの使い方
-ピボットテーブル
-ピボットグラフ
***複数の検索結果の結合
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する
-例:表記(ひらがな・かたかな・漢字)別集計
-例:用法分類
***質問対応
-自分の研究テーマのための検索方法の相談
**2016/05/26
//-資料「[[中納言の使い方>http://www.ogiso.net/wiki/index...
-資料「中納言の使い方」参照
***(復習)形態論情報を使った検索
***検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**2016/05/19
***短単位と長単位
-配布資料参照
***品詞体系と見出し語の階層
-BCCWJ,CHJはUniDicの品詞体系にもとづく
-[[授業資料/UniDicの品詞体系]]
-[[授業資料/UniDicの見出し語階層]]
***形態論情報を使った検索
-資料「中納言の使い方」参照
-検索例
--「時の経つにつれて」
--名詞+の+動詞連体形+につれて
**2016/05/12
***コーパスの段階
+電子テキスト:grep: 文字列(正規表現)検索
+構造化テキスト:[[ひまわり>http://www2.ninjal.ac.jp/lrc/...
+形態論情報付きコーパス:中納言、ChaKi など: 形態論情報...
***コーパスの設計とサンプリング
-''(スライド参照)''
--[[コーパスの設計とサンプリング>https://dl.dropboxuserco...
-均衡コーパス(Balanced corpus)
--「バランスがとれている」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
***「少納言」で正規表現を使う
-「現代日本語書き言葉均衡コーパス(BCCWJ)」
--[[少納言>http://shonagon.ninjal.ac.jp]]
---[[前後文脈の指定について>http://www.kotonoha.gr.jp/sho...
***BCCWJ「中納言」登録申請
-ユーザー登録の申請(new!) https://chunagon.ninjal.ac.j...
**2016/04/28
-復習
--サンプルデータ[[soseki2.zip>https://dl.dropboxuserconte...
--文字クラス、grep
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定(補集合)[^ ]
--繰り返し ? + *
--グループ化 ()
--or(論理和) |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ(外来語)の形容動詞語幹
-送りがなの揺れ(行う/行なう)
-会話文中("「"で始まる文中)の用例を検索する
-同一文中での共起
--全然~ない。
--もし~なら(ば)
***grepと置換でKWIC(CSVファイル)を作る(簡易版) [#u3ab2d...
-CSVファイルとは:テキストファイルで表を表現する
[[用語:CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC:KeyWord In Context
***タグ付き正規表現
-走[らりるれろ] でgrepした結果を置換するにはどうしたらい...
--次のように置換するととんでもないことに…
---検索文字列:走[らりるれろっ]
---置換文字列:★走[らりるれろっ]
-タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)...
-[[授業資料/タグつき正規表現]]
***検索文字列の中での後方参照 [#j9966c0d]
-検索語の中で\1を使う
--(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しに...
--(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
***最長一致の原則(greedy matching) [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例:''あ+'' → ''【\1】''
---ああああああああ → 【ああああああああ】
そのせいで…
--例:''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 → 【こんにちは」「さよう...
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1...
---「こんにちは」「さようなら」 → 【こんにちは】【さよう...
-よりかんたんに指定するには(最短一致,ものぐさ指定)
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に...
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現:http://sakura-editor.sourcefor...
-正規表現に関する本 [[amazonで検索>http://www.amazon.co....
#amazon(4873114500)
#amazon(4873113598)
#clear
**2016/04/21
-今回からUSBメモリを使います。
***テキストエディタ
-テキストデータ(青空文庫)の配布
---[[soseki2.zip>https://dl.dropboxusercontent.com/u/1346...
---[[aozoradoc2.zip>https://dl.dropboxusercontent.com/u/1...
--ダウンロードしてUSBメモリに展開(解凍)してください
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep
***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例:読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
***正規表現とは [#d216d4e0]
-''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字(メタ文字)を使って文字列の...
--エディタでは置換・検索・grepで利用できる (エディタ以...
--記号はすべて半角
--記号そのものを表す場合には\でエスケープする(特殊な意味...
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの補集合(それ以外の文字)[^ ]
**2016/04/14
-次回以降、USBメモリ(少なくとも2GB以上)を持ってきてくだ...
***「コーパス」について [#k44345b6]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
--さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫...
--Web上のデータ
---検索サイトの利用
---WAC(Web as Corpus)
***紙の資料からコーパスまで
+(紙の)本文
+(紙の)総索引(コンコーダンス)
+電子テキスト
+構造化テキスト
+形態論情報付きコーパス
***テキストファイル
-テキストデータとはどんなものか
--[[授業資料/テキストデータとは]]
--[[授業資料/テキストデータ紹介]](広義のコーパス)
-テキストエディタ
--[[授業資料/テキストエディタ]]
-サクラエディタのダウンロードとインストール
--[[サクラエディタのダウンロード:sakura2.zip>http://www.o...
---(参考) サクラエディタホームページ:http://sourceforge....
-zipファイルの展開(解凍)
--解凍しないままでも開けるが必ず解凍すること
-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号(ワープロ的行番号)と論理行番号(エディ...
-練習用サンプルデータ(漱石+芥川)
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin...
**2016/04/07
***イントロダクション/日本語コーパスの紹介
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
-コーパスとは
--[[国立国語研究所コーパス開発センター>http://pj.ninjal.a...
--[[形態素解析辞書UniDic>http://sourceforge.jp/projects/u...
-デモ
-「現代日本語書き言葉均衡コーパス(BCCWJ)」
--BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
--BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]]
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
-Excelによる集計(ピボットテーブル)
-シラバス確認
--この授業の目的
--授業の進め方
--評価方法
終了行:
[[東京外大2016]]
*Japan Studies 1:コーパス日本語学入門
-春学期・木曜4限
-ogiso@ogiso.net ←@を@に直してください
----
-[[コーパス検索アプリケーション「中納言」 https://chunago...
//
//ひまわり はとばす
//
***レポートについて
-〆切:7月21日(木)
-枚数:A4用紙で4枚以上~20枚以下
-メールで提出
**アクティブラーニング(第2回)
-国語研究所コーパス開発センター見学
-2016/7/14 13:30 一階ロビー集合
**2016/07/07 (最終回)
***レポートに向けた研究課題の検討・調査(2)
***質問対応
***UniDicと形態素解析
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
**2016/06/30
***アクティブラーニング課題に関するコメント
***Wordでレポートを書く
文書の構造化とWordの使い方(レポートの書き方)
-文書の構造化*
--スタイルと見出し
--ナビゲーション ウィンドウ(見出しマップ)の使い方
--章・節番号
-図表の貼り込み*
--「形式を選択して貼り付け」
--図表番号とキャプション
-脚注
--脚注と文末脚注
-相互参照
--節番号、図表番号と相互参照
--目次、図表目次
***レポートに向けた研究課題の検討・調査
**アクティブラーニング(第1回)
-「中納言」によるレポートテーマに関する語の検索、データ集...
**2016/06/23
***レポートテーマについて
-研究課題の発表
***コロケーション強度の話
-共起する語(AとB)を評価するとき、単純な用例数だけでは危険
--もともと頻度が高いもの同士のつながりは多くて当たり前だ...
コロケーション強度をはかるスコアには様々なものがあり、そ...
-ダイス係数
--=2×(ABの用例数/(Aの用例数+Bの用例数))
---=2*B5/(C$2+C5)
-tスコア
--=(ABの用例数 - (Aの用例数×Bの用例数/コーパスの総語...
---=B5-(C$2*C5/C$1)/SQRT(B5)
-MIスコア(相互情報量)
--=log[2] (ABの用例数×コーパスの総語数)/(Aの用例数×Bの...
---=LOG((B5*C$1)/(C$2*C5),2)
(例)
-例:「玉葱」と共起する(3語以内)動詞の場合
--AB= 「玉葱」~「炒める」の用例数:46
--A=「炒める」の用例数:2069
--B=「玉葱」の用例数:2087
--ダイス係数=2*(46/(2069+2087))=0.0221
-[[サンプルデータ collocation.xlsx>http://www.ogiso.net/w...
それぞれの数値の調べ方
-※用例数を求めるだけでいいが、「中納言」は用例を取得する...
--BCCWJの語彙表を使えば個々の語の検索は不要 http://pj.nin...
--検索する場合は、語彙リストをエディタで整形し、検索条件...
-「コーパスの総語数」は「語数について」のページを参照
-【参考資料】[[助動詞と上接動詞のコロケーション>https://d...
**2016/06/16
***調整頻度の計算
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度が比較的よく使われる
--粗頻度/総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
***ランダムサンプリング調査
--大量に用例があり、調査内容からすべて対象にできない場合
--ランダムに並べ替え→先頭n例を調査対象に
---ランダムな数字の列: =RAND()
---ランダムな数字の列をコピーして「値として貼り付ける」と...
***重複の削除
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-「データ」→「重複の削除」
***vlookupの使い方
-[[vlookup関数>授業資料/vlookup関数]]
***レポートテーマについて
-来週、レポートテーマについて全員に聞き、コメントします。...
**2016/06/09
-(配布資料)「中納言」検索課題
***テキストエディタと正規表現の応用
-前後文脈を整える
-インラインタグを活用する
***Excelの文字列関数とIF関数
-例:ジャンル(NDC)の整理
--先頭の文字を取り出す(NDCの一次区分(=類))
---=LEFT(<ジャンルのセル>,1)
--スラッシュで区切られた最初の部分(ジャンルの大分類)
---=LEFT(<ジャンルのセル>,SEARCH("/",<ジャンルのセル>)-1)
-集計用に用意した列で文字列処理関数を利用する
--LEFT
--RIGHT
--MID
--LEN
--SEARCH
--SUBSTITUTE
-条件わけ:IF
-エラー対応:IFERROR
-応用例:品詞の大分類を使う
--=IFERROR(LEFT(<品詞>,SEARCH("-",<品詞>)-1),<品詞>)
***BCCWJ利用の落とし穴
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数,1平方キロあたりの…etc.
--データ:語彙素「矢張り」 [[kwic-yahari.zip>https://www...
**2016/06/02
***「中納言」検索結果のダウンロードとExcelでの利用
+ダウンロード
+アーカイブの展開(解凍)
+Excelでインポート
***Excelの基礎
-並べ替え
--反転前文脈の使い方
-フィルタ
--テキストフィルタ
***【重要】ピボットテーブルの使い方
-ピボットテーブル
-ピボットグラフ
***複数の検索結果の結合
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+End, Home, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する
-例:表記(ひらがな・かたかな・漢字)別集計
-例:用法分類
***質問対応
-自分の研究テーマのための検索方法の相談
**2016/05/26
//-資料「[[中納言の使い方>http://www.ogiso.net/wiki/index...
-資料「中納言の使い方」参照
***(復習)形態論情報を使った検索
***検索条件式の利用
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**2016/05/19
***短単位と長単位
-配布資料参照
***品詞体系と見出し語の階層
-BCCWJ,CHJはUniDicの品詞体系にもとづく
-[[授業資料/UniDicの品詞体系]]
-[[授業資料/UniDicの見出し語階層]]
***形態論情報を使った検索
-資料「中納言の使い方」参照
-検索例
--「時の経つにつれて」
--名詞+の+動詞連体形+につれて
**2016/05/12
***コーパスの段階
+電子テキスト:grep: 文字列(正規表現)検索
+構造化テキスト:[[ひまわり>http://www2.ninjal.ac.jp/lrc/...
+形態論情報付きコーパス:中納言、ChaKi など: 形態論情報...
***コーパスの設計とサンプリング
-''(スライド参照)''
--[[コーパスの設計とサンプリング>https://dl.dropboxuserco...
-均衡コーパス(Balanced corpus)
--「バランスがとれている」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
***「少納言」で正規表現を使う
-「現代日本語書き言葉均衡コーパス(BCCWJ)」
--[[少納言>http://shonagon.ninjal.ac.jp]]
---[[前後文脈の指定について>http://www.kotonoha.gr.jp/sho...
***BCCWJ「中納言」登録申請
-ユーザー登録の申請(new!) https://chunagon.ninjal.ac.j...
**2016/04/28
-復習
--サンプルデータ[[soseki2.zip>https://dl.dropboxuserconte...
--文字クラス、grep
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定(補集合)[^ ]
--繰り返し ? + *
--グループ化 ()
--or(論理和) |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ(外来語)の形容動詞語幹
-送りがなの揺れ(行う/行なう)
-会話文中("「"で始まる文中)の用例を検索する
-同一文中での共起
--全然~ない。
--もし~なら(ば)
***grepと置換でKWIC(CSVファイル)を作る(簡易版) [#u3ab2d...
-CSVファイルとは:テキストファイルで表を表現する
[[用語:CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC:KeyWord In Context
***タグ付き正規表現
-走[らりるれろ] でgrepした結果を置換するにはどうしたらい...
--次のように置換するととんでもないことに…
---検索文字列:走[らりるれろっ]
---置換文字列:★走[らりるれろっ]
-タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)...
-[[授業資料/タグつき正規表現]]
***検索文字列の中での後方参照 [#j9966c0d]
-検索語の中で\1を使う
--(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しに...
--(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
***最長一致の原則(greedy matching) [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例:''あ+'' → ''【\1】''
---ああああああああ → 【ああああああああ】
そのせいで…
--例:''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 → 【こんにちは」「さよう...
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1...
---「こんにちは」「さようなら」 → 【こんにちは】【さよう...
-よりかんたんに指定するには(最短一致,ものぐさ指定)
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に...
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現:http://sakura-editor.sourcefor...
-正規表現に関する本 [[amazonで検索>http://www.amazon.co....
#amazon(4873114500)
#amazon(4873113598)
#clear
**2016/04/21
-今回からUSBメモリを使います。
***テキストエディタ
-テキストデータ(青空文庫)の配布
---[[soseki2.zip>https://dl.dropboxusercontent.com/u/1346...
---[[aozoradoc2.zip>https://dl.dropboxusercontent.com/u/1...
--ダウンロードしてUSBメモリに展開(解凍)してください
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep
***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例:読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
***正規表現とは [#d216d4e0]
-''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字(メタ文字)を使って文字列の...
--エディタでは置換・検索・grepで利用できる (エディタ以...
--記号はすべて半角
--記号そのものを表す場合には\でエスケープする(特殊な意味...
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの補集合(それ以外の文字)[^ ]
**2016/04/14
-次回以降、USBメモリ(少なくとも2GB以上)を持ってきてくだ...
***「コーパス」について [#k44345b6]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
--さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫...
--Web上のデータ
---検索サイトの利用
---WAC(Web as Corpus)
***紙の資料からコーパスまで
+(紙の)本文
+(紙の)総索引(コンコーダンス)
+電子テキスト
+構造化テキスト
+形態論情報付きコーパス
***テキストファイル
-テキストデータとはどんなものか
--[[授業資料/テキストデータとは]]
--[[授業資料/テキストデータ紹介]](広義のコーパス)
-テキストエディタ
--[[授業資料/テキストエディタ]]
-サクラエディタのダウンロードとインストール
--[[サクラエディタのダウンロード:sakura2.zip>http://www.o...
---(参考) サクラエディタホームページ:http://sourceforge....
-zipファイルの展開(解凍)
--解凍しないままでも開けるが必ず解凍すること
-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号(ワープロ的行番号)と論理行番号(エディ...
-練習用サンプルデータ(漱石+芥川)
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin...
**2016/04/07
***イントロダクション/日本語コーパスの紹介
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
-コーパスとは
--[[国立国語研究所コーパス開発センター>http://pj.ninjal.a...
--[[形態素解析辞書UniDic>http://sourceforge.jp/projects/u...
-デモ
-「現代日本語書き言葉均衡コーパス(BCCWJ)」
--BCCWJ[[少納言>http://shonagon.ninjal.ac.jp]]
--BCCWJ[[中納言>http://chunagon.ninjal.ac.jp]]
--[[Web茶まめ>http://chamame.ninjal.ac.jp]]
-Excelによる集計(ピボットテーブル)
-シラバス確認
--この授業の目的
--授業の進め方
--評価方法
ページ名: