清泉2020集中
をテンプレートにして作成
開始行:
*2020清泉女子大学 集中講義 [#u04c15ce]
-10:00 - 15:30
-オンライン(Zoom)
-学びの泉:[[授業ページ>https://izumi.seisen-u.ac.jp/camp...
-シラバス:[[清泉ポータル シラバス参照>https://portal.sei...
-日程
--8月18日(火)
--8月19日(水)
--8月20日(木)
--8月21日(金)
--9月7日(月)
------
#contents
------
*8月18日(火) [#s7e54b5b]
**第1回 イントロダクション [#l70c36fa]
***[[自己紹介]] [#b1b12793]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[コーパス開発センター>https://pj.ninjal.ac.jp/corpus_c...
***授業内容の紹介 [#hb480786]
***授業で利用する主なソフトウェア・Webアプリケーション [#...
|ソフトウェアの種類・名前|利用目的|h
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/l...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
***デモ [#s3c96af7]
--テキストエディタとgrep
--全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lr...
--[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://p...
---BCCWJ[[少納言>https://shonagon.ninjal.ac.jp/]]
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス(CHJ)」>https://pj.ninjal.ac.jp...
--Excelによる集計(ピボットテーブル)
--形態素解析
---[[Web茶まめ>https://chamame.ninjal.ac.jp]]
***シラバス確認 [#d7ce20bc]
-シラバス:[[清泉ポータル シラバス参照>https://portal.sei...
--この授業の目的
--授業の進め方
--評価方法
***受講者アンケート [#r2dcb5af]
-関心分野・時代
-PC歴
***国語研のコーパス利用申し込み(「中納言」) [#v2c9932d]
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
**第2回 電子化テキストとテキストエディタ [#h5298adf]
***文字コード [#g8eacf69]
-㋿(令和)の話
--[[授業資料/文字コード関連リンク]]
***テキストデータとは [#q080d5da]
-すべての基本、文字が並ぶだけのデータ
--[[授業資料/テキストデータとは]]
--バイナリファイルとテキストファイル
-TXT,CSV,HTM・・・
--ファイルの種類と拡張子 参考:[[拡張子辞典>https://www.s...
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B...
--[[授業資料/テキストデータ紹介]]
***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]
***サクラエディタのダウンロードとインストール [#bf5ea59f]
-★[[サクラエディタのダウンロード:https://github.com/sakur...
---(参考) サクラエディタホームページ:https://sakura-edit...
-インストールの手順
--ダウンロードしたzipファイルの中にあるsakura-install*.ex...
--exeファイルを右クリックして「セキュリティ」の右の「許可...
--ダブルクリックしてインストール
***テキストエディタを使ってみる [#zc42842b]
-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号(ワープロ的行番号)と論理行番号(エディ...
-練習用サンプルデータ(漱石+芥川)
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin...
-★サンプルデータ2(漱石・文末で改行)
--[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki...
***テキストエディタの基本 [#kc63a17a]
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep
***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***grepと置換でKWIC(CSVファイル)を作る(簡易版) [#u3ab2d...
-CSVファイルとは:テキストファイルで表を表現する
[[用語:CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC:KeyWord In Context
***参考:テキストデータ(青空文庫)の配布 [#bd04ed6f]
-[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7...
--必要な人のみダウンロードしてUSBメモリで持ち帰ってください
**第3回 テキストエディタと正規表現 [#k800eb2d]
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例:読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
***正規表現とは [#d216d4e0]
-''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字(メタ文字)を使って文字列の...
--エディタでは置換・検索・grepで利用できる (エディタ以...
--特殊な文字(メタ文字)はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする(特...
***正規表現のいろいろ [#q514651f]
-''[[授業資料/正規表現]]''
--文字クラス [ ]
--文字クラスの否定(補集合)[^ ]
--繰り返し ? + *
--グループ化 ()
--or(論理和) |
--文頭 ^、文末 $
------
*8月19日(水) [#xf0d599d]
**「中納言」申し込み状況の確認 [#p3f04665]
-ログインの確認
-https://chunagon.ninjal.ac.jp/
**第4回 正規表現の応用/タグ付き正規表現 [#l81fe819]
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ(外来語)の形容動詞語幹
-送りがなの揺れ(行う/行なう)
-会話文中("「"で始まる文中)の用例を検索する
-同一文中での共起
--全然~ない。
--もし~なら(ば)
***タグ付き正規表現とは [#qd746f67]
-走[らりるれろ] でgrepした結果を置換するにはどうしたらい...
--次のように置換するととんでもないことに…
---検索文字列:走[らりるれろっ]
---置換文字列:★走[らりるれろっ]
-タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)...
-[[授業資料/タグつき正規表現]]
***検索文字列の中での後方参照 [#j9966c0d]
-検索語の中で\1を使う
--(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しに...
--(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
***最長一致の原則(greedy matching) [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例:''あ+'' → ''【\1】''
---ああああああああ → 【ああああああああ】
そのせいで…
--例:''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 → 【こんにちは」「さよう...
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1...
---「こんにちは」「さようなら」 → 【こんにちは】【さよう...
-よりかんたんに指定するには(最短一致,ものぐさ指定)
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に...
-(参考)タグ付き正規表現の応用:[[grepと置換でKWICを作る...
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現:https://sakura-editor.github.i...
-正規表現に関する本 [[amazonで検索>http://www.amazon.co....
**第5回 全文検索ソフト「ひまわり」 [#q73807da]
***全文検索システム「ひまわり」について [#u543ed7f]
&ref(himawari_aozora.png,,50%);
-[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/...
--ただのテキストファイル(プレーンテキスト)ではなく、XML...
-[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp...
-[[ひまわり用「青空文庫」パッケージのダウンロードページ>h...
***「ひまわり」本体のインストール [#taa83497]
-[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp...
++ダウンロードしたファイルのセキュリティブロックを解除
++解凍後、フォルダごとUSBメモリにコピー
***「青空文庫パッケージ」のインストール [#q65dfc0e]
-青空文庫パッケージのダウンロード
++[[ひまわり用「青空文庫」パッケージのダウンロードページ>...
+USBメモリにコピーしたフォルダ内のhimawari.exeを起動
++Himawari画面上にダウンロードしたzipファイルをドラッグ&...
++しばらく待つと完了(数分から10分程度はかかる)
+要らなくなったUSBメモリ上の青空文庫パッケージzipファイル...
***「ひまわり」の使い方 [#of0bca27]
-ひまわりの動作確認
-検索方法の説明
--ひまわりの正規表現について([[授業資料/Himawariの正規表...
-振り仮名の検索
**第6回 Excelによる検索結果の集計(ピボットテーブル) [#a5...
***ひまわりの検索結果をExcelに [#ne2dbb61]
-検索結果のコピー
++すべて選択>コピー(列名を含む)
++Excelを起動して貼り付け
***Excelの基本操作 [#k6d831b9]
-並べ替え(ソート)
-フィルター(絞り込み)
--テキストフィルター
--多重フィルター(複数の条件指定)
-ピボットテーブル★
--ピボットグラフ
***ひまわり検索結果をExcelで扱う [#qa5d4c97]
-ピボットテーブルとピボットグラフ
--''例:「気持ち」「心持ち」''
--''例:「それきり」「それぎり」''
--例:「~的な」「~的の」
---※「目的」「標的」などをフィルタで除去
***生年代による集計(通時的変化) [#f3bb8246]
-文字列処理関数の利用
--例: =left(<文字列>,<文字数>)
---生年代: =left(<生年月日が入っているセル>,3)*10
-生年月日データの書式について
--「青空文庫」の生年月日が書式の自動変換でおかしくなるの...
---1900年以前の年月日は文字列、それ以降は日付として認識さ...
+Himawariで「すべて選択」後、「すべて選択」「コピー(列名...
+新しいExcelのシートで生年月日の列が貼り付けられることに...
+Excelに貼り付ける
***サンプリング調査 [#zfa5069a]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして値として貼り付けると数字...
***ひまわりで利用可能なデータについて [#p8928529]
-現代語のデータ
--国会会議録データ
--法令データベース
--口コミサイト
-[[近代語のデータ>http://www.ninjal.ac.jp/corpus_center/c...
--太陽コーパス
--近代女性雑誌コーパス
--明六雑誌コーパス
--国定高等小学読本
-古典文学作品のデータ
*8月20日(木) [#ie1ba41c]
**「ひまわり」復習・補足 [#s58155e8]
***分類用の列を作って集計する [#m6ba8a5a]
-入力用の列を作り手作業で意味分類する
--例:「新聞紙」の意味・用法の変化
---ランダムに並べ替えた後、できる範囲で意味分類を記入→ピ...
**第7回 日本語コーパスの紹介 [#g4e44235]
***コーパスとは [#t54768fa]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-この授業で扱うのは狭義のコーパス。中でも「現代日本語書き...
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-https://pj.ninjal.ac.jp/corpus_center/bccwj/
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://pj.ninjal.ac.jp/corpus_center/chj/
**第8回 Web版コーパス検索ツールの利用(1) [#edb3eca1]
***BCCWJ, CHJの検索ツール [#h491bc93]
-[[BCCWJ少納言>https://shonagon.ninjal.ac.jp]]
--登録不要
--文字列検索のみ
--500例まで表示
-[[中納言>https://chunagon.ninjal.ac.jp]](BCCWJ, CHJほか)
--要登録
--形態論情報を使った検索
--全件(一度に最大10万例まで)ダウンロード可
***コーパスの形態論情報:短単位と長単位 [#ecb15440]
-''(スライド参照)'' 短単位と長単位
-配布資料参照
***品詞体系と見出し語の階層 [#i59ec779]
-BCCWJ,CHJはUniDicの品詞体系にもとづく
-[[授業資料/UniDicの品詞体系]]
-[[授業資料/UniDicの見出し語階層]]
**第9回 Web版コーパス検索ツールの利用(2) [#s6627175]
***「中納言」の利用 [#v8cc2e34]
-資料「中納言の使い方」
--[[BCCWJ版「中納言の使い方」>https://docs.google.com/doc...
--[[CHJ版「中納言の使い方」>https://docs.google.com/docum...
***形態論情報を使った検索のまえに [#ud5a79ba]
-まずは文字列検索で確認する
***レポートテーマについて [#da8ed441]
-できるだけ、明日までにレポートテーマを考えてくること
*8月21日(金) [#q593459f]
**第10回 Web版コーパス検索ツールの利用(3) [#i3c722c9]
***形態論情報を使った検索 [#ke92454a]
-資料[[BCCWJ版「中納言の使い方」>https://docs.google.com/...
***検索条件式の利用 [#re063263]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**第11回 検索結果の集計と分析 [#jd0d1f48]
***「中納言」検索結果のダウンロードとExcelでの利用 [#lacc...
***Excelの基礎ふたたび(略) [#e7d3a548]
-並べ替え
--反転前文脈の使い方
-フィルタ
--テキストフィルタ
-ピボットテーブル
-ピボットグラフ
***複数の検索結果の結合 [#rcbbf5e2]
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する [#ndd8c72b]
-例:表記(ひらがな・かたかな・漢字)別集計
-例:用法分類
***「検索課題」 [#k3822f55]
--配付資料参照
**第12回 レポートテーマ探索と調査 [#u0286599]
-普段から見聞きする言葉に気をつけるとともに、図書館も活用...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
**現代語の場合の参考資料と例 [#cbfe98c9]
--[[〈参考〉 国語に関する世論調査の結果について(文化庁)...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
***表記 [#lcc23c11]
--「雀」「すずめ」「スズメ」動植物名の表記・・・レジスタ...
--「卵」「玉子」「たまご」「タマゴ」・・・意味の違い?文...
--「斡旋」「あっ旋」「あっせん」、「石鹸」「石けん」「せ...
***類義語・対義語 [#k3074faa]
--「奇麗」と「美しい」・・・連体修飾する名詞の違い(→意味...
--「うるさい」「やかましい」「さわがしい」「かしましい」...
--「男性」と「女性」(「男」と「女」)・・・語彙の非対称...
***語形、語法の変化・使い分け [#f036ad40]
--「好ましい」「好もしい」・・・語形の揺れと文体差
--「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙...
***新語、意味変化 [#z9285e8e]
--「断トツ」「定番」「夜ご飯」・・・新語の広がり
--「役不足」「確信犯」・・・”誤用”と”正用”
***検索の例 [#p5531325]
-男と女・男性と女性の非対称性 //[[データ kwic-MaleFemale...
--男性と女性
--男と女と形容詞
''&color(,yellow){9月7日までにレポートテーマを考えてくる...
*9月7日(月) [#e1bcd211]
**第13回 データの加工と集計 (Excel) [#r30b13be]
***出現サンプル数の調査(重複の削除) [#sd31554f]
用例数ではなく、用例が一つでも出現したサンプル(作品)の...
-たとえば一人称代名詞など、サンプル毎に偏って多数現れる語...
「データ」→「重複の削除」
***Excelの文字列関数とIF関数 [#ofb7b9e9]
-例:ジャンル(NDC)の整理
--先頭の文字を取り出す(NDCの一次区分(=類))
---=LEFT(&color(red){ジャンルのセル};,1)
--スラッシュで区切られた最初の部分(ジャンルの大分類)
---=LEFT(&color(red){ジャンルのセル};,SEARCH("/",&color(r...
-集計用に用意した列で文字列処理関数を利用する
--LEFT
--RIGHT
--MID
--LEN
--SEARCH
--SUBSTITUTE
-条件わけ:IF
-エラー対応:IFERROR
-応用例:品詞の大分類を使う
--=IFERROR(LEFT(&color(red){品詞};,SEARCH("-",&color(red)...
***【参考】 [[授業資料/EXCELの文字列関数]] [#f97261dd]
-[[授業資料/EXCELの文字列関数]]
-[[ジップの法則>http://ja.wikipedia.org/wiki/%E3%82%B8%E3...
***ランダムサンプリング調査(Excelでの集計)ふたたび [#jb35...
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
***BCCWJ利用の落とし穴 [#lb4d6166]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数,1平方キロあたりの…etc.
***調整頻度の計算 [#n30a8131]
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度(pmw)が比較的よく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
-例:[[kwic-yahari.zip>https://www.ogiso.net/wiki/index.p...
***発展(Excelの活用) [#b3f8ad8f]
-[[VLOOKUP関数>授業資料/VLOOKUP関数]]
**第14回 レポートテーマの確認と調査 [#o95d35bb]
***レポートテーマに関する調査と質問対応 [#lda64dda]
-考えてきたテーマについて、実際に用例を検索してレポート作...
-積極的に質問して下さい。
**第15回 Wordでレポートを書く(文書の構造化) [#g2955a4b]
***Wordを使ってレポートを書く [#h3b2bc21]
-図表の取り扱い
--「形式を選択して貼り付け」
--図表番号、キャプション
-''文書の構造化''
--章・節番号
--「スタイル」「ナビゲーション ウィンドウ」(見出しマップ...
-図表番号と相互参照
--脚注、文末脚注
--目次、図表目次
***レポートテーマに関する調査と質問対応 [#of47b703]
-考えてきたテーマについて、実際に用例を検索してレポート作...
-積極的に質問して下さい。
*レポート提出について [#ja592a74]
授業で紹介したコーパス・データとコンピュータの技術を用い...
-「学びの泉」で期限までに提出してください。
-分量:A4用紙で3~10枚(4枚以上を推奨)
-ファイルに氏名・学籍番号を明記すること。
--Wordファイルのサイズが大きくなりすぎる場合には、PDFファ...
''&color(,yellow){10月31日 締め切り};''
終了行:
*2020清泉女子大学 集中講義 [#u04c15ce]
-10:00 - 15:30
-オンライン(Zoom)
-学びの泉:[[授業ページ>https://izumi.seisen-u.ac.jp/camp...
-シラバス:[[清泉ポータル シラバス参照>https://portal.sei...
-日程
--8月18日(火)
--8月19日(水)
--8月20日(木)
--8月21日(金)
--9月7日(月)
------
#contents
------
*8月18日(火) [#s7e54b5b]
**第1回 イントロダクション [#l70c36fa]
***[[自己紹介]] [#b1b12793]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[コーパス開発センター>https://pj.ninjal.ac.jp/corpus_c...
***授業内容の紹介 [#hb480786]
***授業で利用する主なソフトウェア・Webアプリケーション [#...
|ソフトウェアの種類・名前|利用目的|h
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/l...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
***デモ [#s3c96af7]
--テキストエディタとgrep
--全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lr...
--[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://p...
---BCCWJ[[少納言>https://shonagon.ninjal.ac.jp/]]
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス(CHJ)」>https://pj.ninjal.ac.jp...
--Excelによる集計(ピボットテーブル)
--形態素解析
---[[Web茶まめ>https://chamame.ninjal.ac.jp]]
***シラバス確認 [#d7ce20bc]
-シラバス:[[清泉ポータル シラバス参照>https://portal.sei...
--この授業の目的
--授業の進め方
--評価方法
***受講者アンケート [#r2dcb5af]
-関心分野・時代
-PC歴
***国語研のコーパス利用申し込み(「中納言」) [#v2c9932d]
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
**第2回 電子化テキストとテキストエディタ [#h5298adf]
***文字コード [#g8eacf69]
-㋿(令和)の話
--[[授業資料/文字コード関連リンク]]
***テキストデータとは [#q080d5da]
-すべての基本、文字が並ぶだけのデータ
--[[授業資料/テキストデータとは]]
--バイナリファイルとテキストファイル
-TXT,CSV,HTM・・・
--ファイルの種類と拡張子 参考:[[拡張子辞典>https://www.s...
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B...
--[[授業資料/テキストデータ紹介]]
***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]
***サクラエディタのダウンロードとインストール [#bf5ea59f]
-★[[サクラエディタのダウンロード:https://github.com/sakur...
---(参考) サクラエディタホームページ:https://sakura-edit...
-インストールの手順
--ダウンロードしたzipファイルの中にあるsakura-install*.ex...
--exeファイルを右クリックして「セキュリティ」の右の「許可...
--ダブルクリックしてインストール
***テキストエディタを使ってみる [#zc42842b]
-テキストエディタの設定
--行の折り返し
--行番号表示
---スタイル行番号(ワープロ的行番号)と論理行番号(エディ...
-練習用サンプルデータ(漱石+芥川)
--[[sample.zip>http://www.ogiso.net/wiki/index.php?plugin...
-★サンプルデータ2(漱石・文末で改行)
--[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tki...
***テキストエディタの基本 [#kc63a17a]
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
--サブフォルダのgrep
***ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***grepと置換でKWIC(CSVファイル)を作る(簡易版) [#u3ab2d...
-CSVファイルとは:テキストファイルで表を表現する
[[用語:CSVファイル>http://e-words.jp/w/CSV.html]]
-KWIC:KeyWord In Context
***参考:テキストデータ(青空文庫)の配布 [#bd04ed6f]
-[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7...
--必要な人のみダウンロードしてUSBメモリで持ち帰ってください
**第3回 テキストエディタと正規表現 [#k800eb2d]
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例:読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
***正規表現とは [#d216d4e0]
-''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字(メタ文字)を使って文字列の...
--エディタでは置換・検索・grepで利用できる (エディタ以...
--特殊な文字(メタ文字)はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする(特...
***正規表現のいろいろ [#q514651f]
-''[[授業資料/正規表現]]''
--文字クラス [ ]
--文字クラスの否定(補集合)[^ ]
--繰り返し ? + *
--グループ化 ()
--or(論理和) |
--文頭 ^、文末 $
------
*8月19日(水) [#xf0d599d]
**「中納言」申し込み状況の確認 [#p3f04665]
-ログインの確認
-https://chunagon.ninjal.ac.jp/
**第4回 正規表現の応用/タグ付き正規表現 [#l81fe819]
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ(外来語)の形容動詞語幹
-送りがなの揺れ(行う/行なう)
-会話文中("「"で始まる文中)の用例を検索する
-同一文中での共起
--全然~ない。
--もし~なら(ば)
***タグ付き正規表現とは [#qd746f67]
-走[らりるれろ] でgrepした結果を置換するにはどうしたらい...
--次のように置換するととんでもないことに…
---検索文字列:走[らりるれろっ]
---置換文字列:★走[らりるれろっ]
-タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)...
-[[授業資料/タグつき正規表現]]
***検索文字列の中での後方参照 [#j9966c0d]
-検索語の中で\1を使う
--(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しに...
--(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
***最長一致の原則(greedy matching) [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例:''あ+'' → ''【\1】''
---ああああああああ → 【ああああああああ】
そのせいで…
--例:''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 → 【こんにちは」「さよう...
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1...
---「こんにちは」「さようなら」 → 【こんにちは】【さよう...
-よりかんたんに指定するには(最短一致,ものぐさ指定)
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に...
-(参考)タグ付き正規表現の応用:[[grepと置換でKWICを作る...
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現:https://sakura-editor.github.i...
-正規表現に関する本 [[amazonで検索>http://www.amazon.co....
**第5回 全文検索ソフト「ひまわり」 [#q73807da]
***全文検索システム「ひまわり」について [#u543ed7f]
&ref(himawari_aozora.png,,50%);
-[[全文検索システム「ひまわり」>http://www2.ninjal.ac.jp/...
--ただのテキストファイル(プレーンテキスト)ではなく、XML...
-[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp...
-[[ひまわり用「青空文庫」パッケージのダウンロードページ>h...
***「ひまわり」本体のインストール [#taa83497]
-[[ひまわり のダウンロードページ>http://www2.ninjal.ac.jp...
++ダウンロードしたファイルのセキュリティブロックを解除
++解凍後、フォルダごとUSBメモリにコピー
***「青空文庫パッケージ」のインストール [#q65dfc0e]
-青空文庫パッケージのダウンロード
++[[ひまわり用「青空文庫」パッケージのダウンロードページ>...
+USBメモリにコピーしたフォルダ内のhimawari.exeを起動
++Himawari画面上にダウンロードしたzipファイルをドラッグ&...
++しばらく待つと完了(数分から10分程度はかかる)
+要らなくなったUSBメモリ上の青空文庫パッケージzipファイル...
***「ひまわり」の使い方 [#of0bca27]
-ひまわりの動作確認
-検索方法の説明
--ひまわりの正規表現について([[授業資料/Himawariの正規表...
-振り仮名の検索
**第6回 Excelによる検索結果の集計(ピボットテーブル) [#a5...
***ひまわりの検索結果をExcelに [#ne2dbb61]
-検索結果のコピー
++すべて選択>コピー(列名を含む)
++Excelを起動して貼り付け
***Excelの基本操作 [#k6d831b9]
-並べ替え(ソート)
-フィルター(絞り込み)
--テキストフィルター
--多重フィルター(複数の条件指定)
-ピボットテーブル★
--ピボットグラフ
***ひまわり検索結果をExcelで扱う [#qa5d4c97]
-ピボットテーブルとピボットグラフ
--''例:「気持ち」「心持ち」''
--''例:「それきり」「それぎり」''
--例:「~的な」「~的の」
---※「目的」「標的」などをフィルタで除去
***生年代による集計(通時的変化) [#f3bb8246]
-文字列処理関数の利用
--例: =left(<文字列>,<文字数>)
---生年代: =left(<生年月日が入っているセル>,3)*10
-生年月日データの書式について
--「青空文庫」の生年月日が書式の自動変換でおかしくなるの...
---1900年以前の年月日は文字列、それ以降は日付として認識さ...
+Himawariで「すべて選択」後、「すべて選択」「コピー(列名...
+新しいExcelのシートで生年月日の列が貼り付けられることに...
+Excelに貼り付ける
***サンプリング調査 [#zfa5069a]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして値として貼り付けると数字...
***ひまわりで利用可能なデータについて [#p8928529]
-現代語のデータ
--国会会議録データ
--法令データベース
--口コミサイト
-[[近代語のデータ>http://www.ninjal.ac.jp/corpus_center/c...
--太陽コーパス
--近代女性雑誌コーパス
--明六雑誌コーパス
--国定高等小学読本
-古典文学作品のデータ
*8月20日(木) [#ie1ba41c]
**「ひまわり」復習・補足 [#s58155e8]
***分類用の列を作って集計する [#m6ba8a5a]
-入力用の列を作り手作業で意味分類する
--例:「新聞紙」の意味・用法の変化
---ランダムに並べ替えた後、できる範囲で意味分類を記入→ピ...
**第7回 日本語コーパスの紹介 [#g4e44235]
***コーパスとは [#t54768fa]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-この授業で扱うのは狭義のコーパス。中でも「現代日本語書き...
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-https://pj.ninjal.ac.jp/corpus_center/bccwj/
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題
***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://pj.ninjal.ac.jp/corpus_center/chj/
**第8回 Web版コーパス検索ツールの利用(1) [#edb3eca1]
***BCCWJ, CHJの検索ツール [#h491bc93]
-[[BCCWJ少納言>https://shonagon.ninjal.ac.jp]]
--登録不要
--文字列検索のみ
--500例まで表示
-[[中納言>https://chunagon.ninjal.ac.jp]](BCCWJ, CHJほか)
--要登録
--形態論情報を使った検索
--全件(一度に最大10万例まで)ダウンロード可
***コーパスの形態論情報:短単位と長単位 [#ecb15440]
-''(スライド参照)'' 短単位と長単位
-配布資料参照
***品詞体系と見出し語の階層 [#i59ec779]
-BCCWJ,CHJはUniDicの品詞体系にもとづく
-[[授業資料/UniDicの品詞体系]]
-[[授業資料/UniDicの見出し語階層]]
**第9回 Web版コーパス検索ツールの利用(2) [#s6627175]
***「中納言」の利用 [#v8cc2e34]
-資料「中納言の使い方」
--[[BCCWJ版「中納言の使い方」>https://docs.google.com/doc...
--[[CHJ版「中納言の使い方」>https://docs.google.com/docum...
***形態論情報を使った検索のまえに [#ud5a79ba]
-まずは文字列検索で確認する
***レポートテーマについて [#da8ed441]
-できるだけ、明日までにレポートテーマを考えてくること
*8月21日(金) [#q593459f]
**第10回 Web版コーパス検索ツールの利用(3) [#i3c722c9]
***形態論情報を使った検索 [#ke92454a]
-資料[[BCCWJ版「中納言の使い方」>https://docs.google.com/...
***検索条件式の利用 [#re063263]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**第11回 検索結果の集計と分析 [#jd0d1f48]
***「中納言」検索結果のダウンロードとExcelでの利用 [#lacc...
***Excelの基礎ふたたび(略) [#e7d3a548]
-並べ替え
--反転前文脈の使い方
-フィルタ
--テキストフィルタ
-ピボットテーブル
-ピボットグラフ
***複数の検索結果の結合 [#rcbbf5e2]
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓, ↓, Ctrl+V, Ctrl+Home
***集計用の列を自分で用意する [#ndd8c72b]
-例:表記(ひらがな・かたかな・漢字)別集計
-例:用法分類
***「検索課題」 [#k3822f55]
--配付資料参照
**第12回 レポートテーマ探索と調査 [#u0286599]
-普段から見聞きする言葉に気をつけるとともに、図書館も活用...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
**現代語の場合の参考資料と例 [#cbfe98c9]
--[[〈参考〉 国語に関する世論調査の結果について(文化庁)...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
***表記 [#lcc23c11]
--「雀」「すずめ」「スズメ」動植物名の表記・・・レジスタ...
--「卵」「玉子」「たまご」「タマゴ」・・・意味の違い?文...
--「斡旋」「あっ旋」「あっせん」、「石鹸」「石けん」「せ...
***類義語・対義語 [#k3074faa]
--「奇麗」と「美しい」・・・連体修飾する名詞の違い(→意味...
--「うるさい」「やかましい」「さわがしい」「かしましい」...
--「男性」と「女性」(「男」と「女」)・・・語彙の非対称...
***語形、語法の変化・使い分け [#f036ad40]
--「好ましい」「好もしい」・・・語形の揺れと文体差
--「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙...
***新語、意味変化 [#z9285e8e]
--「断トツ」「定番」「夜ご飯」・・・新語の広がり
--「役不足」「確信犯」・・・”誤用”と”正用”
***検索の例 [#p5531325]
-男と女・男性と女性の非対称性 //[[データ kwic-MaleFemale...
--男性と女性
--男と女と形容詞
''&color(,yellow){9月7日までにレポートテーマを考えてくる...
*9月7日(月) [#e1bcd211]
**第13回 データの加工と集計 (Excel) [#r30b13be]
***出現サンプル数の調査(重複の削除) [#sd31554f]
用例数ではなく、用例が一つでも出現したサンプル(作品)の...
-たとえば一人称代名詞など、サンプル毎に偏って多数現れる語...
「データ」→「重複の削除」
***Excelの文字列関数とIF関数 [#ofb7b9e9]
-例:ジャンル(NDC)の整理
--先頭の文字を取り出す(NDCの一次区分(=類))
---=LEFT(&color(red){ジャンルのセル};,1)
--スラッシュで区切られた最初の部分(ジャンルの大分類)
---=LEFT(&color(red){ジャンルのセル};,SEARCH("/",&color(r...
-集計用に用意した列で文字列処理関数を利用する
--LEFT
--RIGHT
--MID
--LEN
--SEARCH
--SUBSTITUTE
-条件わけ:IF
-エラー対応:IFERROR
-応用例:品詞の大分類を使う
--=IFERROR(LEFT(&color(red){品詞};,SEARCH("-",&color(red)...
***【参考】 [[授業資料/EXCELの文字列関数]] [#f97261dd]
-[[授業資料/EXCELの文字列関数]]
-[[ジップの法則>http://ja.wikipedia.org/wiki/%E3%82%B8%E3...
***ランダムサンプリング調査(Excelでの集計)ふたたび [#jb35...
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
***BCCWJ利用の落とし穴 [#lb4d6166]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数,1平方キロあたりの…etc.
***調整頻度の計算 [#n30a8131]
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度(pmw)が比較的よく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合の違いを比較するだけなら調整頻度を出す必要はない。
-例:[[kwic-yahari.zip>https://www.ogiso.net/wiki/index.p...
***発展(Excelの活用) [#b3f8ad8f]
-[[VLOOKUP関数>授業資料/VLOOKUP関数]]
**第14回 レポートテーマの確認と調査 [#o95d35bb]
***レポートテーマに関する調査と質問対応 [#lda64dda]
-考えてきたテーマについて、実際に用例を検索してレポート作...
-積極的に質問して下さい。
**第15回 Wordでレポートを書く(文書の構造化) [#g2955a4b]
***Wordを使ってレポートを書く [#h3b2bc21]
-図表の取り扱い
--「形式を選択して貼り付け」
--図表番号、キャプション
-''文書の構造化''
--章・節番号
--「スタイル」「ナビゲーション ウィンドウ」(見出しマップ...
-図表番号と相互参照
--脚注、文末脚注
--目次、図表目次
***レポートテーマに関する調査と質問対応 [#of47b703]
-考えてきたテーマについて、実際に用例を検索してレポート作...
-積極的に質問して下さい。
*レポート提出について [#ja592a74]
授業で紹介したコーパス・データとコンピュータの技術を用い...
-「学びの泉」で期限までに提出してください。
-分量:A4用紙で3~10枚(4枚以上を推奨)
-ファイルに氏名・学籍番号を明記すること。
--Wordファイルのサイズが大きくなりすぎる場合には、PDFファ...
''&color(,yellow){10月31日 締め切り};''
ページ名: