清泉2018集中 の履歴(No.7)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 清泉2018集中 へ行く。
  • 1 (2018-07-26 (木) 15:10:47)
  • 2 (2018-07-29 (日) 20:06:28)
  • 3 (2018-07-29 (日) 23:23:05)
  • 4 (2018-07-30 (月) 15:36:53)
  • 5 (2018-07-31 (火) 06:55:17)
  • 6 (2018-07-31 (火) 09:55:38)
  • 7 (2018-07-31 (火) 09:58:32)
  • 8 (2018-07-31 (火) 15:31:10)
  • 9 (2018-08-01 (水) 05:10:10)
  • 10 (2018-08-01 (水) 13:07:29)
  • 11 (2018-08-02 (木) 09:52:31)
  • 12 (2018-08-02 (木) 15:31:26)
  • 13 (2018-08-03 (金) 13:06:49)

---

FrontPage

2018清泉女子大学 集中講義

• 10:00 - 15:30
• 412教室

• シラバス：清泉ポータル シラバス参照

「ひまわり」データを持ち帰りたい人（特に近代文学に関心のある人）は明日（7月31日）、USBメモリ（空き２GB）を持ってきてください。

---

---

7月30日(月)

第1回 イントロダクション

自己紹介

• 大学共同利用機関法人人間文化研究機構 国立国語研究所 http://www.ninjal.ac.jp/
• コーパス開発センター

授業内容の紹介

授業で利用する主なソフトウェア・Webアプリケーション†

デモ

• テキストエディタとgrep
• 全文検索システムひまわり

• 「現代日本語書き言葉均衡コーパス（BCCWJ）」
  • BCCWJ少納言
  • 中納言
• Excelによる集計（ピボットテーブル）
• 形態素解析
  • Web茶まめ

シラバス確認

• シラバス：清泉ポータル シラバス参照
  • この授業の目的
  • 授業の進め方
  • 評価方法

受講者アンケート

• 関心分野・時代
• PC歴

国語研のコーパス利用申し込み（「中納言」）

• 「中納言」オンライン利用申込み
  • https://chunagon.ninjal.ac.jp/useraccount/register

第2回 電子化テキストとテキストエディタ

テキストデータとは

• すべての基本、文字が並ぶだけのデータ
  • 授業資料/テキストデータとは
  • バイナリファイルとテキストファイル
• TXT,CSV,HTM・・・
  • ファイルの種類と拡張子 参考：拡張子辞典
  • 拡張子(wikipedia)

• 授業資料/テキストデータ紹介

テキストエディタ†

• テキストエディタとはどんなものか
  • 授業資料/テキストエディタ

• サクラエディタのダウンロードとインストール
  • ★サクラエディタのダウンロード:sakura2.zip
    • (参考) サクラエディタホームページ：http://sourceforge.net/projects/sakura-editor/

準備

• zipファイルの展開（解凍）
  • 解凍しないままでも開けるが必ず解凍すること

• テキストエディタの設定
  • 行の折り返し
  • 行番号表示
    • スタイル行番号（ワープロ的行番号）と論理行番号（エディタ的行番号）

• 練習用サンプルデータ（漱石）
  • soseki2.zip

テキストエディタの基本

• 検索・置換、grep
  • 検索で初出行を調べる
  • 置換で用例数を数える
  • grepで用例リストを作る
  • タグジャンプで文脈を確認する
  • サブフォルダのgrep

ショートカットキー†

• 授業資料/覚えておきたいショートカットキー

grepと置換でKWIC(CSVファイル)を作る（簡易版）†

• CSVファイルとは：テキストファイルで表を表現する 用語：CSVファイル
• KWIC：KeyWord In Context

第3回 テキストエディタと正規表現　

正規表現を使ってみる†

• 文字クラス
  • 例：読[まみむめもん]
    • 半角ブラケットの中に文字を並べる→並べた文字いずれか1文字

正規表現とは†

• 正規表現　＞用語
  • 文字を表すための特殊な文字（メタ文字）を使って文字列のパターンを表現する
  • エディタでは置換・検索・grepで利用できる　（エディタ以外にもさまざまなアプリケ－ションやコンピュータ言語で利用されている）
  • 特殊な文字（メタ文字）はすべて半角

正規表現のいろいろ†

• 授業資料/正規表現
  • 文字クラス [ ]
  • 文字クラスの否定（補集合）[^ ]
  • 繰り返し ? + *
  • グループ化 ()
  • or（論理和） |
  • 文頭 ^、文末 $

---

「ひまわり」データを持ち帰りたい人（特に近代文学に関心のある人）は明日、USBメモリ（空き２GB）を持ってきてください。

7月31日(火)

「中納言」申し込み状況の確認

• ログインの確認
• https://chunagon.ninjal.ac.jp/

前回補足

正規表現の応用†

• カタカナ語
  • カタカナ（外来語）の形容動詞語幹
• 送りがなの揺れ（行う／行なう）
• 会話文中（"「"で始まる文中）の用例を検索する
• 同一文中での共起
  • 全然～ない。
  • もし～なら（ば）

青空文庫のテキストデータ（全）

• aozoradoc2.zip（青空文庫全テキスト・参考）
  • 必要な人のみダウンロードしてUSBメモリで持ち帰ってください

第4回 タグ付き正規表現

タグ付き正規表現とは

• 走[らりるれろ] でgrepした結果を置換するにはどうしたらいいか
  • 次のように置換するととんでもないことに…
    • 検索文字列：走[らりるれろっ]
    • 置換文字列：★走[らりるれろっ]
• タグ付き正規表現・カッコ（半角丸カッコ）と\1（\2，\3…）を使う
• 授業資料/タグつき正規表現

検索文字列の中での後方参照†

• 検索語の中で\1を使う
  • (..)\1 「ころころ」「毎日毎日」など二文字の繰り返しにマッチ
  • (.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ

最長一致の原則（greedy matching）†

• 正規表現は、パターンが一致する最も長い範囲にマッチする
  • 例：あ+ → 【\1】
    • ああああああああ →　【ああああああああ】 そのせいで…
  • 例：「(.+)」 → 【\1】
    • 「こんにちは」「さようなら」 →　【こんにちは」「さようなら】
  • 括弧の組ごとに置換するためには「([^」]+)」 → 【\1】　のように書かなければならない
    • 「こんにちは」「さようなら」 →　【こんにちは】【さようなら】
• よりかんたんに指定するには（最短一致，ものぐさ指定）
  • 「(.+?)」「(.*?)」のように、繰り返し指定の+*の後に「?」をつける

正規表現に関する参考資料†

• サクラエディタの正規表現：http://sakura-editor.sourceforge.net/htmlhelp/HLP000089.html
• 正規表現に関する本　amazonで検索

#amazon(4873114500) #amazon(4873113598)

• （参考）タグ付き正規表現の応用：grepと置換でKWICを作る

第5回 全文検索ソフト「ひまわり」

全文検索システム「ひまわり」について

• 全文検索システム「ひまわり」
  • ただのテキストファイル（プレーンテキスト）ではなく、XML形式にして、インデックスを付けた専用のデータを利用

• ひまわり のダウンロードページ　プログラム本体
• ひまわり用「青空文庫」パッケージのダウンロードページ　検索対象のデータセット

「ひまわり」と「青空文庫パッケージ」のインストール

1. ひまわり本体のダウンロード
   1. ひまわり のダウンロードページからプログラム本体をダウンロード
   2. ダウンロードしたファイルのセキュリティブロックを解除
   3. 解凍後、フォルダごとUSBメモリにコピー
2. 青空文庫パッケージのダウンロード
   1. ひまわり用「青空文庫」パッケージのダウンロードページから「青空文庫パッケージ」をUSBメモリに直接ダウンロードして保存（サイズが大きいのでPCにダウンロードできない）
3. USBメモリにコピーしたフォルダ内のhimawari.exeを起動
   1. メニューのファイル＞インストールをえらび、青空文庫パッケージのzipファイルを指定
   2. しばらく待つと完了（数分から10分程度はかかる）
4. 要らなくなったファイルの削除
   1. PC上の「ひまわり」フォルダやzipファイル、USBの青空文庫パッケージzipファイルは不要なので削除する

「ひまわり」の使い方

• ひまわりの動作確認
• 検索方法の説明
  • ひまわりの正規表現について（授業資料/Himawariの正規表現）

第6回 Excelによる検索結果の集計(ピボットテーブル）

Excelの基本操作

• 並べ替え（ソート）
• フィルター（絞り込み）
  • テキストフィルター
  • 多重フィルター（複数の条件指定）
• ピボットテーブル★
  • ピボットグラフ

ひまわり検索結果をExcelで扱う

• ピボットテーブルとピボットグラフ
  • 例：「気持ち」「心持ち」
  • 例：「それきり」「それぎり」
  • 例：「～的な」「～的の」
    • ※「目的」「標的」などをフィルタで除去

生年代による集計（通時的変化）

• 文字列処理関数の利用
  • 例： =left(<文字列>,<文字数>)
    • 生年代： =left(<生年月日が入っているセル>,3)*10

• 生年月日データの書式について
  • 「青空文庫」の生年月日が書式の自動変換でおかしくなるのを防ぐ
    • 1900年以前の年月日は文字列、それ以降は日付として認識される

1. Himawariで「すべて選択」後、「すべて選択」「コピー（列名含む）」をする
2. Excelで生年月日の列が貼り付けられることになる列（NとO）を丸ごと選択し、書式を「文字列」とする
3. Excelに貼り付ける

ひまわりで利用可能なデータについて†

• 現代語のデータ
  • 国会会議録データ
  • 法令データベース
  • 口コミサイト
• 近代語のデータ
  • 太陽コーパス
  • 近代女性雑誌コーパス
  • 明六雑誌コーパス
  • 国定高等小学読本
• 古典文学作品のデータ

資料配布（「中納言」の使い方，「中納言」による検索）：明日、必ず持ってきてください。

8月1日(水)

第7回 日本語コーパスの紹介

第8回 Web版コーパス検索ツールの利用（1）

第9回 Web版コーパス検索ツールの利用（2）

8月2日(木)

第10回 検索結果の集計と分析(1)

第11回 検索結果の集計と分析(2)

第12回 データの加工と集計（文字列関数）

8月3日(金)

第13回 レポートテーマの確認と調査

第14回 Wordでレポートを書く（文書の構造化）

第15回 レポートの作成と質問