清泉2021集中
をテンプレートにして作成
開始行:
*2021清泉女子大学 集中講義 [#qcba838b]
-10:00 - 15:30
-オンライン・リアルタイム（Zoomアドレスは授業ページで確認...
-学びの泉：''[[授業ページ>https://izumi.seisen-u.ac.jp/ca...
-シラバス：[[清泉ポータル シラバス参照>https://portal.sei...
-日程
--''[[9月6日(月)>#c822629c]]''
--''[[9月7日(火)>#fcb17503]]''
--''[[9月13日(月)>#vf0b9214]]''
--''[[9月14日(火)>#c557dab5]]''
--''[[9月16日(木)>#c1d4ce34]]''
-レポートについて
--''&color(red,レポート〆切：9月30日);''（最大延長：10月8...
--分量：A4用紙で3～10枚
--形式：WordまたはPDF
---埋め込みデータによってWordファイルのサイズが大きくなり...
--提出場所（学びの泉）：https://izumi.seisen-u.ac.jp/camp...
------
#contents
**9月6日(月) [#c822629c]
**第1回 イントロダクション [#wdd4ab2f]
***イントロダクション [#z7ffa4ea]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所コーパス開発センター>https://ccd.ninjal...
-（参考）国語研オープンハウス2020 https://www2.ninjal.ac...
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR...
-（参考）国語研オープンハウス2021 https://www2.ninjal.ac...
***授業内容等の確認 [#e55ee18f]
-オンライン授業の進め方について
--原則としてZoomでのリアルタイム授業
--休み時間のほか、復習・課題の時間を挟む
--録画を共有するので復習すること
-[[シラバス>https://portal.seisen-u.ac.jp/portal/slbssbdr...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--関心のある分野について
--PC等のスキルについて
------
***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション（...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス（BCCWJ）」>https://c...
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス（CHJ）」>https://ccd.ninjal.ac.j...
-Excelによる集計（ピボットテーブル）
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタと正規表現
------
**第2回 日本語コーパスの紹介（1）『現代日本語書き言葉均衡...
***コーパスとは [#t54768fa]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 ...
--参考：[[「ひまわり」パッケージ>https://www2.ninjal.ac.j...
-Web上のデータ
--検索サイトの利用
--WAC（Web as Corpus）
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***紙の資料からコーパスまで (日本語研究資料の変遷) [#s7df...
+(紙の)本文
+(紙の)総索引（コンコーダンス）
+各種の電子テキスト
--[[授業資料/テキストデータ紹介]]
+構造化テキスト
--[[太陽コーパス>https://ccd.ninjal.ac.jp/cmj/taiyou/]]など
+形態論情報付きコーパス
--[[現代日本語書き言葉均衡コーパス（BCCWJ）>https://ccd.n...
***コーパスに求められるもの [#h042f3fe]
-コーパス以前の電子化日本語資料（とその限界）
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www....
--出版社による電子出版物（CD-ROM）
---新潮文庫の100冊 etc.
--新聞のデータベース（CD-ROM）
---毎日新聞CD-ROM etc.
--研究機関のデータベース
---国文学資料館 大系DB etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus
-コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサ...
-https://ccd.ninjal.ac.jp/bccwj/
-均衡コーパス（Balanced corpus）
--「バランスがとれている」「代表性」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
------
-著作権をめぐる問題
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>https://ccd.ninj...
--BCCWJの基本設計：https://ccd.ninjal.ac.jp/bccwj/basic-d...
--サンプリング：https://ccd.ninjal.ac.jp/bccwj/sampling.h...
--XMLによる電子化：https://ccd.ninjal.ac.jp/bccwj/XML.html
------
**第3回 日本語コーパスの紹介（2）『日本語歴史コーパス』 [...
***「日本語歴史コーパス」（CHJ）の構成 [#x9f78d1c]
-https://ccd.ninjal.ac.jp/chj/
-残された資料に限りがある（そもそも偏りがある）歴史的なコ...
:近世以前|残されている資料が少なく、できるだけ（可能なら...
:近世（後期）以降|偏りはあるものの選べるだけの資料がある...
-[[『日本語歴史コーパス』>https://ccd.ninjal.ac.jp/chj/]]...
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本：年代・著者（・地域）のバランスを...
***近代語コーパスの場合 [#p0de8288]
-近代雑誌（現在はCHJの一部）
--多様な記事を含む「総合雑誌」を対象とすることでバランス...
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://ccd.ninjal.ac.jp/cmj/taiyou...
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文...
-近代小説
--複数の有識者が日本語資料として選定・投票した結果（1980...
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi...
***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと...
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較（BCCWJの年代、CH...
**9月7日(火) [#fcb17503]
**第4回 コーパスの形態論情報と形態素解析（Web茶まめ） [#r...
***コーパスの形態論情報 [#w3c3c79b]
--http://ccd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[（スライド）長単位と短単位>https://izumi.seisen-u.ac....
--[[長単位と短単位・資料>https://izumi.seisen-u.ac.jp/cam...
--（参考）動画：コーパス検索システムの言語単位『短単位』 ...
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://izumi.seisen-u.ac.jp/campus/Do...
***品詞体系 [#d6776112]
-BCCWJ・CHJは[[UniDic>https://ja.osdn.net/projects/unidic...
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位：MeCabとUniDicを使った形態素解析で情報付与
-長単位：Comainu（など）で短単位を組み上げる
***形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]
--https://chamame.ninjal.ac.jp/
***形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***参考資料 [#t1ff9987]
-BCCWJ関連報告書 http://ccd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://ccd.ninjal.ac....
**第5回 Web版コーパス検索ツールの利用（1）「中納言」の紹...
-「中納言」 https://chunagon.ninjal.ac.jp/
--BCCWJ: https://chunagon.ninjal.ac.jp/bccwj-nt
--CHJ: https://chunagon.ninjal.ac.jp/chj
-資料：[[中納言の使い方>https://izumi.seisen-u.ac.jp/camp...
**第6回 Web版コーパス検索ツールの利用（2）「中納言」の利...
-資料：[[中納言の使い方>https://izumi.seisen-u.ac.jp/camp...
***位置情報と用例へのパーマリンク [#fecf8e21]
-位置検索
--''サンプルID,開始位置''((サンプル先頭からの文字数を10倍...
--位置検索での区切り記号はカンマのほかタブやスペースでも可
-用例へのpermalink
--CHJ源氏冒頭の「やんごとなし」：https://chunagon.ninjal....
***検索条件式の利用 [#wa3409db]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**9月13日(月) [#vf0b9214]
**第7回 検索結果の集計と分析(1) 表計算ソフト [#k8e65d82]
-（参考）国語研オープンハウス2021 https://www2.ninjal.ac...
--動画：『日本語歴史コーパス』のかんたんな使い方─犬派？猫...
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+Excelでインポート
-データの形式
--タブ区切りテキストの各列
***Excelの基礎 [#t5ba152a]
-並べ替え（ソート）
--反転前文脈の使い方
-フィルタ（絞り込み）
--テキストフィルタ
--多重フィルター（複数の条件指定）
**第8回 検索結果の集計と分析(2) ピボットテーブル [#e95a3...
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
***複数の検索結果の結合 [#l9b3620b]
-例：ワイン・葡萄酒 ※単位数が違うので検索条件式でも一つ...
キー: 語彙素="ワイン";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
一度にピボットテーブルで集計できるように一つの表にまとめる
-※必ず表をくっつけること（空行を入れるとそこで表が切れて...
ショートカットキーを活用すると便利
-Ctrl((Macの場合はCommand))+End((EndキーはノートPCではし...
-Shift+Ctrl+End((EndがFn+→の場合は、Shift+Ctrl+Fn+→を同時...
+表をコピー
--Ctrl+Home((HomeキーはノートPCではしばしばFn+←))（表の左...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓（表の一番下の行に移動）, ↓（1行下へ）, Ctrl+V（...
または、「検索条件式ごとに出力ファイルを分割する」を外し...
キー: 語彙素="ワイン";
キー: 語彙素="ウイスキー";
キー: 語彙素="ビール";
キー: 語彙素="ブランデー";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
キー: 語彙素="日本" AND 後方共起: 語彙素="酒" ON 1 WORDS...
***（補足）ショートカットキーについて [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***集計用の列を自分で用意する [#ccae4a87]
-検索例：蒲公英・向日葵・蓮華
--表記（ひらがな・カタカナ・漢字）別集計
-応用：用法分類などなど
**検索結果の集計と分析(3) データの加工と集計（関数の利用...
***ランダムサンプリング調査 [#eaabe4ad]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列： =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-例：「られる」「全然」
***出現サンプル数の調査（重複の削除） [#ma197696]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
-例：「俺・僕・私」
**9月14日(火) [#c557dab5]
***Excelの文字列関数 [#r56f9082]
集計に必要な情報をフィールドから切り出すことで集計に使う
-[[授業資料/EXCELの文字列関数]]参照
--品詞大分類
--ジャンルの処理
***BCCWJ利用の落とし穴 [#le968f3e]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--→調整頻度の計算
---cf.人口あたりの事故件数，１平方キロあたりの…etc.
-BCCWJの語数
--https://ccd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
-短単位語数表をピボットテーブルで集計
--短単位語数表：http://doi.org/10.15084/00003226
***調整頻度（pmw） [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ：中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度（pmw）がよく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-例：「パソコン」「立ち上げる」
-例：「矢張り」
-※割合を比較するだけなら調整頻度を出す必要はない。
***（Excel基礎）セルの相対参照と絶対参照 [#e418e4aa]
-A1：相対参照
-$A$1：絶対参照
-$A1：列のみ絶対参照
***調整頻度の例：『日本語歴史コーパス』[#ac7fae2a]
-頻度で見る「あはれ」「をかし」と源氏・枕
--※最低限、調査対象の語数を考慮した（＝調整頻度による）比...
**（参考）VLOOKUP関数の利用 [#tf76047b]
-[[授業資料/VLOOKUP関数]]参照
***辞書引き集計 [#k380e1c9]
自分で作った（または誰かが用意してくれた）辞書データ（コ...
-例：形容詞の意味分類付与
--（参考）分類語彙表 https://ccd.ninjal.ac.jp/goihyo.html
***アノテーションの利用 [#qbe9ddda]
自分で作った（または誰かが用意してくれた）コーパスへのア...
-例：中古ラレルの用法分類
--[[『日本語歴史コーパス』中古「る」「らる」用法分類アノ...
**レポートテーマについて [#fec65029]
-次回までにレポートテーマを考えてくること
-普段から見聞きする言葉に気をつけるとともに、他の授業や書...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
--[[〈参考〉 国語に関する世論調査の結果について（文化庁）...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
***例((実際に検索してみてできそうなものと難しそうなものが...
-表記
--「雀」「すずめ」「スズメ」動植物名の表記・・・レジスタ...
--「卵」「玉子」「たまご」「タマゴ」・・・意味の違い？文...
--「斡旋」「あっ旋」「あっせん」、「石鹸」「石けん」「せ...
-類義語・対義語
--「奇麗」と「美しい」・・・連体修飾する名詞の違い（→意味...
--「うるさい」「やかましい」「さわがしい」「かしましい」...
--「男性」と「女性」（「男」と「女」）・・・語彙の非対称...
-語形、語法
--「好ましい」「好もしい」・・・語形の揺れと文体差
--「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙...
-意味変化・新語
--「役不足」「確信犯」・・・”誤用”と”正用”
--「断トツ」「定番」「夜ご飯」・・・新語の広がり
**9月16日(木) [#c1d4ce34]
**第10回 テキストデータの処理（テキストエディタと正規表...
***デモ [#ob57bd7c]
Excelで中納言検索結果の列を丸ごとコピーし、エディタで整形...
-前後文脈の整理（キーが現れた文以外を消す）
--前文脈：.+#((を空文字列に置換。以下同じ)) 後文脈：#.+
-値の一部を取り出す
--品詞大分類：-.+ ジャンル大分類：/.+
※慣れると文字列関数よりも早くて便利
***テキストデータについて [#k896318b]
-[[授業資料/テキストデータとは]]
-テキストファイルの拡張子：TXT,CSV,HTM…
--ファイルの種類と拡張子 参考：[[拡張子辞典>http://www.ji...
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B...
-サンプルデータ
--★[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tk...
--（参考：
[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7h...
-ダウンロードして展開（解凍）してください
***テキストエディタ [#q7ae852c]
-[[授業資料/テキストエディタ]]
***テキストエディタのダウンロードとインストール [#bf5ea59f]
-★[[サクラエディタのダウンロード:https://github.com/sakur...
---(参考) サクラエディタホームページ：https://sakura-edit...
***テキストエディタの基本操作 [#ub1360ec]
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
-たいていのことはショートカットキーでできる
***正規表現とは [#d216d4e0]
-''正規表現'' [[＞用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字（メタ文字）を使って文字列の...
--テキストエディタでは置換・検索・grepで利用できる （エ...
--特殊な文字（メタ文字）はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする（特...
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定（補集合）[^ ]
--繰り返し ? + *
--グループ化 ()
--or（論理和） |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ（外来語）の形容動詞語幹
-送りがなの揺れ（行う／行なう）
-会話文中（"「"で始まる文中）の用例を検索する
-同一文中での共起
--全然～ない。
--もし～なら（ば）
***「中納言」インラインタグ機能の利用 [#h1e23ecf]
-前後文脈に埋め込んだタグから、必要な情報を取り出して利用
--エディタと正規表現を使うと便利
**テーマ発表 PowerPointを用いた発表 [#id8299e7]
**文書構造を意識したレポートの書き方（Wordの機能の活用） ...
文書の構造化とWordの使い方（レポートの書き方）
-文書の構造化*
--スタイルと見出し
--ナビゲーション ウィンドウ（見出しマップ）の使い方
--章・節番号
-図表の貼り込み*
--「形式を選択して貼り付け」
--図表番号とキャプション
-脚注
--脚注と文末脚注
-相互参照
--節番号、図表番号と相互参照
--目次、図表目次
-ページ番号*
-PDFとして保存（ブックマークを付加）*
***レポートの構成について [#ee2b2c83]
-[[IMRAD>https://ja.wikipedia.org/wiki/IMRAD]]
------
**授業計画 [#i64dd75f]
-第1回イントロダクション（授業内容の紹介とデモ）
-第2回日本語コーパスの紹介（1）『現代日本語書き言葉均衡コ...
-第3回日本語コーパスの紹介（2）『日本語歴史コーパス』
-第4回コーパスの形態論情報と形態素解析（Web茶まめ）
-第5回Web版コーパス検索ツールの利用（1）「中納言」の紹介
-第6回Web版コーパス検索ツールの利用（2）「中納言」の利用
-第7回検索結果の集計と分析(1) 表計算ソフト
-第8回検索結果の集計と分析(2) ピボットテーブル
-第9回検索結果の集計と分析(3) データの加工と集計（関数の...
-第10回テキストデータの処理（テキストエディタと正規表現）
-第11回テーマ発表(1) PowerPointを用いた発表
-第12回テーマ発表(2) PowerPointを用いた発表
-第13回文書構造を意識したレポートの書き方（Wordの機能の活...
終了行:
*2021清泉女子大学 集中講義 [#qcba838b]
-10:00 - 15:30
-オンライン・リアルタイム（Zoomアドレスは授業ページで確認...
-学びの泉：''[[授業ページ>https://izumi.seisen-u.ac.jp/ca...
-シラバス：[[清泉ポータル シラバス参照>https://portal.sei...
-日程
--''[[9月6日(月)>#c822629c]]''
--''[[9月7日(火)>#fcb17503]]''
--''[[9月13日(月)>#vf0b9214]]''
--''[[9月14日(火)>#c557dab5]]''
--''[[9月16日(木)>#c1d4ce34]]''
-レポートについて
--''&color(red,レポート〆切：9月30日);''（最大延長：10月8...
--分量：A4用紙で3～10枚
--形式：WordまたはPDF
---埋め込みデータによってWordファイルのサイズが大きくなり...
--提出場所（学びの泉）：https://izumi.seisen-u.ac.jp/camp...
------
#contents
**9月6日(月) [#c822629c]
**第1回 イントロダクション [#wdd4ab2f]
***イントロダクション [#z7ffa4ea]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所コーパス開発センター>https://ccd.ninjal...
-（参考）国語研オープンハウス2020 https://www2.ninjal.ac...
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR...
-（参考）国語研オープンハウス2021 https://www2.ninjal.ac...
***授業内容等の確認 [#e55ee18f]
-オンライン授業の進め方について
--原則としてZoomでのリアルタイム授業
--休み時間のほか、復習・課題の時間を挟む
--録画を共有するので復習すること
-[[シラバス>https://portal.seisen-u.ac.jp/portal/slbssbdr...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--関心のある分野について
--PC等のスキルについて
------
***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション（...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス（BCCWJ）」>https://c...
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス（CHJ）」>https://ccd.ninjal.ac.j...
-Excelによる集計（ピボットテーブル）
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタと正規表現
------
**第2回 日本語コーパスの紹介（1）『現代日本語書き言葉均衡...
***コーパスとは [#t54768fa]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 ...
--参考：[[「ひまわり」パッケージ>https://www2.ninjal.ac.j...
-Web上のデータ
--検索サイトの利用
--WAC（Web as Corpus）
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***紙の資料からコーパスまで (日本語研究資料の変遷) [#s7df...
+(紙の)本文
+(紙の)総索引（コンコーダンス）
+各種の電子テキスト
--[[授業資料/テキストデータ紹介]]
+構造化テキスト
--[[太陽コーパス>https://ccd.ninjal.ac.jp/cmj/taiyou/]]など
+形態論情報付きコーパス
--[[現代日本語書き言葉均衡コーパス（BCCWJ）>https://ccd.n...
***コーパスに求められるもの [#h042f3fe]
-コーパス以前の電子化日本語資料（とその限界）
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www....
--出版社による電子出版物（CD-ROM）
---新潮文庫の100冊 etc.
--新聞のデータベース（CD-ROM）
---毎日新聞CD-ROM etc.
--研究機関のデータベース
---国文学資料館 大系DB etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus
-コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサ...
-https://ccd.ninjal.ac.jp/bccwj/
-均衡コーパス（Balanced corpus）
--「バランスがとれている」「代表性」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
------
-著作権をめぐる問題
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>https://ccd.ninj...
--BCCWJの基本設計：https://ccd.ninjal.ac.jp/bccwj/basic-d...
--サンプリング：https://ccd.ninjal.ac.jp/bccwj/sampling.h...
--XMLによる電子化：https://ccd.ninjal.ac.jp/bccwj/XML.html
------
**第3回 日本語コーパスの紹介（2）『日本語歴史コーパス』 [...
***「日本語歴史コーパス」（CHJ）の構成 [#x9f78d1c]
-https://ccd.ninjal.ac.jp/chj/
-残された資料に限りがある（そもそも偏りがある）歴史的なコ...
:近世以前|残されている資料が少なく、できるだけ（可能なら...
:近世（後期）以降|偏りはあるものの選べるだけの資料がある...
-[[『日本語歴史コーパス』>https://ccd.ninjal.ac.jp/chj/]]...
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本：年代・著者（・地域）のバランスを...
***近代語コーパスの場合 [#p0de8288]
-近代雑誌（現在はCHJの一部）
--多様な記事を含む「総合雑誌」を対象とすることでバランス...
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://ccd.ninjal.ac.jp/cmj/taiyou...
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文...
-近代小説
--複数の有識者が日本語資料として選定・投票した結果（1980...
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi...
***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと...
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較（BCCWJの年代、CH...
**9月7日(火) [#fcb17503]
**第4回 コーパスの形態論情報と形態素解析（Web茶まめ） [#r...
***コーパスの形態論情報 [#w3c3c79b]
--http://ccd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[（スライド）長単位と短単位>https://izumi.seisen-u.ac....
--[[長単位と短単位・資料>https://izumi.seisen-u.ac.jp/cam...
--（参考）動画：コーパス検索システムの言語単位『短単位』 ...
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://izumi.seisen-u.ac.jp/campus/Do...
***品詞体系 [#d6776112]
-BCCWJ・CHJは[[UniDic>https://ja.osdn.net/projects/unidic...
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位：MeCabとUniDicを使った形態素解析で情報付与
-長単位：Comainu（など）で短単位を組み上げる
***形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]
--https://chamame.ninjal.ac.jp/
***形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***参考資料 [#t1ff9987]
-BCCWJ関連報告書 http://ccd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://ccd.ninjal.ac....
**第5回 Web版コーパス検索ツールの利用（1）「中納言」の紹...
-「中納言」 https://chunagon.ninjal.ac.jp/
--BCCWJ: https://chunagon.ninjal.ac.jp/bccwj-nt
--CHJ: https://chunagon.ninjal.ac.jp/chj
-資料：[[中納言の使い方>https://izumi.seisen-u.ac.jp/camp...
**第6回 Web版コーパス検索ツールの利用（2）「中納言」の利...
-資料：[[中納言の使い方>https://izumi.seisen-u.ac.jp/camp...
***位置情報と用例へのパーマリンク [#fecf8e21]
-位置検索
--''サンプルID,開始位置''((サンプル先頭からの文字数を10倍...
--位置検索での区切り記号はカンマのほかタブやスペースでも可
-用例へのpermalink
--CHJ源氏冒頭の「やんごとなし」：https://chunagon.ninjal....
***検索条件式の利用 [#wa3409db]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND lim...
AND tglFixVariable="2" AND tglWords="20" AND unit="1" AN...
**9月13日(月) [#vf0b9214]
**第7回 検索結果の集計と分析(1) 表計算ソフト [#k8e65d82]
-（参考）国語研オープンハウス2021 https://www2.ninjal.ac...
--動画：『日本語歴史コーパス』のかんたんな使い方─犬派？猫...
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+Excelでインポート
-データの形式
--タブ区切りテキストの各列
***Excelの基礎 [#t5ba152a]
-並べ替え（ソート）
--反転前文脈の使い方
-フィルタ（絞り込み）
--テキストフィルタ
--多重フィルター（複数の条件指定）
**第8回 検索結果の集計と分析(2) ピボットテーブル [#e95a3...
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
***複数の検索結果の結合 [#l9b3620b]
-例：ワイン・葡萄酒 ※単位数が違うので検索条件式でも一つ...
キー: 語彙素="ワイン";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
一度にピボットテーブルで集計できるように一つの表にまとめる
-※必ず表をくっつけること（空行を入れるとそこで表が切れて...
ショートカットキーを活用すると便利
-Ctrl((Macの場合はCommand))+End((EndキーはノートPCではし...
-Shift+Ctrl+End((EndがFn+→の場合は、Shift+Ctrl+Fn+→を同時...
+表をコピー
--Ctrl+Home((HomeキーはノートPCではしばしばFn+←))（表の左...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓（表の一番下の行に移動）, ↓（1行下へ）, Ctrl+V（...
または、「検索条件式ごとに出力ファイルを分割する」を外し...
キー: 語彙素="ワイン";
キー: 語彙素="ウイスキー";
キー: 語彙素="ビール";
キー: 語彙素="ブランデー";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
キー: 語彙素="日本" AND 後方共起: 語彙素="酒" ON 1 WORDS...
***（補足）ショートカットキーについて [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***集計用の列を自分で用意する [#ccae4a87]
-検索例：蒲公英・向日葵・蓮華
--表記（ひらがな・カタカナ・漢字）別集計
-応用：用法分類などなど
**検索結果の集計と分析(3) データの加工と集計（関数の利用...
***ランダムサンプリング調査 [#eaabe4ad]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列： =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-例：「られる」「全然」
***出現サンプル数の調査（重複の削除） [#ma197696]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
-例：「俺・僕・私」
**9月14日(火) [#c557dab5]
***Excelの文字列関数 [#r56f9082]
集計に必要な情報をフィールドから切り出すことで集計に使う
-[[授業資料/EXCELの文字列関数]]参照
--品詞大分類
--ジャンルの処理
***BCCWJ利用の落とし穴 [#le968f3e]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--→調整頻度の計算
---cf.人口あたりの事故件数，１平方キロあたりの…etc.
-BCCWJの語数
--https://ccd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
-短単位語数表をピボットテーブルで集計
--短単位語数表：http://doi.org/10.15084/00003226
***調整頻度（pmw） [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ：中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度（pmw）がよく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-例：「パソコン」「立ち上げる」
-例：「矢張り」
-※割合を比較するだけなら調整頻度を出す必要はない。
***（Excel基礎）セルの相対参照と絶対参照 [#e418e4aa]
-A1：相対参照
-$A$1：絶対参照
-$A1：列のみ絶対参照
***調整頻度の例：『日本語歴史コーパス』[#ac7fae2a]
-頻度で見る「あはれ」「をかし」と源氏・枕
--※最低限、調査対象の語数を考慮した（＝調整頻度による）比...
**（参考）VLOOKUP関数の利用 [#tf76047b]
-[[授業資料/VLOOKUP関数]]参照
***辞書引き集計 [#k380e1c9]
自分で作った（または誰かが用意してくれた）辞書データ（コ...
-例：形容詞の意味分類付与
--（参考）分類語彙表 https://ccd.ninjal.ac.jp/goihyo.html
***アノテーションの利用 [#qbe9ddda]
自分で作った（または誰かが用意してくれた）コーパスへのア...
-例：中古ラレルの用法分類
--[[『日本語歴史コーパス』中古「る」「らる」用法分類アノ...
**レポートテーマについて [#fec65029]
-次回までにレポートテーマを考えてくること
-普段から見聞きする言葉に気をつけるとともに、他の授業や書...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
--[[〈参考〉 国語に関する世論調査の結果について（文化庁）...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
***例((実際に検索してみてできそうなものと難しそうなものが...
-表記
--「雀」「すずめ」「スズメ」動植物名の表記・・・レジスタ...
--「卵」「玉子」「たまご」「タマゴ」・・・意味の違い？文...
--「斡旋」「あっ旋」「あっせん」、「石鹸」「石けん」「せ...
-類義語・対義語
--「奇麗」と「美しい」・・・連体修飾する名詞の違い（→意味...
--「うるさい」「やかましい」「さわがしい」「かしましい」...
--「男性」と「女性」（「男」と「女」）・・・語彙の非対称...
-語形、語法
--「好ましい」「好もしい」・・・語形の揺れと文体差
--「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙...
-意味変化・新語
--「役不足」「確信犯」・・・”誤用”と”正用”
--「断トツ」「定番」「夜ご飯」・・・新語の広がり
**9月16日(木) [#c1d4ce34]
**第10回 テキストデータの処理（テキストエディタと正規表...
***デモ [#ob57bd7c]
Excelで中納言検索結果の列を丸ごとコピーし、エディタで整形...
-前後文脈の整理（キーが現れた文以外を消す）
--前文脈：.+#((を空文字列に置換。以下同じ)) 後文脈：#.+
-値の一部を取り出す
--品詞大分類：-.+ ジャンル大分類：/.+
※慣れると文字列関数よりも早くて便利
***テキストデータについて [#k896318b]
-[[授業資料/テキストデータとは]]
-テキストファイルの拡張子：TXT,CSV,HTM…
--ファイルの種類と拡張子 参考：[[拡張子辞典>http://www.ji...
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B...
-サンプルデータ
--★[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tk...
--（参考：
[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7h...
-ダウンロードして展開（解凍）してください
***テキストエディタ [#q7ae852c]
-[[授業資料/テキストエディタ]]
***テキストエディタのダウンロードとインストール [#bf5ea59f]
-★[[サクラエディタのダウンロード:https://github.com/sakur...
---(参考) サクラエディタホームページ：https://sakura-edit...
***テキストエディタの基本操作 [#ub1360ec]
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
-たいていのことはショートカットキーでできる
***正規表現とは [#d216d4e0]
-''正規表現'' [[＞用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字（メタ文字）を使って文字列の...
--テキストエディタでは置換・検索・grepで利用できる （エ...
--特殊な文字（メタ文字）はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする（特...
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定（補集合）[^ ]
--繰り返し ? + *
--グループ化 ()
--or（論理和） |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ（外来語）の形容動詞語幹
-送りがなの揺れ（行う／行なう）
-会話文中（"「"で始まる文中）の用例を検索する
-同一文中での共起
--全然～ない。
--もし～なら（ば）
***「中納言」インラインタグ機能の利用 [#h1e23ecf]
-前後文脈に埋め込んだタグから、必要な情報を取り出して利用
--エディタと正規表現を使うと便利
**テーマ発表 PowerPointを用いた発表 [#id8299e7]
**文書構造を意識したレポートの書き方（Wordの機能の活用） ...
文書の構造化とWordの使い方（レポートの書き方）
-文書の構造化*
--スタイルと見出し
--ナビゲーション ウィンドウ（見出しマップ）の使い方
--章・節番号
-図表の貼り込み*
--「形式を選択して貼り付け」
--図表番号とキャプション
-脚注
--脚注と文末脚注
-相互参照
--節番号、図表番号と相互参照
--目次、図表目次
-ページ番号*
-PDFとして保存（ブックマークを付加）*
***レポートの構成について [#ee2b2c83]
-[[IMRAD>https://ja.wikipedia.org/wiki/IMRAD]]
------
**授業計画 [#i64dd75f]
-第1回イントロダクション（授業内容の紹介とデモ）
-第2回日本語コーパスの紹介（1）『現代日本語書き言葉均衡コ...
-第3回日本語コーパスの紹介（2）『日本語歴史コーパス』
-第4回コーパスの形態論情報と形態素解析（Web茶まめ）
-第5回Web版コーパス検索ツールの利用（1）「中納言」の紹介
-第6回Web版コーパス検索ツールの利用（2）「中納言」の利用
-第7回検索結果の集計と分析(1) 表計算ソフト
-第8回検索結果の集計と分析(2) ピボットテーブル
-第9回検索結果の集計と分析(3) データの加工と集計（関数の...
-第10回テキストデータの処理（テキストエディタと正規表現）
-第11回テーマ発表(1) PowerPointを用いた発表
-第12回テーマ発表(2) PowerPointを用いた発表
-第13回文書構造を意識したレポートの書き方（Wordの機能の活...
ページ名:
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
