#author("2022-10-13T11:51:28+00:00","default:ogiwiki","ogiwiki")
[[成蹊2022]]
*日本語学講義D コーパス日本語学入門 [#g5568e7a]
-2022年度後期・金曜2限：''10:40～12:20''
-Mail: ogiso@ogiso.net
-[[CoursePower授業ページ>https://lms.seikei.ac.jp/lms/lginLgir/index?target=jMJ7iv8V]]
**10/14 第4回 コーパスの形態論情報 [#mbc48064]
***前回のこり [#la4c1c1f]
（歴史コーパスの設計）
***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較（BCCWJの年代、CHJの時代・ジャンル等）
-今後の授業の中で詳しく説明していきます
***コーパスの形態論情報 [#w3c3c79b]
--http://clrd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[（スライド）長単位と短単位>https://lms.seikei.ac.jp/lms/lginLgir/index?target=0APt-XEr]] 参照
--[[長単位と短単位・資料>https://lms.seikei.ac.jp/lms/lginLgir/index?target=gZObmws_]] 単位切りの例
--（参考）動画：コーパス検索システムの言語単位『短単位』 https://youtu.be/s5akpYOzNIU
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://lms.seikei.ac.jp/lms/lginLgir/index?target=0WibhrTq]]
***品詞体系 [#d6776112]
-BCCWJ・CHJは[[UniDic>https://clrd.ninjal.ac.jp/unidic/]]の品詞体系にもとづく（BCCWJのために開発されたのがUniDic）
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位：MeCabとUniDicを使った形態素解析で情報付与
-長単位：Comainu（など）で短単位を組み上げる
***形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]
--https://chamame.ninjal.ac.jp/
***形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***参考資料 [#t1ff9987]
-BCCWJ関連報告書 http://clrd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://doi.org/10.15084/00002855]]・[[第4版 下>http://doi.org/10.15084/00002856]]
**10/6 第3回 日本語コーパスの紹介（2）『日本語日常会話コーパス』『日本語歴史コーパス』 [#pe0c4f74]
***「現代日本語書き言葉均衡コーパス」の構成とサンプリング (残り) [#a185d2f5]
-[[スライド>https://lms.seikei.ac.jp/lms/lginLgir/index?target=0APt-XEr]]続き：著作権と著者情報から
***「日本語日常会話コーパス」（CEJC）の構成 [#x9f78d1c]
-https://www2.ninjal.ac.jp/conversation/cejc.html
-『日本語日常会話コーパス』—設計・構築・特徴—（報告書）
--https://www2.ninjal.ac.jp/conversation/report/report06.pdf
***「日本語歴史コーパス」（CHJ）の構成 [#x9f78d1c]
-https://clrd.ninjal.ac.jp/chj/
-残された資料に限りがある（そもそも偏りがある）歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難
:近世以前|残されている資料が少なく、できるだけ（可能なら全部）コーパスに入れたい
:近世（後期）以降|偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい（作品など資料単位で調査したい）
-[[『日本語歴史コーパス』>https://clrd.ninjal.ac.jp/chj/]]の中身
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本：年代・著者（・地域）のバランスを取って作品単位でサンプリング
***近代語コーパスの場合 [#p0de8288]
-近代雑誌（現在はCHJの一部）
--多様な記事を含む「総合雑誌」を対象とすることでバランスを確保
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://clrd.ninjal.ac.jp/cmj/taiyou/index.html]]：8年おきに12冊ずつを対象
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文藝春秋）
-近代小説
--複数の有識者が日本語資料として選定・投票した結果（1980年代に作成した資料）をもとにサンプリング
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi_2019b_e3.pdf
**9/30 第2回 日本語コーパスの紹介（1）『現代日本語書き言葉均衡コーパス』 [#d3ad8ff2]
***「中納言」授業アカウント配布 [#k69da28b]
-授業で使うコーパスが授業期間の半年間のみ使えるアカウントを配布します
-個人アカウントを持っている人はそれを使ってください
https://chunagon.ninjal.ac.jp/
***コーパスを使ってみる [#s1b41ed3]
-細かい話は抜きで「中納言」でコーパスを使ってみよう
--『現代日本語書き言葉均衡コーパス』（BCCWJ）コアのみ
--文字列検索
--短単位検索
***コーパスとは [#t54768fa]
--以下、[[スライド>https://lms.seikei.ac.jp/lms/lginLgir/index?target=0APt-XEr]]（CoursePower）参照
:狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。
--現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ）
:広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。
-さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録）
--参考：[[「ひまわり」パッケージ>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]]
-Web上のデータ
--検索サイトの利用
--WAC（Web as Corpus）
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」「日本語日常会話コーパス（CEJC）」と「日本語歴史コーパス（CHJ）」
***コーパスへの要請 [#n1ef5148]
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスがとれていること
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサンプリング [#s89fe505]
-https://clrd.ninjal.ac.jp/bccwj/
-均衡コーパス（Balanced corpus）
--「バランスがとれている」「代表性」とは？
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
------
-著作権をめぐる問題
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/icame/manuals/brown/]] http://khnt.aksis.uib.no/icame/manuals/brown/
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/docs/URG/]] http://www.natcorp.ox.ac.uk/docs/URG/
-現代日本語書き言葉均衡コーパス（BCCWJ）
--[[現代日本語書き言葉均衡コーパス：概要>https://clrd.ninjal.ac.jp/bccwj/index.html]]
--BCCWJの基本設計：https://clrd.ninjal.ac.jp/bccwj/basic-design.html
--サンプリング：https://clrd.ninjal.ac.jp/bccwj/sampling.html
--XMLによる電子化：https://clrd.ninjal.ac.jp/bccwj/XML.html
**09/23 第1回 イントロダクション [#a2711c5f]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/
--[[国立国語研究所コーパス開発センター>https://clrd.ninjal.ac.jp/]] https://clrd.ninjal.ac.jp/
***授業内容等の確認 [#e55ee18f]
-[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbdr.do?value(risyunen)=2022&value(semekikn)=1&value(kougicd)=125232150&value(crclumcd)=50222-0100]]の確認
--[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbdr.do?value(risyunen)=2022&value(semekikn)=1&value(kougicd)=125232150&value(crclumcd)=50222-0100]]
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--関心のある分野について
--PC等のスキルについて
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス（BCCWJ）」>https://clrd.ninjal.ac.jp/bccwj/]]
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス（CHJ）」>https://clrd.ninjal.ac.jp/chj/]]
-Excelによる集計（ピボットテーブル）
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタと正規表現
***「中納言」アカウントについて [#t6709ede]
-「中納言」オンライン利用申込み
--他のコーパス無含めて今後も利用したい場合は下記から個人でアカウントを取得してください
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション（予定） [#i06478d2]
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chunagon.ninjal.ac.jp/]]|コーパスの検索|
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成|
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
