![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
#author("2024-11-13T13:55:50+09:00","default:ogiwiki","ogiwiki") #author("2024-11-13T13:57:19+09:00","default:ogiwiki","ogiwiki") [[成蹊2024]] *日本語学講義Ｄ [#vb1e1a30] -2024年度後期・金曜2限：''10:40～12:20'' -教室:7号館303 -Mail: ogiso@ogiso.net -[[CoursePower授業ページ>https://lms.seikei.ac.jp/lms/lginLgir/index?target=R26mX2kE]] -[[コーパス検索アプリケーション''「中納言」''>https://chunagon.ninjal.ac.jp/]] -[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbdr.do?value(risyunen)=2024&value(semekikn)=1&value(kougicd)=125232150&value(crclumcd)=50224-0100]] **11/15 第8回 Excelによる検索結果の集計(2) [#e531f71e] ***Excelの基礎 [#t5ba152a] -並べ替え（ソート） --反転前文脈の使い方 -フィルタ（絞り込み） --テキストフィルタ --多重フィルター（複数の条件指定） ***【重要】ピボットテーブルの使い方 [#d0a7589d] -ピボットテーブル -ピボットグラフ -参考：CHJの犬と猫 --動画：『日本語歴史コーパス』のかんたんな使い方─犬派？猫派？編─ https://youtu.be/672LMkV6GxU ***複数の検索結果の結合 [#l9b3620b] 一度にピボットテーブルで集計できるように一つの表にまとめる -※必ず表をくっつけること（空行を入れるとそこで表が切れていると認識される） -例：ワイン・葡萄酒 ※単位数が違うので検索条件式でも一つの式では書けない キー: 語彙素="ワイン"; キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー; ショートカットキーを活用すると便利 -Ctrl((Macの場合はCommand))+End((EndキーはノートPCではしばしばFn+→)) ファイルの末尾/表のいちばん右下に移動 -Shift+Ctrl+End((EndがFn+→の場合は、Shift+Ctrl+Fn+→を同時押し)) 〃範囲を選択 +表をコピー --Ctrl+Home((HomeキーはノートPCではしばしばFn+←))（表の左上へ移動）, ↓（列名は選択しないようにするため1行下へ）,Shift+Ctrl+End, Ctrl+C（コピー） +コピーした表を既存の表の下に貼り付け --Ctrl+↓（表の一番下の行に移動）, ↓（1行下へ）, Ctrl+V（貼り付け） -[[授業資料/覚えておきたいショートカットキー]] または、「検索条件式ごとに出力ファイルを分割する」を外して検索条件式で一度にダウンロード（ZIPファイルの中のcsvファイルを利用） たくさんまとめて調べたい場合には特に便利 キー: 語彙素="ワイン"; キー: 語彙素="ブランデー"; キー: 語彙素="ウイスキー"; キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー; キー: 語彙素="日本" AND 後方共起: 語彙素="酒" ON 1 WORDS FROM キー; ***集計の前処理 [#qa6fbc16] ***出現サンプル数の調査（重複の削除） [#ma197696] 用例数ではなく、用例が一つでも出現したサンプルの数を調べたい場合 -たとえば同一サンプル内での繰り返しが多いものを調査するとき（例：一人称代名詞など） --「データ」→「重複の削除」 -例：「俺・僕・私」 ***ランダムサンプリング調査 [#j4516bb3] -大量に用例があり、調査内容からすべて対象にできない場合 -ランダムに並べ替え→先頭n例を調査対象に --ランダムな数字の列： =RAND() --ランダムな数字の列をコピーして「値として貼り付ける」と数字が固定される -例：「られる」「全然」 ***「中納言」検索課題 [#t9480bc2] -[[資料ダウンロード>https://lms.seikei.ac.jp/lms/lginLgir/index?target=kOA9EIGG]] -[[資料ダウンロード>https://lms.seikei.ac.jp/lms/lginLgir/index?target=a5R8wT_U]] **11/8 第7回 「中納言」の使い方(3) / Excelによる検索結果の集計(1) [#e531f71e] ***復習 [#q1d891fe] -検索語の条件指定 -複数単位の組み合わせ ***位置情報と用例へのパーマリンク [#fecf8e21] -位置検索 --''サンプルID,開始位置''((サンプル先頭からの文字数を10倍したもの))のセットでコーパス上の用例の位置を一意に指定できる --位置検索での区切り記号はカンマのほかタブやスペースでも可 -用例へのpermalink --CHJ源氏冒頭の「やんごとなし」：https://chunagon.ninjal.ac.jp/chj/permalink?unit=short&position=20-%E6%BA%90%E6%B0%8F1010_00001,330 ***検索条件式の利用 [#r945c6c0] キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%") AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー WITH OPTIONS tglKugiri="|" AND tglBunKugiri="#" AND limitToSelfSentence="1" AND tglFixVariable="2" AND tglWords="20" AND unit="1" AND encoding="UTF-16LE" AND endOfLine="CRLF" ↓これだけでもいい（WITH OPTIONS 以下は式で指定がない場合、検索画面での設定に従う） キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%") AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー ***OR検索 [#q9b90c80] キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%") AND 後方共起: (語彙素="言葉" OR 語彙素="言語") ON 1 WORDS FROM キー ***周辺語検索 [#yaad8b13] -「美しい」の前後3語以内に出現する名詞（平安仮名文学） キー: 品詞 LIKE "名詞%" AND 共起: 語彙素="美しい" BETWEEN -3 AND 3 WORDS FROM キー IN subcorpusName="平安-仮名文学" AND core="true" -「言葉」の前後2語以内に出現する形容詞・形状詞 キー: (品詞 LIKE "形状詞%" OR 品詞 LIKE "形容詞%") AND 共起: 語彙素="言葉" BETWEEN -2 AND 2 WORDS FROM キー ***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a71cb] +ダウンロード +Excelでインポート -データの形式 --タブ区切りテキストの各列 **11/1 第6回 「中納言」の使い方(2) [#y361ac61] -3.4 複数単位の組み合わせ（共起・連接）から（p.6） **10/25 第5回 コーパスの形態論情報(2)／「中納言」の使い方(1) [#mbc48064] ***コーパスへの形態論情報の付与 [#sfd1b3f3] -短単位：MeCabとUniDicを使った形態素解析で情報付与 -長単位：Comainu（など）で短単位を組み上げる ***形態素解析を試してみる [#gf5bf622] -[[Web茶まめ>https://chamame.ninjal.ac.jp/]] --https://chamame.ninjal.ac.jp/ --新聞と文学作品の語種比率比較 ***形態素解析の仕組み [#e1069790] -[[授業資料/形態素解析]] ***「中納言」の使い方 [#b5d4323a] --[[配布資料・中納言の使い方>https://lms.seikei.ac.jp/lms/lginLgir/index?target=3CtaS8bL]] **10/18 &color(red){休み};（四大学運動競技大会） [#cb023108] **10/11 第4回 コーパスの形態論情報 [#mbc48064] ***利用する側から見たコーパスの設計 [#p142476c] -BCCWJでもCHJでも、どのように設計されているかを知らないと大きな誤りを犯す可能性がある --サブコーパスのサイズを無視した比較 --バランスのとれていない項目間の単純比較（BCCWJの年代、CHJの時代・ジャンル等） -今後の授業の中で詳しく説明していきます ***コーパスの形態論情報 [#w3c3c79b] --http://clrd.ninjal.ac.jp/bccwj/morphology.html -短単位と長単位 --[[（スライド）長単位と短単位>https://lms.seikei.ac.jp/lms/lginLgir/index?target=J-uRJyWF]] 参照 --[[長単位と短単位・資料>https://lms.seikei.ac.jp/lms/lginLgir/index?target=TkmIFkZr]] 単位切りの例 --（参考）動画：コーパス検索システムの言語単位『短単位』 https://youtu.be/s5akpYOzNIU ***品詞体系 [#d6776112] -BCCWJ・CHJは[[UniDic>https://clrd.ninjal.ac.jp/unidic/]]の品詞体系にもとづく（BCCWJのために開発されたのがUniDic） --[[授業資料/UniDicの品詞体系]] --[[授業資料/UniDicの見出し語階層]] -コーパス検索アプリケーション「中納言」と短単位と長単位 --[[中納言の使い方>https://lms.seikei.ac.jp/lms/lginLgir/index?target=RUbDW5p_]] ***参考資料 [#t1ff9987] -BCCWJ関連報告書 http://clrd.ninjal.ac.jp/bccwj/doc.html --形態論情報規程集(PDF) [[第4版 上>http://doi.org/10.15084/00002855]]・[[第4版 下>http://doi.org/10.15084/00002856]] ***コーパスへの形態論情報の付与 [#sfd1b3f3] -短単位：MeCabとUniDicを使った形態素解析で情報付与 -長単位：長単位解析器で短単位を組み上げる ***形態素解析を試してみる [#gf5bf622] -[[Web茶まめ>https://chamame.ninjal.ac.jp/]] --https://chamame.ninjal.ac.jp/ ***形態素解析の仕組み [#e1069790] -[[授業資料/形態素解析]] ***「中納言」の使い方 [#b5d4323a] --[[配布資料・中納言の使い方>https://lms.seikei.ac.jp/lms/lginLgir/index?target=3CtaS8bL]] **10/4 第3回 日本語コーパスの紹介（2）『日本語日常会話コーパス』『日本語歴史コーパス』『昭和・平成書き言葉コーパス』 [#ve9cc95a] ***（前回補足）参考リンク [#o1a9da5c] -英語のコーパス リファレンス --[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/icame/manuals/brown/]] http://khnt.aksis.uib.no/icame/manuals/brown/ --[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/docs/URG/]] http://www.natcorp.ox.ac.uk/docs/URG/ -現代日本語書き言葉均衡コーパス（BCCWJ） --[[現代日本語書き言葉均衡コーパス：概要>https://clrd.ninjal.ac.jp/bccwj/index.html]] --BCCWJの基本設計：https://clrd.ninjal.ac.jp/bccwj/basic-design.html --サンプリング：https://clrd.ninjal.ac.jp/bccwj/sampling.html --XMLによる電子化：https://clrd.ninjal.ac.jp/bccwj/XML.html ***「日本語日常会話コーパス」（CEJC）の設計・構成 [#x9f78d1c] -https://www2.ninjal.ac.jp/conversation/cejc.html -[[『日本語日常会話コーパス』—設計・構築・特徴（報告書）>https://www2.ninjal.ac.jp/conversation/report/report06.pdf]] ***「日本語歴史コーパス」（CHJ）の構成 [#x9f78d1c] -https://clrd.ninjal.ac.jp/chj/ -残された資料に限りがある（そもそも偏りがある）歴史的なコーパスの場合、現代語コーパス同様の「代表性」を求めることは困難 :近世以前|残されている資料が少なく、できるだけ（可能なら全部）コーパスに入れたい :近世（後期）以降|偏りはあるものの選べるだけの資料があるが、それでもなるべく全文でいれたい（作品など資料単位で調査したい） -[[『日本語歴史コーパス』>https://clrd.ninjal.ac.jp/chj/]]の中身 --中世以前は重要な資料をまるごと対象に --近世の洒落本・人情本：年代・著者（・地域）のバランスを取って作品単位でサンプリング ***近代語コーパスの場合 [#p0de8288] -近代雑誌（現在はCHJの一部） --多様な記事を含む「総合雑誌」を対象とすることでバランスを確保 --発行年での大まかなサンプリング ---[[「太陽コーパス」>https://clrd.ninjal.ac.jp/cmj/taiyou/index.html]]：8年おきに12冊ずつを対象 --その後の雑誌コーパスも8年おきに収録 ---明六雑誌・東洋学芸雑誌・国民之友・太陽（・中央公論・文藝春秋） -近代小説 --複数の有識者が日本語資料として選定・投票した結果（1980年代に作成した資料）をもとにサンプリング --https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi_2019b_e3.pdf ***「昭和・平成書き言葉コーパス」（SHC）の設計・構成 [#w08af300] -https://clrd.ninjal.ac.jp/shc/ -[[「『昭和・平成書き言葉コーパス』の設計・構築・公開」『情報処理学会論文誌』65(2)>https://clrd.ninjal.ac.jp/shc/doc/IPSJ_SHC.pdf]] **9/27 第2回 コーパスとは 日本語コーパスの紹介（1）『現代日本語書き言葉均衡コーパス』[#i1f04b91] ***「中納言」授業アカウント配布 [#k69da28b] -授業で使うコーパスが授業期間の半年間のみ使えるアカウントを配布します -個人アカウントを持っている人はそれを使ってください https://chunagon.ninjal.ac.jp/ ***コーパスを使ってみる [#s1b41ed3] 細かい話は抜きで「中納言」でコーパスを使ってみよう -『現代日本語書き言葉均衡コーパス』（BCCWJ） -コアデータのみを対象とする指定（負荷軽減のため） -文字列検索 -短単位検索 ***コーパスとは [#t54768fa] --以下、[[スライド>https://lms.seikei.ac.jp/lms/lginLgir/index?target=pqyaFO1j]]（CoursePower）参照 :狭義のコーパス|言語研究を目的として収集され、言語研究のための情報が付けられたコンピュータ上で利用可能な大規模な言語データ。 --現代日本語書き言葉均衡コーパス（BCCWJ） / 日本語歴史コーパス（CHJ） :広義のコーパス|コンピュータ上で利用可能な大規模な言語データ。必ずしも言語研究向きではないが、言語研究に利用可能。 -さまざまなテキストアーカイブ（新潮文庫の百冊 / 青空文庫 / 国会会議録） --参考：[[「ひまわり」パッケージ>https://www2.ninjal.ac.jp/lrc/index.php?%C1%B4%CA%B8%B8%A1%BA%F7%A5%B7%A5%B9%A5%C6%A5%E0%A1%D8%A4%D2%A4%DE%A4%EF%A4%EA%A1%D9]] -Web上のデータ --検索サイトの利用 --WAC（Web as Corpus） -この授業で主に扱うのは狭義のコーパス。中でも「現代日本語書き言葉均衡コーパス（BCCWJ）」「日本語日常会話コーパス（CEJC）」と「日本語歴史コーパス（CHJ）」「昭和・平成書き言葉コーパス（SHC）」 ***コーパスへの要請 [#n1ef5148] --大規模であること --各種のテキストが含まれていて、ジャンルなどのバランスがとれていること --著作権の問題がないこと --言語研究に利用できる情報がついていること ***「現代日本語書き言葉均衡コーパス」（BCCWJ）の構成とサンプリング [#s89fe505] -https://clrd.ninjal.ac.jp/bccwj/ -均衡コーパス（Balanced corpus） --「バランスがとれている」「代表性」とは？ --コーパスの母集団の設定とサンプリング --BCCWJのサブコーパス --可変長と固定長 -著作権をめぐる問題 **09/20 第1回 イントロダクション [#a2711c5f] -[[自己紹介]] --大学共同利用機関法人人間文化研究機構 国立国語研究所 https://www.ninjal.ac.jp/ --[[国立国語研究所コーパス開発センター>https://clrd.ninjal.ac.jp/]] https://clrd.ninjal.ac.jp/ ***授業内容等の確認 [#e55ee18f] -シラバスの確認 --[[シラバス>https://portal.seikei.ac.jp/campusweb/slbssbdr.do?value(risyunen)=2024&value(semekikn)=1&value(kougicd)=125232150&value(crclumcd)=50224-0100]] --この授業の目的 --授業の進め方 --評価方法 -受講者アンケート --関心のある分野について --PC等のスキルについて ***授業内容デモ [#kc4ae1c5] -コーパスの利用 --コーパス検索システム[[中納言>https://chunagon.ninjal.ac.jp]] ---[[「現代日本語書き言葉均衡コーパス（BCCWJ）」>https://clrd.ninjal.ac.jp/bccwj/]] ---[[「日本語日常会話コーパス（CEJC）」>https://www2.ninjal.ac.jp/conversation/corpus.html]] ---[[「日本語歴史コーパス（CHJ）」>https://clrd.ninjal.ac.jp/chj/]] ---[[「昭和・平成書き言葉コーパス（SHC）」>https://clrd.ninjal.ac.jp/shc/]] -Excelによる集計 --ピボットテーブル --文字列関数・VLOOKUP関数 -形態素解析 --[[Web茶まめ>https://chamame.ninjal.ac.jp]] ***「中納言」アカウントについて [#t6709ede] -「中納言」オンライン利用申込み --他のコーパス無含めて今後も利用したい場合は下記から個人でアカウントを取得してください --https://chunagon.ninjal.ac.jp/useraccount/register ***授業で利用する主なソフトウェア・Webアプリケーション（予定） [#i06478d2] |ソフトウェアの種類・名前|利用目的|h |[[コーパス検索アプリケーション''「中納言」''>https://chunagon.ninjal.ac.jp/]]|コーパスの検索| |表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ作成| |ワープロ''Word''|「スタイル」を利用したレポート作成| |[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
