学習院2022
をテンプレートにして作成
開始行:
[[FrontPage]]
*日本語学講義Ⅱ(コーパス日本語学入門) [#f20f4b84]
-前期金曜4限:14:40-16:10
-Mail: ogiso@ogiso.net
-Zoomによるリアルタイムのオンライン授業形式で行います。Zo...
--[[WebClassの授業ページ>https://webclass.gakushuin.ac.jp...
-[[中納言>https://chunagon.ninjal.ac.jp]]
**&color(red){レポート提出について}; [#da47d162]
-締切:7月29日(金)※事情があって延長したい場合には連絡す...
-分量目安:A4用紙で3~10枚
-提出先:下記リンク(WebClass)から提出
--https://webclass.gakushuin.ac.jp/webclass/login.php?id=...
-都合によってメールで送る場合はメール本文とレポートファイ...
-埋め込みデータによってWordファイルのサイズが大きくなりす...
**7月15日 第14回 テキストエディタと正規表現/Wordの使い...
***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]
-この授業ではVisual Studio Codeを例に説明します。各種プラ...
--https://code.visualstudio.com/
-正規表現を使った検索・置換、grepについてさわりだけ
-練習用サンプルデータ(漱石 こころ.txt)
--[[sample.zip>https://www.dropbox.com/s/fi5kg860wvlgwir/...
***正規表現を使ってみる [#qd06a22e]
VSCodeの検索で「.*」をクリックして正規表現モードをオン
-''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字(メタ文字)を使って文字列の...
--テキストエディタでは置換・検索・grepで利用できる (エ...
--特殊な文字(メタ文字)はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする(特...
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定(補集合)[^ ]
--繰り返し ? + *
--グループ化 ()
--or(論理和) |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ(外来語)の形容動詞語幹
-送りがなの揺れ(行う/行なう)
-会話文中("「"で始まる文中)の用例を検索する
-同一文中での共起
--全然~ない。
--もし~なら(ば)
-データの整形
--「中納言」の検索結果を置換で整形、必要な情報を取り出す
**Wordの使い方 [#yaa3050a]
-ここでは簡単に説明し、録画を配信します。
#include(授業資料/Wordと文書の構造化,notitle)
***授業録画の配信 [#lbf99b06]
-''&color(red){授業の録画は、WebClass授業ページの Zoom録...
**7月8日 第13回 コーパスの語彙表の利用・コロケーション...
***語彙表の利用 [#c2802295]
調査対象の語をコーパス全体の中に位置づける、他の語と比較...
-BCCWJ語彙表 https://clrd.ninjal.ac.jp/bccwj/bcc-chu.html
--http://doi.org/10.15084/00003219
-CHJ語彙表 https://clrd.ninjal.ac.jp/chj/chj-wc.html
--http://doi.org/10.15084/00003541
***コロケーション強度 [#y45adc9c]
-[[授業資料/コロケーション強度]]
-「玉葱」と共起する動詞の例
--[[collocation_sample.xlsx>https://www.dropbox.com/s/t1i...
-[[VLOOKUP>授業資料/VLOOKUP関数]]で、語彙表から調査対象語...
--[[サンプルデータ>https://www.dropbox.com/s/wldbr8v96jgu...
**07/01 第12回 文字列関数/VLOOKUP関数の利用 [#r2e8774c]
***Excelの文字列関数 [#r56f9082]
集計に必要な情報をフィールドから切り出すことで集計に使う
-[[授業資料/EXCELの文字列関数]]参照
-(参考)Mac版Excelと文字種(前回分)
--フィルタのオプションで平仮名と片仮名が区別されないので...
---=unicode(文字列) :文字列の先頭文字の文字コード(Unico...
***「中納言」インラインタグ機能の利用 [#h1e23ecf]
-前後文脈に埋め込んだタグから、必要な情報を取り出して利用
--テキストエディタと正規表現を使うと便利だが、テキストフ...
---(参考)[[授業資料/正規表現]]
***VLOOKUP関数の利用 [#tf76047b]
-[[授業資料/VLOOKUP関数]]参照
***辞書引き集計 [#k380e1c9]
自分で作った(または誰かが用意してくれた)辞書データ(コ...
-例:形容詞の意味分類付与
--(参考)分類語彙表 https://clrd.ninjal.ac.jp/goihyo.html
--[[サンプルデータ(味・においの形容詞)>https://www.drop...
***アノテーションの利用 [#qbe9ddda]
自分で作った(または誰かが用意してくれた)コーパスへのア...
-例:中古ラレルの用法分類
--[[『日本語歴史コーパス』中古「る」「らる」用法分類アノ...
**06/24 第11回 レポートテーマについて [#yb8fa25a]
-レポートテーマについて
--リアルタイム参加ができない人は事前にWebClassで連絡
-普段から見聞きする言葉に気をつけるとともに、他の授業や書...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
-参考
--[[〈参考〉 国語に関する世論調査の結果について(文化庁)...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
-例((実際に検索してみてできそうなものと難しそうなものが含...
--表記
---「雀」「すずめ」「スズメ」動植物名の表記・・・レジスタ...
---「卵」「玉子」「たまご」「タマゴ」・・・意味の違い?文...
---「栄養/営養」「仕合わせ/幸せ」
---「斡旋」「あっ旋」「あっせん」、「石鹸」「石けん」「せ...
--類義語・対義語
---「奇麗」と「美しい」・・・連体修飾する名詞の違い(→意...
---「うるさい」「やかましい」「さわがしい」「かしましい」...
---「男性」と「女性」(「男」と「女」)・・・語彙の非対称...
--語形、語法
---「好ましい」「好もしい」・・・語形の揺れと文体差
---「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙...
---「婦人/女性」「普通/尋常」
--意味変化
---「美しい」「すごい」「やばい」、「米」
**06/17 第10回 さまざまな集計 [#n8a94c4a]
***(Excel基礎)セルの相対参照と絶対参照 [#e418e4aa]
-A1:相対参照
-$A$1:絶対参照
-$A1:列のみ絶対参照
***【前回補足】調整頻度の計算 [#g22b1927]
-クロス集計表
--例:「矢張り」
--※割合を比較するだけなら調整頻度を出す必要はない。
***『日本語歴史コーパス』での調整頻度 [#uee51f5f]
-【例】頻度で見る「あはれ」「をかし」と源氏・枕
--※作品間比較では、最低限、調査対象の語数を考慮する(=調...
--『日本語歴史コーパス』の語数表は下記を利用
---[[日本語歴史コーパス/語彙統計/短単位語数表>https://clr...
***集計用の列を自分で用意する [#ccae4a87]
-検索例:蒲公英・向日葵・蓮華
--表記(ひらがな・カタカナ・漢字)別集計
---フィルタ機能を上手く使って「文字種」列を作る
-(参考)Mac版Excelと文字種
--Macではフィルタの際に平仮名と片仮名が区別されないので、...
---=unicode(文字列) :文字列の先頭文字の文字コード(Unico...
-応用:用法分類などなど
***(次回予告)レポートテーマ案について [#m4ea4493]
-次回、レポートテーマとして考えていることを全員に聞きます...
--リアルタイム参加ができない人は事前にWebClassで連絡を
**06/10 第9回 ランダムサンプリング/調整頻度の計算 [#m2...
***【前回補足】複数の検索結果をまとめるもう一つの方法 [#j...
「検索条件式ごとに出力ファイルを分割する」を外して検索条...
-例:
キー: 品詞 LIKE "名詞%"
AND 前方共起: (語彙素="美しい" AND 活用形 LIKE "連体形%"...
キー: 品詞 LIKE "名詞%"
AND 前方共起: 語彙素="奇麗" ON 2 WORDS FROM キー
AND 前方共起: (語彙素="だ" AND 活用形 LIKE "連体形%") ON...
***ランダムサンプリング調査 [#j4516bb3]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-例:「られる」「全然」
***出現サンプル数の調査(重複の削除) [#lb271de6]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
-例:「俺・僕・私」
***BCCWJ利用の落とし穴 [#le968f3e]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--→調整頻度の計算
---cf.人口あたりの事故件数,1平方キロあたりの…etc.
-BCCWJの語数
--https://clrd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
-短単位語数表をピボットテーブルで集計
--短単位語数表:http://doi.org/10.15084/00003226
***調整頻度(pmw) [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母にする
-調整頻度には100万語あたりの頻度(pmw)がよく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-例:「パソコン」「立ち上げる」
**06/03 第8回 Excelによる検索結果の集計(2) [#dc23bf96]
***「中納言」検索課題(いままでの復習) [#v4e9fe47]
-[[「中納言」検索課題 PDF>https://webclass.gakushuin.ac.j...
***複数の検索結果の結合 [#l9b3620b]
一度にピボットテーブルで集計できるように一つの表にまとめる
-※必ず表をくっつけること(空行を入れるとそこで表が切れて...
ショートカットキーを活用すると便利
-Ctrl((Macの場合はCommand))+End((EndキーはノートPCではし...
-Shift+Ctrl+End((EndがFn+→の場合は、Shift+Ctrl+Fn+→を同時...
+表をコピー
--Ctrl+Home((HomeキーはノートPCではしばしばFn+←))(表の左...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓(表の一番下の行に移動), ↓(1行下へ), Ctrl+V(...
-[[授業資料/覚えておきたいショートカットキー]]
-例:ワイン・葡萄酒 ※単位数が違うので検索条件式でも一つ...
キー: 語彙素="ワイン";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
**05/27 第7回 Excelによる検索結果の集計 [#y218cbb7]
-中納言の使い方 (PDF)[[ダウンロード>https://webclass.gaku...
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+Excelでインポート
-データの形式
--タブ区切りテキストの各列
***Excelの基礎 [#t5ba152a]
-並べ替え(ソート)
--反転前文脈の使い方
-フィルタ(絞り込み)
--テキストフィルタ
--多重フィルター(複数の条件指定)
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
-例:CHJの犬と猫
-(参考)国語研オープンハウス2021 https://www2.ninjal.ac...
--動画:『日本語歴史コーパス』のかんたんな使い方─犬派?猫...
**05/20 第6回 『中納言』の使い方(2) [#w15b5e7c]
***「中納言の使い方」 [#wcc5208d]
-[[中納言の使い方>https://webclass.gakushuin.ac.jp/webcla...
-3.6 特殊な検索指定 ~
**05/13 第5回 『中納言』の使い方 [#hc863b3f]
***(前回補足)形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]
--https://chamame.ninjal.ac.jp/
-ニュースのテキストとブログやSNSのテキストの比較
***(前回補足)形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***「中納言の使い方」 [#wcc5208d]
-[[中納言の使い方>https://webclass.gakushuin.ac.jp/webcla...
**05/06 第4回 コーパスの形態論情報 [#ffa13ba1]
***コーパスの形態論情報 [#w3c3c79b]
-BCCWJの形態論情報
--http://clrd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[(スライド)長単位と短単位>https://webclass.gakushuin...
--[[長単位と短単位・資料>https://webclass.gakushuin.ac.jp...
--(参考)動画:コーパス検索システムの言語単位『短単位』 ...
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://webclass.gakushuin.ac.jp/webcl...
***品詞体系 [#d6776112]
-BCCWJ・CHJは[[UniDic>https://clrd.ninjal.ac.jp/unidic/]]...
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位:MeCabとUniDicを使った形態素解析で情報付与
-長単位:短単位を組み上げて情報付与
***参考資料 [#t1ff9987]
-BCCWJ関連報告書 http://clrd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://doi.org/10.150...
**04/29(授業実施日) 第3回 日本語コーパスの紹介(2)&br...
***放送予定 [#w5292560]
-チコちゃんに叱られる! 4月29日(金)午後7:57
--「私は」は「は」と書くのになぜ「わ」という?
--https://www.nhk.jp/p/chicochan/ts/R12Z9955V3/episode/te...
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-スライド「コーパスとは~BCCWJの設計」 P.45 「3つのサブ...
***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://ccd.ninjal.ac.jp/chj/
-残された資料に限りがある(そもそも偏りがある)歴史的なコ...
:近世以前|残されている資料が少なく、できるだけ(可能なら...
:近世(後期)以降|偏りはあるものの選べるだけの資料がある...
-[[『日本語歴史コーパス』>https://ccd.ninjal.ac.jp/chj/]]...
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本:年代・著者(・地域)のバランスを...
***近代語コーパスの場合 [#p0de8288]
-近代雑誌(現在はCHJの一部)
--多様な記事を含む「総合雑誌」を対象とすることでバランス...
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://ccd.ninjal.ac.jp/cmj/taiyou...
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文...
-近代小説
--複数の有識者が日本語資料として選定・投票した結果(1980...
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi...
***「日本語日常会話コーパス」(CEJC)の構成 [#x9f78d1c]
-[[『日本語日常会話コーパス』>https://www2.ninjal.ac.jp/c...
--現在はモニター版100時間分を公開
--https://www2.ninjal.ac.jp/conversation/cejc-monitor/des...
***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと...
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較(BCCWJの年代、CH...
**04/22 第2回 日本語コーパスの紹介(1)『現代日本語書き...
***「中納言」授業アカウントの配布 [#k4971e1e]
-チャットで一人ずつ配布します
-個人用アカウントを取得した人は不要です
***コーパスを使ってみる [#s1b41ed3]
-細かい話は抜きで「中納言」でコーパスを使ってみよう
--『現代日本語書き言葉均衡コーパス』(BCCWJ)コアのみを対...
--文字列検索
--短単位検索
***コーパスとは [#t54768fa]
(以下スライド参照)
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 ...
--参考:[[「ひまわり」パッケージ>https://www2.ninjal.ac.j...
-Web上のデータ
--検索サイトの利用
--WAC(Web as Corpus)
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***コーパスへの要請 [#c3c11312]
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-https://clrd.ninjal.ac.jp/bccwj/
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
------
-著作権をめぐる問題
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>https://clrd.nin...
--BCCWJの基本設計:https://clrd.ninjal.ac.jp/bccwj/basic-...
--サンプリング:https://clrd.ninjal.ac.jp/bccwj/sampling....
--XMLによる電子化:https://clrd.ninjal.ac.jp/bccwj/XML.html
------
**04/15 第1回 イントロダクション [#z7ffa4ea]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所言語資源開発センター>https://clrd.ninja...
***授業内容等の確認 [#e55ee18f]
-オンライン授業の進め方について
--原則としてZoomでのリアルタイム授業
--録画を共有するので復習すること
-[[シラバス>https://g-port.univ.gakushuin.ac.jp/campusweb...
--[[シラバス(G-Port)>https://g-port.univ.gakushuin.ac.jp/...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--受講環境(大学/自室、Windows/Mac/その他、受講中のPC操作...
--関心のある分野について
--PC等のスキルについて
***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-個人用の「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション(...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://c...
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス(CHJ)」>https://clrd.ninjal.ac....
-Excelによる集計(ピボットテーブル)
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタと正規表現
***(オープンハウス) [#v4246970]
-(参考)国語研オープンハウス2020 https://www2.ninjal.ac...
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR...
-(参考)国語研オープンハウス2021 https://www2.ninjal.ac...
--動画:『日本語歴史コーパス』のかんたんな使い方─犬派?猫...
終了行:
[[FrontPage]]
*日本語学講義Ⅱ(コーパス日本語学入門) [#f20f4b84]
-前期金曜4限:14:40-16:10
-Mail: ogiso@ogiso.net
-Zoomによるリアルタイムのオンライン授業形式で行います。Zo...
--[[WebClassの授業ページ>https://webclass.gakushuin.ac.jp...
-[[中納言>https://chunagon.ninjal.ac.jp]]
**&color(red){レポート提出について}; [#da47d162]
-締切:7月29日(金)※事情があって延長したい場合には連絡す...
-分量目安:A4用紙で3~10枚
-提出先:下記リンク(WebClass)から提出
--https://webclass.gakushuin.ac.jp/webclass/login.php?id=...
-都合によってメールで送る場合はメール本文とレポートファイ...
-埋め込みデータによってWordファイルのサイズが大きくなりす...
**7月15日 第14回 テキストエディタと正規表現/Wordの使い...
***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]
-この授業ではVisual Studio Codeを例に説明します。各種プラ...
--https://code.visualstudio.com/
-正規表現を使った検索・置換、grepについてさわりだけ
-練習用サンプルデータ(漱石 こころ.txt)
--[[sample.zip>https://www.dropbox.com/s/fi5kg860wvlgwir/...
***正規表現を使ってみる [#qd06a22e]
VSCodeの検索で「.*」をクリックして正規表現モードをオン
-''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字(メタ文字)を使って文字列の...
--テキストエディタでは置換・検索・grepで利用できる (エ...
--特殊な文字(メタ文字)はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする(特...
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定(補集合)[^ ]
--繰り返し ? + *
--グループ化 ()
--or(論理和) |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ(外来語)の形容動詞語幹
-送りがなの揺れ(行う/行なう)
-会話文中("「"で始まる文中)の用例を検索する
-同一文中での共起
--全然~ない。
--もし~なら(ば)
-データの整形
--「中納言」の検索結果を置換で整形、必要な情報を取り出す
**Wordの使い方 [#yaa3050a]
-ここでは簡単に説明し、録画を配信します。
#include(授業資料/Wordと文書の構造化,notitle)
***授業録画の配信 [#lbf99b06]
-''&color(red){授業の録画は、WebClass授業ページの Zoom録...
**7月8日 第13回 コーパスの語彙表の利用・コロケーション...
***語彙表の利用 [#c2802295]
調査対象の語をコーパス全体の中に位置づける、他の語と比較...
-BCCWJ語彙表 https://clrd.ninjal.ac.jp/bccwj/bcc-chu.html
--http://doi.org/10.15084/00003219
-CHJ語彙表 https://clrd.ninjal.ac.jp/chj/chj-wc.html
--http://doi.org/10.15084/00003541
***コロケーション強度 [#y45adc9c]
-[[授業資料/コロケーション強度]]
-「玉葱」と共起する動詞の例
--[[collocation_sample.xlsx>https://www.dropbox.com/s/t1i...
-[[VLOOKUP>授業資料/VLOOKUP関数]]で、語彙表から調査対象語...
--[[サンプルデータ>https://www.dropbox.com/s/wldbr8v96jgu...
**07/01 第12回 文字列関数/VLOOKUP関数の利用 [#r2e8774c]
***Excelの文字列関数 [#r56f9082]
集計に必要な情報をフィールドから切り出すことで集計に使う
-[[授業資料/EXCELの文字列関数]]参照
-(参考)Mac版Excelと文字種(前回分)
--フィルタのオプションで平仮名と片仮名が区別されないので...
---=unicode(文字列) :文字列の先頭文字の文字コード(Unico...
***「中納言」インラインタグ機能の利用 [#h1e23ecf]
-前後文脈に埋め込んだタグから、必要な情報を取り出して利用
--テキストエディタと正規表現を使うと便利だが、テキストフ...
---(参考)[[授業資料/正規表現]]
***VLOOKUP関数の利用 [#tf76047b]
-[[授業資料/VLOOKUP関数]]参照
***辞書引き集計 [#k380e1c9]
自分で作った(または誰かが用意してくれた)辞書データ(コ...
-例:形容詞の意味分類付与
--(参考)分類語彙表 https://clrd.ninjal.ac.jp/goihyo.html
--[[サンプルデータ(味・においの形容詞)>https://www.drop...
***アノテーションの利用 [#qbe9ddda]
自分で作った(または誰かが用意してくれた)コーパスへのア...
-例:中古ラレルの用法分類
--[[『日本語歴史コーパス』中古「る」「らる」用法分類アノ...
**06/24 第11回 レポートテーマについて [#yb8fa25a]
-レポートテーマについて
--リアルタイム参加ができない人は事前にWebClassで連絡
-普段から見聞きする言葉に気をつけるとともに、他の授業や書...
-ひとつの言葉から、同種の別の語や違う観点からの観察などへ...
-参考
--[[〈参考〉 国語に関する世論調査の結果について(文化庁)...
--[[〈参考〉国語研・ことばの疑問>https://kotobaken.jp/qa/]]
--[[〈参考〉NHK放送文化研究所・ことばの研究>https://www.n...
-例((実際に検索してみてできそうなものと難しそうなものが含...
--表記
---「雀」「すずめ」「スズメ」動植物名の表記・・・レジスタ...
---「卵」「玉子」「たまご」「タマゴ」・・・意味の違い?文...
---「栄養/営養」「仕合わせ/幸せ」
---「斡旋」「あっ旋」「あっせん」、「石鹸」「石けん」「せ...
--類義語・対義語
---「奇麗」と「美しい」・・・連体修飾する名詞の違い(→意...
---「うるさい」「やかましい」「さわがしい」「かしましい」...
---「男性」と「女性」(「男」と「女」)・・・語彙の非対称...
--語形、語法
---「好ましい」「好もしい」・・・語形の揺れと文体差
---「煙草を吸う」と「煙草をのむ」・・・用例数の割合、「煙...
---「婦人/女性」「普通/尋常」
--意味変化
---「美しい」「すごい」「やばい」、「米」
**06/17 第10回 さまざまな集計 [#n8a94c4a]
***(Excel基礎)セルの相対参照と絶対参照 [#e418e4aa]
-A1:相対参照
-$A$1:絶対参照
-$A1:列のみ絶対参照
***【前回補足】調整頻度の計算 [#g22b1927]
-クロス集計表
--例:「矢張り」
--※割合を比較するだけなら調整頻度を出す必要はない。
***『日本語歴史コーパス』での調整頻度 [#uee51f5f]
-【例】頻度で見る「あはれ」「をかし」と源氏・枕
--※作品間比較では、最低限、調査対象の語数を考慮する(=調...
--『日本語歴史コーパス』の語数表は下記を利用
---[[日本語歴史コーパス/語彙統計/短単位語数表>https://clr...
***集計用の列を自分で用意する [#ccae4a87]
-検索例:蒲公英・向日葵・蓮華
--表記(ひらがな・カタカナ・漢字)別集計
---フィルタ機能を上手く使って「文字種」列を作る
-(参考)Mac版Excelと文字種
--Macではフィルタの際に平仮名と片仮名が区別されないので、...
---=unicode(文字列) :文字列の先頭文字の文字コード(Unico...
-応用:用法分類などなど
***(次回予告)レポートテーマ案について [#m4ea4493]
-次回、レポートテーマとして考えていることを全員に聞きます...
--リアルタイム参加ができない人は事前にWebClassで連絡を
**06/10 第9回 ランダムサンプリング/調整頻度の計算 [#m2...
***【前回補足】複数の検索結果をまとめるもう一つの方法 [#j...
「検索条件式ごとに出力ファイルを分割する」を外して検索条...
-例:
キー: 品詞 LIKE "名詞%"
AND 前方共起: (語彙素="美しい" AND 活用形 LIKE "連体形%"...
キー: 品詞 LIKE "名詞%"
AND 前方共起: 語彙素="奇麗" ON 2 WORDS FROM キー
AND 前方共起: (語彙素="だ" AND 活用形 LIKE "連体形%") ON...
***ランダムサンプリング調査 [#j4516bb3]
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-例:「られる」「全然」
***出現サンプル数の調査(重複の削除) [#lb271de6]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
-例:「俺・僕・私」
***BCCWJ利用の落とし穴 [#le968f3e]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--→調整頻度の計算
---cf.人口あたりの事故件数,1平方キロあたりの…etc.
-BCCWJの語数
--https://clrd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
-短単位語数表をピボットテーブルで集計
--短単位語数表:http://doi.org/10.15084/00003226
***調整頻度(pmw) [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---語数ファイルをピボットテーブルで集計して分母にする
-調整頻度には100万語あたりの頻度(pmw)がよく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-例:「パソコン」「立ち上げる」
**06/03 第8回 Excelによる検索結果の集計(2) [#dc23bf96]
***「中納言」検索課題(いままでの復習) [#v4e9fe47]
-[[「中納言」検索課題 PDF>https://webclass.gakushuin.ac.j...
***複数の検索結果の結合 [#l9b3620b]
一度にピボットテーブルで集計できるように一つの表にまとめる
-※必ず表をくっつけること(空行を入れるとそこで表が切れて...
ショートカットキーを活用すると便利
-Ctrl((Macの場合はCommand))+End((EndキーはノートPCではし...
-Shift+Ctrl+End((EndがFn+→の場合は、Shift+Ctrl+Fn+→を同時...
+表をコピー
--Ctrl+Home((HomeキーはノートPCではしばしばFn+←))(表の左...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓(表の一番下の行に移動), ↓(1行下へ), Ctrl+V(...
-[[授業資料/覚えておきたいショートカットキー]]
-例:ワイン・葡萄酒 ※単位数が違うので検索条件式でも一つ...
キー: 語彙素="ワイン";
キー: 語彙素="葡萄" AND 後方共起: 語彙素="酒" ON 1 WORDS...
**05/27 第7回 Excelによる検索結果の集計 [#y218cbb7]
-中納言の使い方 (PDF)[[ダウンロード>https://webclass.gaku...
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+Excelでインポート
-データの形式
--タブ区切りテキストの各列
***Excelの基礎 [#t5ba152a]
-並べ替え(ソート)
--反転前文脈の使い方
-フィルタ(絞り込み)
--テキストフィルタ
--多重フィルター(複数の条件指定)
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
-例:CHJの犬と猫
-(参考)国語研オープンハウス2021 https://www2.ninjal.ac...
--動画:『日本語歴史コーパス』のかんたんな使い方─犬派?猫...
**05/20 第6回 『中納言』の使い方(2) [#w15b5e7c]
***「中納言の使い方」 [#wcc5208d]
-[[中納言の使い方>https://webclass.gakushuin.ac.jp/webcla...
-3.6 特殊な検索指定 ~
**05/13 第5回 『中納言』の使い方 [#hc863b3f]
***(前回補足)形態素解析を試してみる [#gf5bf622]
-[[Web茶まめ>https://chamame.ninjal.ac.jp/]]
--https://chamame.ninjal.ac.jp/
-ニュースのテキストとブログやSNSのテキストの比較
***(前回補足)形態素解析の仕組み [#e1069790]
-[[授業資料/形態素解析]]
***「中納言の使い方」 [#wcc5208d]
-[[中納言の使い方>https://webclass.gakushuin.ac.jp/webcla...
**05/06 第4回 コーパスの形態論情報 [#ffa13ba1]
***コーパスの形態論情報 [#w3c3c79b]
-BCCWJの形態論情報
--http://clrd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[(スライド)長単位と短単位>https://webclass.gakushuin...
--[[長単位と短単位・資料>https://webclass.gakushuin.ac.jp...
--(参考)動画:コーパス検索システムの言語単位『短単位』 ...
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://webclass.gakushuin.ac.jp/webcl...
***品詞体系 [#d6776112]
-BCCWJ・CHJは[[UniDic>https://clrd.ninjal.ac.jp/unidic/]]...
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位:MeCabとUniDicを使った形態素解析で情報付与
-長単位:短単位を組み上げて情報付与
***参考資料 [#t1ff9987]
-BCCWJ関連報告書 http://clrd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>http://doi.org/10.150...
**04/29(授業実施日) 第3回 日本語コーパスの紹介(2)&br...
***放送予定 [#w5292560]
-チコちゃんに叱られる! 4月29日(金)午後7:57
--「私は」は「は」と書くのになぜ「わ」という?
--https://www.nhk.jp/p/chicochan/ts/R12Z9955V3/episode/te...
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-スライド「コーパスとは~BCCWJの設計」 P.45 「3つのサブ...
***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://ccd.ninjal.ac.jp/chj/
-残された資料に限りがある(そもそも偏りがある)歴史的なコ...
:近世以前|残されている資料が少なく、できるだけ(可能なら...
:近世(後期)以降|偏りはあるものの選べるだけの資料がある...
-[[『日本語歴史コーパス』>https://ccd.ninjal.ac.jp/chj/]]...
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本:年代・著者(・地域)のバランスを...
***近代語コーパスの場合 [#p0de8288]
-近代雑誌(現在はCHJの一部)
--多様な記事を含む「総合雑誌」を対象とすることでバランス...
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://ccd.ninjal.ac.jp/cmj/taiyou...
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文...
-近代小説
--複数の有識者が日本語資料として選定・投票した結果(1980...
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi...
***「日本語日常会話コーパス」(CEJC)の構成 [#x9f78d1c]
-[[『日本語日常会話コーパス』>https://www2.ninjal.ac.jp/c...
--現在はモニター版100時間分を公開
--https://www2.ninjal.ac.jp/conversation/cejc-monitor/des...
***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと...
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較(BCCWJの年代、CH...
**04/22 第2回 日本語コーパスの紹介(1)『現代日本語書き...
***「中納言」授業アカウントの配布 [#k4971e1e]
-チャットで一人ずつ配布します
-個人用アカウントを取得した人は不要です
***コーパスを使ってみる [#s1b41ed3]
-細かい話は抜きで「中納言」でコーパスを使ってみよう
--『現代日本語書き言葉均衡コーパス』(BCCWJ)コアのみを対...
--文字列検索
--短単位検索
***コーパスとは [#t54768fa]
(以下スライド参照)
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
-さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫 ...
--参考:[[「ひまわり」パッケージ>https://www2.ninjal.ac.j...
-Web上のデータ
--検索サイトの利用
--WAC(Web as Corpus)
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***コーパスへの要請 [#c3c11312]
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-https://clrd.ninjal.ac.jp/bccwj/
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性」とは?
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
------
-著作権をめぐる問題
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>https://clrd.nin...
--BCCWJの基本設計:https://clrd.ninjal.ac.jp/bccwj/basic-...
--サンプリング:https://clrd.ninjal.ac.jp/bccwj/sampling....
--XMLによる電子化:https://clrd.ninjal.ac.jp/bccwj/XML.html
------
**04/15 第1回 イントロダクション [#z7ffa4ea]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 国立国語研究所 htt...
--[[国立国語研究所言語資源開発センター>https://clrd.ninja...
***授業内容等の確認 [#e55ee18f]
-オンライン授業の進め方について
--原則としてZoomでのリアルタイム授業
--録画を共有するので復習すること
-[[シラバス>https://g-port.univ.gakushuin.ac.jp/campusweb...
--[[シラバス(G-Port)>https://g-port.univ.gakushuin.ac.jp/...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--受講環境(大学/自室、Windows/Mac/その他、受講中のPC操作...
--関心のある分野について
--PC等のスキルについて
***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-個人用の「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション(...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://c...
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス(CHJ)」>https://clrd.ninjal.ac....
-Excelによる集計(ピボットテーブル)
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタと正規表現
***(オープンハウス) [#v4246970]
-(参考)国語研オープンハウス2020 https://www2.ninjal.ac...
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR...
-(参考)国語研オープンハウス2021 https://www2.ninjal.ac...
--動画:『日本語歴史コーパス』のかんたんな使い方─犬派?猫...
ページ名: