東大2021
をテンプレートにして作成
開始行:
[[FrontPage]]
*言語学特殊講義XI/コーパス日本語学 [#f20f4b84]
-前期金曜4限:14:55-16:40
-Mail: ogiso@ogiso.net
-Zoomによるリアルタイムのオンライン授業形式で行います。Zo...
--[[文学部 04212151 言語学特殊講義XI>https://itc-lms.ecc....
--[[人文社会系研究科 21210110 コーパス日本語学>https://it...
※ITC-LMSのコースをまとめて、学部のページに統合しました。...
----
-リンク:「中納言」https://chunagon.ninjal.ac.jp/
//-''質問を受け付けています。自由に記入してください。次の...
//--https://itc-lms.ecc.u-tokyo.ac.jp/lms/course/surveys/...
**7月8日(第13回:最終回) レポートについて2 [#mfc93265]
***特徴語抽出 [#y8625f01]
複数コーパスの語彙を比較してコーパスに特徴的な語を抽出する
-[[授業資料/対数尤度比による特徴語抽出]]
***Wordでレポートを書く [#pc6b7b3b]
文書の構造化とWordの使い方(レポートの書き方)
-文書の構造化*
--スタイルと見出し
--ナビゲーション ウィンドウ(見出しマップ)の使い方
--章・節番号
-図表の貼り込み*
--「形式を選択して貼り付け」
--図表番号とキャプション
-脚注
--脚注と文末脚注
-相互参照
--節番号、図表番号と相互参照
--目次、図表目次
-ページ番号*
-PDFとして保存(ブックマークを付加)*
***レポートの構成について [#ee2b2c83]
-[[IMRAD>https://ja.wikipedia.org/wiki/IMRAD]]
***いっそうのコーパス活用のために [#icbefa10]
-この授業は基本的に''Excel(+エディタ)縛り''
-より進んだコーパス活用のために、下記の知識を身につけると...
--(参考リンク)[[『日本語歴史コーパス』 活用ワークショッ...
-Python
--例:[[Colaboratory/正規表現でテキストの前処理>https://c...
-R
--例:[[授業資料/Rの利用]]
-SQL (関係データベース)
--[[CHJBootCamp2019/DAY1-1]]
**7月2日(第12回) レポートについて/コロケーション強度 ...
***レポートテーマについて [#j82c082b]
-言語研究として興味深いテーマであってもコーパスによる調査...
-コーパスのさまざまな検索結果・集計結果から新たな研究課題...
***コロケーション強度 [#d05930b8]
コーパス中に出現する語同士の結びつきの強さをはかる
-[[授業資料/コロケーション強度]]
--参考資料:[[小木曽(2014)「コーパス活用の勘所(第6回)【...
-VLOOKUPで、語彙表から調査対象語のコーパス中の頻度を引い...
--BCCWJ https://ccd.ninjal.ac.jp/bccwj/bcc-chu.html
--CHJ https://ccd.ninjal.ac.jp/chj/chj-wc.html
**6月25日(第11回) テキストエディタと正規表現によるテキ...
***レポートテーマ(仮)提出について [#qc4c8d52]
-''&color(red){次回7月2日までに下記ITC-LMSのアンケートで...
--複数でも、今後変更しても構いません。現時点で考えている...
--https://itc-lms.ecc.u-tokyo.ac.jp/lms/course/surveys/ta...
***(再掲)「中納言」インラインタグ機能の利用 [#m062615c]
-前後文脈に埋め込んだタグから、必要な情報を取り出して利用
--エディタと正規表現を使うと便利
***デモ [#ob57bd7c]
-形容詞の連続の傾向
--cf.英語:OPSHACOM
***テキストデータについて [#k896318b]
-テキストデータとは:すべての基本、文字が並ぶだけのデータ
-[[授業資料/テキストデータとは]]
--バイナリデータとテキストデータ
-テキストファイルの拡張子:TXT,CSV,HTM…
--ファイルの種類と拡張子 参考:[[拡張子辞典>http://www.ji...
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B...
-サンプルデータ
--★[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tk...
***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]
***テキストエディタのダウンロードとインストール [#bf5ea59f]
-★[[サクラエディタのダウンロード:https://github.com/sakur...
---(参考) サクラエディタホームページ:https://sakura-edit...
-インストールの手順
--ダウンロードしたzipファイルの中にあるsakura-install*.ex...
--exeファイルを右クリックして「セキュリティ」の右の「許可...
--ダブルクリックしてインストール
***Macの場合(miのダウンロードとインストール) [#c84ab588]
-miのダウンロード https://www.mimikaki.net/
--ダウンロードされたファイルをダブルクリック
***テキストエディタの基本操作 [#ub1360ec]
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
-たいていのことはショートカットキーでできる
***正規表現とは [#d216d4e0]
-''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字(メタ文字)を使って文字列の...
--テキストエディタでは置換・検索・grepで利用できる (エ...
--特殊な文字(メタ文字)はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする(特...
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例:読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定(補集合)[^ ]
--繰り返し ? + *
--グループ化 ()
--or(論理和) |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ(外来語)の形容動詞語幹
-送りがなの揺れ(行う/行なう)
-会話文中("「"で始まる文中)の用例を検索する
-同一文中での共起
--全然~ない。
--もし~なら(ば)
***タグ付き正規表現 [#z9ef50e5]
-走[らりるれろ] でgrepした結果を置換するにはどうしたらい...
--次のように置換するととんでもないことに…
---検索文字列:走[らりるれろっ]
---置換文字列:★走[らりるれろっ]
-タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)...
-[[授業資料/タグつき正規表現]]
***最長一致の原則(greedy matching) [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例:''あ+'' → ''【\1】''
---ああああああああ → 【ああああああああ】
そのせいで…
--例:''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 → 【こんにちは」「さよう...
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1...
---「こんにちは」「さようなら」 → 【こんにちは】【さよう...
-よりかんたんに指定するには(最短一致,ものぐさ指定)
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に...
-(参考)タグ付き正規表現の応用:[[grepと置換でKWICを作る...
***検索文字列の中での後方参照 [#ra28185d]
-検索語の中で\1を使う
--(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しに...
--(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
--(..)\1\1
--(...)\1
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現:http://sakura-editor.sourcefor...
-正規表現に関する本 [[amazonで検索>https://www.amazon.co...
***(参考)テキストデータ(青空文庫)の配布 [#kc659c3f]
-[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7...
**6月18日(第10回) VLOOKUP関数による辞書引き集計 [#m1e2...
***質問コーナー回答 [#w9e9fc5a]
-Q1:Vし手
-Q2:自動詞受動文
***VLOOKUP関数の利用 [#tf76047b]
-[[授業資料/VLOOKUP関数]]参照
***(参考)分類語彙表 [#k5e7c6be]
-https://ccd.ninjal.ac.jp/goihyo.html
***(参考)[[ジップ(Zipf)の法則>https://ja.wikipedia.or...
--順位×頻度≒定数
***「中納言」インラインタグ機能の利用 [#h1e23ecf]
-前後文脈に埋め込んだタグから、必要な情報を取り出して利用
--エディタと正規表現を使うと便利
---(参考)[[授業資料/正規表現]]
**6月11日(第9回) 検索結果集計のための応用:調整頻度の計...
***調整頻度(pmw) [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---短単位語数表:http://doi.org/10.15084/00003226
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度(pmw)がよく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合を比較するだけなら調整頻度を出す必要はない。
***(Excel基礎)セルの相対参照と絶対参照 [#e418e4aa]
-A1:相対参照
-$A$1:絶対参照
-$A1:列のみ絶対参照
***『日本語歴史コーパス』で復習 [#ac7fae2a]
-頻度で見る「あはれ」「をかし」と源氏・枕
***Excelの文字列関数 [#r56f9082]
集計に必要な情報をフィールドから切り出すことで集計に使う
-[[授業資料/EXCELの文字列関数]]参照
-(参考)Mac版Excelと文字種
--フィルタのオプションで平仮名と片仮名が区別されないので...
---=unicode(文字列) :文字列の先頭文字の文字コード(Unico...
**6月4日(第8回) Excelによる検索結果の集計2:ちょっとし...
***複数の検索結果の結合(復習) [#i1164cb5]
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓, ↓, Ctrl+V
***(参考)ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***ランダムサンプリング調査 [#j4516bb3]
※BCCWJでも「中納言」の出力結果は十分にランダムではない
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-ex.「られる」(意味・用法)、「全然」(陳述副詞の呼応)...
***出現サンプル数の調査(重複の削除) [#ma197696]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
***BCCWJ利用の落とし穴 [#le968f3e]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数,1平方キロあたりの…etc.
-BCCWJの語数
--https://ccd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
-短単位語数表をピボットテーブルで集計
--短単位語数表:http://doi.org/10.15084/00003226
**5月28日(第7回)「中納言」の使い方2:Excelによる検索結...
-「中納言」https://chunagon.ninjal.ac.jp/
***復習 [#r2a7a5f7]
-[[中納言検索課題(PDF)>https://itc-lms.ecc.u-tokyo.ac.j...
***Excel [#k0dffd45]
-[[中納言の使い方(PDF)>https://itc-lms.ecc.u-tokyo.ac.j...
--7.~
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+Excelでインポート
-データの形式
--タブ区切りテキストの各列
--複数ファイルの一括検索結果(zip圧縮)
***Excelの基礎 [#t5ba152a]
-並べ替え(ソート)
--反転前文脈の使い方
-フィルタ(絞り込み)
--テキストフィルタ
--多重フィルター(複数の条件指定)
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
***集計用の列を自分で用意する [#ccae4a87]
-例:「可能性が+形容詞」の集計
***複数の検索結果の結合 [#l9b3620b]
-例:犬/猫/駱駝
--文字種(ひらがな・カタカナ・漢字)別集計
**5月21日(第6回) 「中納言」の使い方 [#l688be59]
-「中納言」https://chunagon.ninjal.ac.jp/
--BCCWJ: https://chunagon.ninjal.ac.jp/bccwj-nt
--CHJ: https://chunagon.ninjal.ac.jp/chj
-[[中納言の使い方(PDF)>https://itc-lms.ecc.u-tokyo.ac.j...
--3.4補足、4.~
***位置情報と用例へのパーマリンク [#fecf8e21]
-位置検索
--''サンプルID,開始位置''((サンプル先頭からの文字数を10倍...
--位置検索での区切り記号はカンマのほかタブやスペースでも可
-用例へのpermalink
--BCCWJコアの「やぱ」:https://chunagon.ninjal.ac.jp/bccw...
--CHJ源氏冒頭の「やんごとなし」:https://chunagon.ninjal....
***検索条件式の利用 [#wa3409db]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
IN ((registerName="出版・新聞" AND core="true") OR (reg...
-NOTの使い方
キー: 語彙素="カレー"
AND 後方共起: (品詞 LIKE "助詞-格助詞%" AND NOT(語彙素 ...
※NOT演算子ではなく、条件句(○○="□□"や○○ LIKE "□□")の否定...
**5月7日(第5回) コーパス検索アプリケーション「中納言」 ...
-「中納言」https://chunagon.ninjal.ac.jp/
--BCCWJ: https://chunagon.ninjal.ac.jp/bccwj-nt
--CHJ: https://chunagon.ninjal.ac.jp/chj
-[[中納言の使い方>https://itc-lms.ecc.u-tokyo.ac.jp/lms/c...
**4月30日(第4回) コーパスの形態論情報と形態素解析 [#ab2...
***コーパスの形態論情報 [#w3c3c79b]
--https://ccd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[(スライド)長単位と短単位>https://itc-lms.ecc.u-toky...
--[[長単位と短単位・資料>https://itc-lms.ecc.u-tokyo.ac.j...
--(参考)動画:コーパス検索システムの言語単位『短単位』 ...
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://itc-lms.ecc.u-tokyo.ac.jp/lms/...
-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]...
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位:MeCabとUniDicを使った形態素解析で情報付与
-長単位:Comainu(など)で短単位を組み上げる
-BCCWJ関連報告書 https://ccd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>https://ccd.ninjal.ac...
//***形態素解析
#include(授業資料/形態素解析,notitle)
***最近の形態素解析器 [#f7414ba1]
-KyTea
--http://www.phontron.com/kytea/index-ja.html
--点予測という系列ラベリングとは別の手法による形態素解析器
-JUMAN++
--https://nlp.ist.i.kyoto-u.ac.jp/?JUMAN%2B%2B
--深層学習(RNN)を使った形態素解析器
***長単位解析器 [#i1ef6962]
-Comainu
--https://ja.osdn.net/projects/comainu/
***係り受け解析器 [#o0ecb888]
-CaboCha
--https://taku910.github.io/cabocha/
※BCCWJには係り受け情報は付いていない。NWJCは自動解析した...
***日本語コーパスのタグ付けのレベル [#a516dfae]
|~テキストのレベル|ツール|必要な技術|h
|~プレーンテキスト|テキストエディタ|grepと正規表現|
|~構造化テキスト|ひまわり→ Excel|XML・マークアップの基礎...
|~形態素解析済み|UniDic+MeCab→中納言・ChaKi|形態素解析の...
|~係り受け情報付き|+CaboChaなど→ChaKi||
+プレーンテキスト:テキストエディタ(grepと正規表現)
+構造化テキスト(旧「太陽コーパス」など):XMLと「ひまわ...
+形態素解析済みテキスト(BCCWJ, CHJなど):「中納言」
+係り受け情報・統語情報付き(NWJC, NPCMJなど):ChaKi, NP...
**4月23日(第3回) コーパスの設計(2) [#d3ad8ff2]
***前回続き(スライド残り) [#ib63a249]
-著作権をめぐる問題
--[[科研・昭和平成書き言葉コーパス(構築中)>https://kake...
---改正著作権法に則り、権利処理なしでオンライン公開予定
***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://ccd.ninjal.ac.jp/chj/
-残された資料に限りがある(そもそも偏りがある)歴史的なコ...
:近世以前|残されている資料が少なく、できるだけ(可能なら...
:近世(後期)以降|偏りはあるものの選べるだけの資料がある...
-[[『日本語歴史コーパス』>https://ccd.ninjal.ac.jp/chj/]]...
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本:年代・著者(・地域)のバランスを...
***近代語コーパスの場合 [#p0de8288]
-近代雑誌(現在はCHJの一部)
--多様な記事を含む「総合雑誌」を対象とすることでバランス...
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://ccd.ninjal.ac.jp/cmj/taiyou...
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文...
-近代小説
※今日の夕方に公開予定
--複数の有識者が日本語資料として選定・投票した結果(1980...
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi...
***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと...
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較(BCCWJの年代、CH...
**紙の資料からコーパスまで ~テキストの電子化とアノテーシ...
+(紙の)本文
+(紙の)総索引(コンコーダンス)
+電子テキスト:テキスト (199x年代~)
--[[授業資料/テキストデータ紹介]]
+構造化テキスト:テキスト+XMLによる構造化タグ (200x年代...
--[[太陽コーパス>https://ccd.ninjal.ac.jp/cmj/taiyou/]]など
+単語情報付きのコーパス:テキスト+XMLによる構造化タグ+形...
--[[現代日本語書き言葉均衡コーパス(BCCWJ)>https://ccd.n...
--[[日本語歴史コーパス(CHJ)>https://ccd.ninjal.ac.jp/ch...
***電子化とアノテーション(明六雑誌コーパスを例に) [#nb9...
-明六雑誌コーパス:https://ccd.ninjal.ac.jp/cmj/meiroku/
-ファイル形式と実例
++電子テキスト:プレーンテキスト
++構造化テキスト:XMLファイル
++単語情報付きデータ:単語情報を埋め込んだXML /XMLファ...
---(発展)XMLの限界とスタンドオフアノテーション
-それぞれの利用アプリケーション
++電子テキスト:テキストエディタ+grepなど
++構造化テキスト:全文検索システム[[「ひまわり」>https://...
++単語情報付きデータ:中納言(オンライン)/[[Chaki.Net>h...
**4月16日(第2回) コーパスの設計 [#d3ad8ff2]
-「中納言」授業アカウントの配布について
※以下、''[[スライド(学部授業用)>https://itc-lms.ecc.u-t...
***コーパスとは [#t54768fa]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
--さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫...
---[[「ひまわり」パッケージ>https://www2.ninjal.ac.jp/lrc...
--Web上のデータ
---検索サイトの利用
---WAC(Web as Corpus)
-言語学分野では前者、自然言語処理分野などでは後者の意味で...
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***コーパスに求められるもの [#h042f3fe]
-コーパス以前の電子化日本語資料(とその限界)
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www....
--出版社による電子出版物(CD-ROM)
---新潮文庫の100冊 etc.
--新聞のデータベース(CD-ROM)
---毎日新聞CD-ROM etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus
-(現代語)コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-https://ccd.ninjal.ac.jp/bccwj/
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性がある(representative...
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題★次回、ここから
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>https://ccd.ninj...
--BCCWJの基本設計:https://ccd.ninjal.ac.jp/bccwj/basic-d...
--サンプリング:https://ccd.ninjal.ac.jp/bccwj/sampling.h...
--XMLによる電子化:https://ccd.ninjal.ac.jp/bccwj/XML.html
**4月9日(第1回)イントロダクション/日本語コーパスの紹介 ...
***イントロダクション [#z7ffa4ea]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 [[国立国語研究所>h...
--[[国立国語研究所コーパス開発センター>https://ccd.ninjal...
-(参考)国語研オープンハウス2020 https://www2.ninjal.ac...
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR...
***授業内容等の確認 [#e55ee18f]
-[[シラバス>https://www.ogiso.net/wiki/index.php?plugin=a...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--関心のある分野について
--PC等のスキルについて
***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション(...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/l...
|[[R>https://www.r-project.org/]]|データの統計分析|
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://c...
---[[梵天(BCCWJ文字列検索)>https://bonten.ninjal.ac.jp/...
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス(CHJ)」>https://ccd.ninjal.ac.j...
-Excelによる集計(ピボットテーブル)
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタとgrep
-全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc...
-[[R>https://www.r-project.org/]]
終了行:
[[FrontPage]]
*言語学特殊講義XI/コーパス日本語学 [#f20f4b84]
-前期金曜4限:14:55-16:40
-Mail: ogiso@ogiso.net
-Zoomによるリアルタイムのオンライン授業形式で行います。Zo...
--[[文学部 04212151 言語学特殊講義XI>https://itc-lms.ecc....
--[[人文社会系研究科 21210110 コーパス日本語学>https://it...
※ITC-LMSのコースをまとめて、学部のページに統合しました。...
----
-リンク:「中納言」https://chunagon.ninjal.ac.jp/
//-''質問を受け付けています。自由に記入してください。次の...
//--https://itc-lms.ecc.u-tokyo.ac.jp/lms/course/surveys/...
**7月8日(第13回:最終回) レポートについて2 [#mfc93265]
***特徴語抽出 [#y8625f01]
複数コーパスの語彙を比較してコーパスに特徴的な語を抽出する
-[[授業資料/対数尤度比による特徴語抽出]]
***Wordでレポートを書く [#pc6b7b3b]
文書の構造化とWordの使い方(レポートの書き方)
-文書の構造化*
--スタイルと見出し
--ナビゲーション ウィンドウ(見出しマップ)の使い方
--章・節番号
-図表の貼り込み*
--「形式を選択して貼り付け」
--図表番号とキャプション
-脚注
--脚注と文末脚注
-相互参照
--節番号、図表番号と相互参照
--目次、図表目次
-ページ番号*
-PDFとして保存(ブックマークを付加)*
***レポートの構成について [#ee2b2c83]
-[[IMRAD>https://ja.wikipedia.org/wiki/IMRAD]]
***いっそうのコーパス活用のために [#icbefa10]
-この授業は基本的に''Excel(+エディタ)縛り''
-より進んだコーパス活用のために、下記の知識を身につけると...
--(参考リンク)[[『日本語歴史コーパス』 活用ワークショッ...
-Python
--例:[[Colaboratory/正規表現でテキストの前処理>https://c...
-R
--例:[[授業資料/Rの利用]]
-SQL (関係データベース)
--[[CHJBootCamp2019/DAY1-1]]
**7月2日(第12回) レポートについて/コロケーション強度 ...
***レポートテーマについて [#j82c082b]
-言語研究として興味深いテーマであってもコーパスによる調査...
-コーパスのさまざまな検索結果・集計結果から新たな研究課題...
***コロケーション強度 [#d05930b8]
コーパス中に出現する語同士の結びつきの強さをはかる
-[[授業資料/コロケーション強度]]
--参考資料:[[小木曽(2014)「コーパス活用の勘所(第6回)【...
-VLOOKUPで、語彙表から調査対象語のコーパス中の頻度を引い...
--BCCWJ https://ccd.ninjal.ac.jp/bccwj/bcc-chu.html
--CHJ https://ccd.ninjal.ac.jp/chj/chj-wc.html
**6月25日(第11回) テキストエディタと正規表現によるテキ...
***レポートテーマ(仮)提出について [#qc4c8d52]
-''&color(red){次回7月2日までに下記ITC-LMSのアンケートで...
--複数でも、今後変更しても構いません。現時点で考えている...
--https://itc-lms.ecc.u-tokyo.ac.jp/lms/course/surveys/ta...
***(再掲)「中納言」インラインタグ機能の利用 [#m062615c]
-前後文脈に埋め込んだタグから、必要な情報を取り出して利用
--エディタと正規表現を使うと便利
***デモ [#ob57bd7c]
-形容詞の連続の傾向
--cf.英語:OPSHACOM
***テキストデータについて [#k896318b]
-テキストデータとは:すべての基本、文字が並ぶだけのデータ
-[[授業資料/テキストデータとは]]
--バイナリデータとテキストデータ
-テキストファイルの拡張子:TXT,CSV,HTM…
--ファイルの種類と拡張子 参考:[[拡張子辞典>http://www.ji...
--[[拡張子(wikipedia)>http://ja.wikipedia.org/wiki/%E6%8B...
-サンプルデータ
--★[[soseki2.zip>https://www.dropbox.com/s/gw1j25svf2s9tk...
***テキストエディタ [#q7ae852c]
-テキストエディタとはどんなものか
--[[授業資料/テキストエディタ]]
***テキストエディタのダウンロードとインストール [#bf5ea59f]
-★[[サクラエディタのダウンロード:https://github.com/sakur...
---(参考) サクラエディタホームページ:https://sakura-edit...
-インストールの手順
--ダウンロードしたzipファイルの中にあるsakura-install*.ex...
--exeファイルを右クリックして「セキュリティ」の右の「許可...
--ダブルクリックしてインストール
***Macの場合(miのダウンロードとインストール) [#c84ab588]
-miのダウンロード https://www.mimikaki.net/
--ダウンロードされたファイルをダブルクリック
***テキストエディタの基本操作 [#ub1360ec]
-検索・置換、grep
--検索で初出行を調べる
--置換で用例数を数える
--grepで用例リストを作る
--タグジャンプで文脈を確認する
-たいていのことはショートカットキーでできる
***正規表現とは [#d216d4e0]
-''正規表現'' [[>用語>http://e-words.jp/w/E6ADA3E8A68FE...
--文字を表すための特殊な文字(メタ文字)を使って文字列の...
--テキストエディタでは置換・検索・grepで利用できる (エ...
--特殊な文字(メタ文字)はすべて半角
//--特殊な文字そのものを表す場合には\でエスケープする(特...
***正規表現を使ってみる [#u471d57b]
-文字クラス
--例:読[まみむめもん]
---半角ブラケットの中に文字を並べる→並べた文字いずれか1文字
***正規表現のいろいろ [#q514651f]
-[[授業資料/正規表現]]
--文字クラス [ ]
--文字クラスの否定(補集合)[^ ]
--繰り返し ? + *
--グループ化 ()
--or(論理和) |
--文頭 ^、文末 $
***正規表現の応用 [#c7a3ea2d]
-カタカナ語
--カタカナ(外来語)の形容動詞語幹
-送りがなの揺れ(行う/行なう)
-会話文中("「"で始まる文中)の用例を検索する
-同一文中での共起
--全然~ない。
--もし~なら(ば)
***タグ付き正規表現 [#z9ef50e5]
-走[らりるれろ] でgrepした結果を置換するにはどうしたらい...
--次のように置換するととんでもないことに…
---検索文字列:走[らりるれろっ]
---置換文字列:★走[らりるれろっ]
-タグ付き正規表現・カッコ(半角丸カッコ)と\1(\2,\3…)...
-[[授業資料/タグつき正規表現]]
***最長一致の原則(greedy matching) [#y047e9bd]
-正規表現は、パターンが一致する最も長い範囲にマッチする
--例:''あ+'' → ''【\1】''
---ああああああああ → 【ああああああああ】
そのせいで…
--例:''「(.+)」'' → ''【\1】''
---「こんにちは」「さようなら」 → 【こんにちは」「さよう...
--括弧の組ごとに置換するためには''「([^」]+)」'' → ''【\1...
---「こんにちは」「さようなら」 → 【こんにちは】【さよう...
-よりかんたんに指定するには(最短一致,ものぐさ指定)
--''「(.+?)」「(.*?)」''のように、繰り返し指定の+*の後に...
-(参考)タグ付き正規表現の応用:[[grepと置換でKWICを作る...
***検索文字列の中での後方参照 [#ra28185d]
-検索語の中で\1を使う
--(..)\1 「ころころ」「毎日毎日」など二文字の繰り返しに...
--(.ろ)\1 「ころころ」「どろどろ」「へろへろ」などにマッチ
--(..)\1\1
--(...)\1
***正規表現に関する参考資料 [#w86de08b]
-サクラエディタの正規表現:http://sakura-editor.sourcefor...
-正規表現に関する本 [[amazonで検索>https://www.amazon.co...
***(参考)テキストデータ(青空文庫)の配布 [#kc659c3f]
-[[aozoradoc2.zip>https://www.dropbox.com/s/t3udkej39grd7...
**6月18日(第10回) VLOOKUP関数による辞書引き集計 [#m1e2...
***質問コーナー回答 [#w9e9fc5a]
-Q1:Vし手
-Q2:自動詞受動文
***VLOOKUP関数の利用 [#tf76047b]
-[[授業資料/VLOOKUP関数]]参照
***(参考)分類語彙表 [#k5e7c6be]
-https://ccd.ninjal.ac.jp/goihyo.html
***(参考)[[ジップ(Zipf)の法則>https://ja.wikipedia.or...
--順位×頻度≒定数
***「中納言」インラインタグ機能の利用 [#h1e23ecf]
-前後文脈に埋め込んだタグから、必要な情報を取り出して利用
--エディタと正規表現を使うと便利
---(参考)[[授業資料/正規表現]]
**6月11日(第9回) 検索結果集計のための応用:調整頻度の計...
***調整頻度(pmw) [#v1c12e52]
-粗頻度を総語数で割る
--レジスターごとの語数データ:中納言ページの「語数につい...
---短単位語数表:http://doi.org/10.15084/00003226
---語数ファイルをピボットテーブルで集計して分母に
-調整頻度には100万語あたりの頻度(pmw)がよく使われる
--粗頻度/コーパス総語数*1000000
---数字が小さくなりすぎないようにするため
-※割合を比較するだけなら調整頻度を出す必要はない。
***(Excel基礎)セルの相対参照と絶対参照 [#e418e4aa]
-A1:相対参照
-$A$1:絶対参照
-$A1:列のみ絶対参照
***『日本語歴史コーパス』で復習 [#ac7fae2a]
-頻度で見る「あはれ」「をかし」と源氏・枕
***Excelの文字列関数 [#r56f9082]
集計に必要な情報をフィールドから切り出すことで集計に使う
-[[授業資料/EXCELの文字列関数]]参照
-(参考)Mac版Excelと文字種
--フィルタのオプションで平仮名と片仮名が区別されないので...
---=unicode(文字列) :文字列の先頭文字の文字コード(Unico...
**6月4日(第8回) Excelによる検索結果の集計2:ちょっとし...
***複数の検索結果の結合(復習) [#i1164cb5]
-例:蒲公英・向日葵・菫
ショートカットキーを活用すると便利
-Ctrl+End ファイルの末尾/表のいちばん右下に移動
-Shift+Ctrl+End 〃範囲を選択
+表をコピー
--Ctrl+Home, ↓(列名はコピーしないようにする),Shift+Ctrl...
+コピーした表を既存の表の下に貼り付け
--Ctrl+↓, ↓, Ctrl+V
***(参考)ショートカットキー [#da449f25]
-[[授業資料/覚えておきたいショートカットキー]]
***ランダムサンプリング調査 [#j4516bb3]
※BCCWJでも「中納言」の出力結果は十分にランダムではない
-大量に用例があり、調査内容からすべて対象にできない場合
-ランダムに並べ替え→先頭n例を調査対象に
--ランダムな数字の列: =RAND()
--ランダムな数字の列をコピーして「値として貼り付ける」と...
-ex.「られる」(意味・用法)、「全然」(陳述副詞の呼応)...
***出現サンプル数の調査(重複の削除) [#ma197696]
用例数ではなく、用例が一つでも出現したサンプルの数を調べ...
-たとえば同一サンプル内での繰り返しが多いものを調査すると...
--「データ」→「重複の削除」
***BCCWJ利用の落とし穴 [#le968f3e]
-BCCWJはあくまでも「現代語」のためのコーパスなので通時的...
--レジスターによって母集団の年が違っている
---レジスターの偏りを年代の偏りと勘違いしないこと
--30年あるのは白書・ベストセラー・国会会議録など一部のも...
-もともとテキスト量の多いレジスターにたくさん用例があるか...
--cf.人口あたりの事故件数,1平方キロあたりの…etc.
-BCCWJの語数
--https://ccd.ninjal.ac.jp/bccwj/bcc-chu-suw.html
-短単位語数表をピボットテーブルで集計
--短単位語数表:http://doi.org/10.15084/00003226
**5月28日(第7回)「中納言」の使い方2:Excelによる検索結...
-「中納言」https://chunagon.ninjal.ac.jp/
***復習 [#r2a7a5f7]
-[[中納言検索課題(PDF)>https://itc-lms.ecc.u-tokyo.ac.j...
***Excel [#k0dffd45]
-[[中納言の使い方(PDF)>https://itc-lms.ecc.u-tokyo.ac.j...
--7.~
***「中納言」検索結果のダウンロードとExcelでの利用 [#m04a...
+ダウンロード
+Excelでインポート
-データの形式
--タブ区切りテキストの各列
--複数ファイルの一括検索結果(zip圧縮)
***Excelの基礎 [#t5ba152a]
-並べ替え(ソート)
--反転前文脈の使い方
-フィルタ(絞り込み)
--テキストフィルタ
--多重フィルター(複数の条件指定)
***【重要】ピボットテーブルの使い方 [#d0a7589d]
-ピボットテーブル
-ピボットグラフ
***集計用の列を自分で用意する [#ccae4a87]
-例:「可能性が+形容詞」の集計
***複数の検索結果の結合 [#l9b3620b]
-例:犬/猫/駱駝
--文字種(ひらがな・カタカナ・漢字)別集計
**5月21日(第6回) 「中納言」の使い方 [#l688be59]
-「中納言」https://chunagon.ninjal.ac.jp/
--BCCWJ: https://chunagon.ninjal.ac.jp/bccwj-nt
--CHJ: https://chunagon.ninjal.ac.jp/chj
-[[中納言の使い方(PDF)>https://itc-lms.ecc.u-tokyo.ac.j...
--3.4補足、4.~
***位置情報と用例へのパーマリンク [#fecf8e21]
-位置検索
--''サンプルID,開始位置''((サンプル先頭からの文字数を10倍...
--位置検索での区切り記号はカンマのほかタブやスペースでも可
-用例へのpermalink
--BCCWJコアの「やぱ」:https://chunagon.ninjal.ac.jp/bccw...
--CHJ源氏冒頭の「やんごとなし」:https://chunagon.ninjal....
***検索条件式の利用 [#wa3409db]
キー: (品詞 LIKE "形容詞%" AND 活用形 LIKE "連体形%")
AND 後方共起: 語彙素="言葉" ON 1 WORDS FROM キー
IN ((registerName="出版・新聞" AND core="true") OR (reg...
-NOTの使い方
キー: 語彙素="カレー"
AND 後方共起: (品詞 LIKE "助詞-格助詞%" AND NOT(語彙素 ...
※NOT演算子ではなく、条件句(○○="□□"や○○ LIKE "□□")の否定...
**5月7日(第5回) コーパス検索アプリケーション「中納言」 ...
-「中納言」https://chunagon.ninjal.ac.jp/
--BCCWJ: https://chunagon.ninjal.ac.jp/bccwj-nt
--CHJ: https://chunagon.ninjal.ac.jp/chj
-[[中納言の使い方>https://itc-lms.ecc.u-tokyo.ac.jp/lms/c...
**4月30日(第4回) コーパスの形態論情報と形態素解析 [#ab2...
***コーパスの形態論情報 [#w3c3c79b]
--https://ccd.ninjal.ac.jp/bccwj/morphology.html
-短単位と長単位
--[[(スライド)長単位と短単位>https://itc-lms.ecc.u-toky...
--[[長単位と短単位・資料>https://itc-lms.ecc.u-tokyo.ac.j...
--(参考)動画:コーパス検索システムの言語単位『短単位』 ...
-コーパス検索アプリケーション「中納言」と短単位と長単位
--[[中納言の使い方>https://itc-lms.ecc.u-tokyo.ac.jp/lms/...
-品詞体系
--BCCWJは[[UniDic>https://ja.osdn.net/projects/unidic/]]...
---形態論情報の例
--[[授業資料/UniDicの品詞体系]]
--[[授業資料/UniDicの見出し語階層]]
***コーパスへの形態論情報の付与 [#sfd1b3f3]
-短単位:MeCabとUniDicを使った形態素解析で情報付与
-長単位:Comainu(など)で短単位を組み上げる
-BCCWJ関連報告書 https://ccd.ninjal.ac.jp/bccwj/doc.html
--形態論情報規程集(PDF) [[第4版 上>https://ccd.ninjal.ac...
//***形態素解析
#include(授業資料/形態素解析,notitle)
***最近の形態素解析器 [#f7414ba1]
-KyTea
--http://www.phontron.com/kytea/index-ja.html
--点予測という系列ラベリングとは別の手法による形態素解析器
-JUMAN++
--https://nlp.ist.i.kyoto-u.ac.jp/?JUMAN%2B%2B
--深層学習(RNN)を使った形態素解析器
***長単位解析器 [#i1ef6962]
-Comainu
--https://ja.osdn.net/projects/comainu/
***係り受け解析器 [#o0ecb888]
-CaboCha
--https://taku910.github.io/cabocha/
※BCCWJには係り受け情報は付いていない。NWJCは自動解析した...
***日本語コーパスのタグ付けのレベル [#a516dfae]
|~テキストのレベル|ツール|必要な技術|h
|~プレーンテキスト|テキストエディタ|grepと正規表現|
|~構造化テキスト|ひまわり→ Excel|XML・マークアップの基礎...
|~形態素解析済み|UniDic+MeCab→中納言・ChaKi|形態素解析の...
|~係り受け情報付き|+CaboChaなど→ChaKi||
+プレーンテキスト:テキストエディタ(grepと正規表現)
+構造化テキスト(旧「太陽コーパス」など):XMLと「ひまわ...
+形態素解析済みテキスト(BCCWJ, CHJなど):「中納言」
+係り受け情報・統語情報付き(NWJC, NPCMJなど):ChaKi, NP...
**4月23日(第3回) コーパスの設計(2) [#d3ad8ff2]
***前回続き(スライド残り) [#ib63a249]
-著作権をめぐる問題
--[[科研・昭和平成書き言葉コーパス(構築中)>https://kake...
---改正著作権法に則り、権利処理なしでオンライン公開予定
***「日本語歴史コーパス」(CHJ)の構成 [#x9f78d1c]
-https://ccd.ninjal.ac.jp/chj/
-残された資料に限りがある(そもそも偏りがある)歴史的なコ...
:近世以前|残されている資料が少なく、できるだけ(可能なら...
:近世(後期)以降|偏りはあるものの選べるだけの資料がある...
-[[『日本語歴史コーパス』>https://ccd.ninjal.ac.jp/chj/]]...
--中世以前は重要な資料をまるごと対象に
--近世の洒落本・人情本:年代・著者(・地域)のバランスを...
***近代語コーパスの場合 [#p0de8288]
-近代雑誌(現在はCHJの一部)
--多様な記事を含む「総合雑誌」を対象とすることでバランス...
--発行年での大まかなサンプリング
---[[「太陽コーパス」>https://ccd.ninjal.ac.jp/cmj/taiyou...
--その後の雑誌コーパスも8年おきに収録
---明六雑誌・東洋学芸雑誌・国民之友・太陽(・中央公論・文...
-近代小説
※今日の夕方に公開予定
--複数の有識者が日本語資料として選定・投票した結果(1980...
--https://www.jpling.gr.jp/taikai/happyo/yosi/2019/b/yosi...
***利用する側から見たコーパスの設計 [#p142476c]
-BCCWJでもCHJでも、どのように設計されているかを知らないと...
--サブコーパスのサイズを無視した比較
--バランスのとれていない項目間の単純比較(BCCWJの年代、CH...
**紙の資料からコーパスまで ~テキストの電子化とアノテーシ...
+(紙の)本文
+(紙の)総索引(コンコーダンス)
+電子テキスト:テキスト (199x年代~)
--[[授業資料/テキストデータ紹介]]
+構造化テキスト:テキスト+XMLによる構造化タグ (200x年代...
--[[太陽コーパス>https://ccd.ninjal.ac.jp/cmj/taiyou/]]など
+単語情報付きのコーパス:テキスト+XMLによる構造化タグ+形...
--[[現代日本語書き言葉均衡コーパス(BCCWJ)>https://ccd.n...
--[[日本語歴史コーパス(CHJ)>https://ccd.ninjal.ac.jp/ch...
***電子化とアノテーション(明六雑誌コーパスを例に) [#nb9...
-明六雑誌コーパス:https://ccd.ninjal.ac.jp/cmj/meiroku/
-ファイル形式と実例
++電子テキスト:プレーンテキスト
++構造化テキスト:XMLファイル
++単語情報付きデータ:単語情報を埋め込んだXML /XMLファ...
---(発展)XMLの限界とスタンドオフアノテーション
-それぞれの利用アプリケーション
++電子テキスト:テキストエディタ+grepなど
++構造化テキスト:全文検索システム[[「ひまわり」>https://...
++単語情報付きデータ:中納言(オンライン)/[[Chaki.Net>h...
**4月16日(第2回) コーパスの設計 [#d3ad8ff2]
-「中納言」授業アカウントの配布について
※以下、''[[スライド(学部授業用)>https://itc-lms.ecc.u-t...
***コーパスとは [#t54768fa]
:狭義のコーパス|言語研究を目的として収集され、言語研究の...
--現代日本語書き言葉均衡コーパス(BCCWJ) / 日本語歴史コ...
:広義のコーパス|コンピュータ上で利用可能な大規模な言語デ...
--さまざまなテキストアーカイブ(新潮文庫の百冊 / 青空文庫...
---[[「ひまわり」パッケージ>https://www2.ninjal.ac.jp/lrc...
--Web上のデータ
---検索サイトの利用
---WAC(Web as Corpus)
-言語学分野では前者、自然言語処理分野などでは後者の意味で...
-この授業で主に扱うのは狭義のコーパス。中でも「現代日本語...
***コーパスに求められるもの [#h042f3fe]
-コーパス以前の電子化日本語資料(とその限界)
--個人研究者による電子化テキスト
---cf. [[日本文学等テキストファイル(岡島昭浩)>http://www....
--出版社による電子出版物(CD-ROM)
---新潮文庫の100冊 etc.
--新聞のデータベース(CD-ROM)
---毎日新聞CD-ROM etc.
--Web上のテキストアーカイブ
---青空文庫 etc.
--Webそのもの
---Web as Corpus
-(現代語)コーパスへの要請
--大規模であること
--各種のテキストが含まれていて、ジャンルなどのバランスが...
--著作権の問題がないこと
--言語研究に利用できる情報がついていること
***「現代日本語書き言葉均衡コーパス」(BCCWJ)の構成とサ...
-https://ccd.ninjal.ac.jp/bccwj/
-均衡コーパス(Balanced corpus)
--「バランスがとれている」「代表性がある(representative...
--コーパスの母集団の設定とサンプリング
--BCCWJのサブコーパス
--可変長と固定長
-著作権をめぐる問題★次回、ここから
***参考リンク [#o1a9da5c]
-英語のコーパス リファレンス
--[[ブラウンコーパス マニュアル>http://khnt.aksis.uib.no/...
--[[BNCリファレンスガイド>http://www.natcorp.ox.ac.uk/doc...
-現代日本語書き言葉均衡コーパス(BCCWJ)
--[[現代日本語書き言葉均衡コーパス:概要>https://ccd.ninj...
--BCCWJの基本設計:https://ccd.ninjal.ac.jp/bccwj/basic-d...
--サンプリング:https://ccd.ninjal.ac.jp/bccwj/sampling.h...
--XMLによる電子化:https://ccd.ninjal.ac.jp/bccwj/XML.html
**4月9日(第1回)イントロダクション/日本語コーパスの紹介 ...
***イントロダクション [#z7ffa4ea]
-[[自己紹介]]
--大学共同利用機関法人人間文化研究機構 [[国立国語研究所>h...
--[[国立国語研究所コーパス開発センター>https://ccd.ninjal...
-(参考)国語研オープンハウス2020 https://www2.ninjal.ac...
--動画「日本語歴史コーパス」の紹介 https://youtu.be/tKvVR...
***授業内容等の確認 [#e55ee18f]
-[[シラバス>https://www.ogiso.net/wiki/index.php?plugin=a...
--この授業の目的
--授業の進め方
--評価方法
-受講者アンケート
--関心のある分野について
--PC等のスキルについて
***「中納言」アカウントについて [#t6709ede]
-「授業アカウント」について
-「中納言」オンライン利用申込み
--https://chunagon.ninjal.ac.jp/useraccount/register
***授業で利用する主なソフトウェア・Webアプリケーション(...
|ソフトウェアの種類・名前|利用目的|h
|[[コーパス検索アプリケーション''「中納言」''>https://chu...
|表計算ソフト''Excel''|ピボットテーブルによる分析・グラフ...
|[[Web茶まめ>https://chamame.ninjal.ac.jp/]]|形態素解析|
|[[テキストエディタ ''サクラエディタ''>http://sourceforge...
|ワープロ''Word''|「スタイル」を利用したレポート作成|
|[[全文検索ソフト''ひまわり''>https://www2.ninjal.ac.jp/l...
|[[R>https://www.r-project.org/]]|データの統計分析|
***授業内容デモ [#kc4ae1c5]
-コーパスの利用
--[[「現代日本語書き言葉均衡コーパス(BCCWJ)」>https://c...
---[[梵天(BCCWJ文字列検索)>https://bonten.ninjal.ac.jp/...
---[[中納言>https://chunagon.ninjal.ac.jp]]
--[[「日本語歴史コーパス(CHJ)」>https://ccd.ninjal.ac.j...
-Excelによる集計(ピボットテーブル)
-形態素解析
--[[Web茶まめ>https://chamame.ninjal.ac.jp]]
-テキストエディタとgrep
-全文検索システム[[ひまわり>https://www2.ninjal.ac.jp/lrc...
-[[R>https://www.r-project.org/]]
ページ名: