総研大2024/言語資源学 の履歴(No.1)

• 履歴一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• 総研大2024/言語資源学 へ行く。
  • 1 (2024-05-07 (火) 11:41:57)
  • 2 (2024-05-19 (日) 19:32:27)
  • 3 (2024-05-20 (月) 17:09:18)
  • 4 (2024-05-21 (火) 15:59:30)
  • 5 (2024-05-21 (火) 15:59:30)
  • 6 (2024-05-27 (月) 10:43:10)
  • 7 (2024-05-27 (月) 15:39:24)
  • 8 (2024-06-03 (月) 11:55:20)
  • 9 (2024-06-10 (月) 13:05:44)
  • 10 (2024-06-17 (月) 13:29:53)
  • 11 (2024-06-17 (月) 16:38:59)
  • 12 (2024-06-23 (日) 16:13:41)
  • 13 (2024-06-24 (月) 14:56:27)
  • 14 (2024-06-24 (月) 16:54:00)

---

総研大2024

20240520†

紙の資料からコーパスまで ～テキストの電子化とアノテーションの高度化†

1. (紙の)本文
2. (紙の)総索引（コンコーダンス）
3. 電子テキスト：テキスト （199x年代～）
   • 授業資料/テキストデータ紹介
4. 構造化テキスト：テキスト+XMLによる構造化タグ （200x年代～）
   • 太陽コーパスなど
5. 単語情報付きのコーパス：テキスト+XMLによる構造化タグ+形態論情報　（201x年代～）
   • 現代日本語書き言葉均衡コーパス（BCCWJ）など
   • 日本語歴史コーパス（CHJ）など

コーパスのファイル形式とアプリケーション†

• ファイル形式と実例
  1. 電子テキスト：プレーンテキスト
  2. 構造化テキスト：XMLファイル
  3. 単語情報付きデータ：単語情報を埋め込んだXML　／XMLファイル＋CSVファイル
  • （発展）XMLの限界とスタンドオフアノテーション

• それぞれの利用アプリケーション
  1. 電子テキスト：テキストエディタ＋grepなど
  2. 構造化テキスト：全文検索システム「ひまわり」、XMLエディタ（Oxygen, VSCode）、XPath・XSLT
  3. 単語情報付きデータ：中納言（オンライン）／Chaki.Net（PC上）

テキストエディタ†

• VisualStudio codeのインストールと設定
  • 拡張機能 Japanese Language Packの追加
    • 参考：https://web.yokkaichi-u.ac.jp/yucc/archives/1542
  • ファイルオープン時にエンコーディングを自動判別するよう設定
    • https://www.javadrive.jp/vscode/setting/index3.html
  • 拡張機能 XML Language Support by Red Hatの追加

• テキストデータについて
  • 授業資料/文字コード関連リンク
  • 授業資料/テキストデータ紹介

• 【課題】サンプルテキスト（青空文庫の夏目漱石「こころ」）をダウンロードしてVS codeで開き、UTF-8で保存しなおす
  • 練習用サンプルデータkokoto.txt

• 正規表現について
  • 授業資料/正規表現
  • 正規表現を学ぶ狩りに出ようRegex Hunting https://www.regex-hunting.com/

• 【課題】VS Codeで正規表現を使ってサンプルテキストのふりがなタグを置換で削除