用于 spaCy 的 ChaPAS-CaboCha-MeCab 包装器
项目描述
spaCy-ChaPAS
用于 spaCy 的 ChaPAS-CaboCha-MeCab 包装器
基本用法
>>> import spacy_chapas
>>> nlp=spacy_chapas.load()
>>> doc=nlp("太郎は花子が読んでいる本を次郎に渡した")
>>> for t in doc:
... print(t.i,t.orth_,t.lemma_,t.pos_,t.tag_,t.head.i,t.dep_,t.norm_,t.ent_iob_,t.ent_type_)
...
0 太郎 太郎 PROPN 名詞-固有名詞-人名-名 12 nsubj タロウ B PERSON
1 は は ADP 助詞-係助詞 0 case ハ O
2 花子 花子 PROPN 名詞-固有名詞-人名-名 4 nsubj ハナコ B PERSON
3 が が ADP 助詞-格助詞-一般 2 case ガ O
4 読ん 読む VERB 動詞-自立 7 acl ヨン O
5 で で CCONJ 助詞-接続助詞 4 mark デ O
6 いる いる AUX 動詞-非自立 4 aux イル O
7 本 本 NOUN 名詞-一般 12 obj ホン O
8 を を ADP 助詞-格助詞-一般 7 case ヲ O
9 次 次 NOUN 名詞-一般 10 compound ツギ O
10 郎 郎 NOUN 名詞-一般 12 obl ロウ O
11 に に ADP 助詞-格助詞-一般 10 case ニ O
12 渡し 渡す VERB 動詞-自立 12 ROOT ワタシ O
13 た た AUX 助動詞 12 aux タ O
>>> import deplacy
>>> deplacy.render(doc,Japanese=True)
太郎 PROPN ═╗<══════════╗ nsubj(主語)
は ADP <╝ ║ case(格表示)
花子 PROPN ═╗<╗ ║ nsubj(主語)
が ADP <╝ ║ ║ case(格表示)
読ん VERB ═══╝═╗═╗<╗ ║ acl(連体修飾節)
で CCONJ <════╝ ║ ║ ║ mark(標識)
いる AUX <══════╝ ║ ║ aux(動詞補助成分)
本 NOUN ═╗═══════╝<╗ ║ obj(目的語)
を ADP <╝ ║ ║ case(格表示)
次 NOUN <╗ ║ ║ compound(複合)
郎 NOUN ═╝═╗<╗ ║ ║ obl(斜格補語)
に ADP <══╝ ║ ║ ║ case(格表示)
渡し VERB ═╗═══╝═════╝═╝ ROOT(親)
た AUX <╝ aux(動詞補助成分)
>>> from deplacy.deprelja import deprelja
>>> for b in spacy_chapas.bunsetu_spans(doc):
... for t in b.lefts:
... print(spacy_chapas.bunsetu_span(t),"->",b,"("+deprelja[t.dep_]+")")
...
花子が -> 読んでいる (主語)
読んでいる -> 本を (連体修飾節)
太郎は -> 渡した (主語)
本を -> 渡した (目的語)
次郎に -> 渡した (斜格補語)
spacy_chapas.load(UniDic)为 ChaPAS-CaboCha-MeCab 加载 spaCy 语言管道。可用UniDic选项有:
UniDic="gendai":使用现代书き言葉UniDic。UniDic="spoken":使用现代话し言葉UniDic。UniDic="qkana": 使用旧仮名口语UniDic。UniDic="kindai": 用近代文语UniDic。UniDic="kinsei": 使用近世江戸口语UniDic。UniDic="kyogen": 使用中世口语UniDic。UniDic="wakan": 使用中世文语UniDic。UniDic="wabun": 使用中古和文UniDic。UniDic="manyo": 使用上代语UniDic。UniDic=None:使用 IPADic(默认)。
您可以简单地chapas2ud在命令行上使用来获取Universal Dependencies:
echo 太郎は花子が読んでいる本を次郎に渡した | chapas2ud -I RAW
Linux (Debian) 的安装
首先,安装MeCab和必要的软件包(包括 oldstable openjdk-8-jre-headless):
sudo apt update
sudo apt install mecab libmecab-dev mecab-ipadic-utf8 python3-pip python3-dev g++ make curl openjdk-8-jre-headless
pip3 install gdown --user
cd /tmp
curl -L 'https://drive.google.com/uc?export=download&id=0B4y35FiV1wh7QVR6VXJ5dWExSTQ' | tar xzf -
cd CRF++-0.58
./configure --prefix=/usr --libdir=`mecab-config --libs-only-L`
make && sudo make install
二、安装CaboCha:
cd /tmp
gdown 'https://drive.google.com/uc?export=download&id=0B4y35FiV1wh7SDd1Q1dUQkZQaUU'
tar xjf cabocha-0.69.tar.bz2
cd cabocha-0.69
./configure --prefix=/usr --libdir=`mecab-config --libs-only-L` --with-charset=UTF8
make && sudo make install
三、安装ChaPAS:
cd /tmp
gdown 'https://drive.google.com/uc?export=download&id=0BwG_CvJHq43fNDlqSkVSREkzaEk'
tar xzf chapas-0.742.tar.gz
sudo mkdir -p /usr/local/bin
sudo mv chapas-0.742 /usr/local/chapas
( echo '#! /bin/sh' ; echo exec `ls -1 /usr/lib/jvm/j*-1.8.*/bin/java | tail -1` -Xmx1g -jar /usr/local/chapas/chapas.jar '"$@"' ) > chapas
sudo install chapas /usr/local/bin
最后,安装 spaCy-ChaPAS:
pip3 install spacy_chapas --user
安装 Linux (Ubuntu)
与 Debian 相同。
安装 Linux (Kali)
与 Debian 相同。
Linux (CentOS) 的安装
首先,安装MeCab和必要的软件包:
sudo yum update
sudo yum install python3-pip python3-devel gcc-c++ make curl bzip2 java-1.8.0-openjdk-headless epel-release
sudo rpm -ivh https://packages.groonga.org/centos/latest/groonga-release-latest.noarch.rpm
sudo yum install mecab mecab-devel mecab-ipadic
pip3 install gdown --user
cd /tmp
curl -L 'https://drive.google.com/uc?export=download&id=0B4y35FiV1wh7QVR6VXJ5dWExSTQ' | tar xzf -
cd CRF++-0.58
./configure --prefix=/usr --libdir=`mecab-config --libs-only-L`
make && sudo make install
第二、第三和最后与 Debian 相同。
Cygwin64 的安装
确保得到python37-devel python37-pip python37-cython python37-numpy git gcc-g++,然后:
pip3.7 install git+https://github.com/KoichiYasuoka/chapas-cygwin64
pip3.7 install spacy_chapas
Google Colaboratory 的安装
试试笔记本。
基准
| 舞姬 | 拉斯 | MLAS | BLEX |
|---|---|---|---|
| UniDic="kindai" | 79.25 | 59.26 | 62.96 |
| UniDic="qkana" | 77.36 | 59.26 | 62.96 |
| UniDic="kinsei" | 70.37 | 53.57 | 53.57 |
| 雪国 | 拉斯 | MLAS | BLEX |
|---|---|---|---|
| UniDic="qkana" | 87.50 | 81.63 | 77.55 |
| UniDic="kinsei" | 85.71 | 77.55 | 69.39 |
| UniDic="kindai" | 83.19 | 77.55 | 73.47 |
| 荒野より | 拉斯 | MLAS | BLEX |
|---|---|---|---|
| UniDic="kindai" | 68.06 | 35.14 | 45.95 |
| UniDic="qkana" | 64.92 | 35.14 | 45.95 |
| UniDic="kinsei" | 64.58 | 32.43 | 43.24 |
参考
- 安冈孝一:形态素解析部の付け替えによる近代日本语(旧字旧仮名)の系り受け解析,情报处理学会研究报告,Vol.2020-CH-124「人文科学とコンピュータ」,第3期(2020年9月)月 5 日),第 1-8 页。