概述

本文主要介绍在RDS PostgreSQL中，中文分词的详细使用方法和自定义词典的详细内容。

 

详细内容

阿里云提醒您：

  • 如果您对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。
  • 如果您对实例（包括但不限于ECS、RDS）等进行配置与数据修改，建议提前创建快照或开启RDS日志备份等功能。
  • 如果您在阿里云平台授权或者提交过登录账号、密码等安全信息，建议您及时修改。

以下是启用中文分词和自定义词典的详细内容。

 

启用中文分词

可以参考如下SQL语句，启用中文分词。
注：
  • 分词插件zhparser无法安装到pg_catalog schema。
  • 必须有目标schema的写入权限。
  • 需要使用超级权限执行alter role all set zhparser.multi_short=on;，且RDS PostgreSQL版不支持超级用户修改，可提交工单进行修改。若不提交工单，则执行set zhparser.multi_short=on;，即在会话层进行修改。
CREATE EXTENSION zhparser;
CREATE TEXT SEARCH CONFIGURATION testzhcfg (PARSER = zhparser);
ALTER TEXT SEARCH CONFIGURATION testzhcfg ADD MAPPING FOR n,v,a,i,e,l WITH simple;
alter role all set zhparser.multi_short=on;
SELECT * FROM ts_parse('zhparser', 'hello world! 2010年保障房建设在全国范围内获全面启动，从中央到地方纷纷加大 了 保 障 房 的 建 设 和 投 入 力 度 。2011年，保障房进入了更大规模的建设阶段。住房城乡建设部党组书记、部长姜伟新去年底在全国住房城乡建设工作会议上表示，要继续推进保障性安居工程建设。');
SELECT to_tsvector('testzhcfg','“今年保障房新开工数量虽然有所下调，但实际的年度在建规模以及竣工规模会超以往年份，相对应的对资金的需求也会创历史纪录。”陈国强说。在他看来，与2011年相比，2012年的保障房建设在资金配套上的压力将更为严峻。');
SELECT to_tsquery('testzhcfg', '保障房资金压力');
利用分词进行全文索引的方法如下。其中第一个SQL语句为T1表的name字段创建全文索引。第二个SQL语句使用全文索引。 
create index idx_t1 on t1 using gin (to_tsvector('zhcfg',upper(name) ));
select * from t1 where to_tsvector('zhcfg',upper(t1.name)) @@ to_tsquery('zhcfg','(防火)');

 

自定义中文分词词典

自定义中文分词词典的示例如下。其中第二个SQL语句为往自定义分词词典中插入新的分词。第三个SQL语句为使新的分词生效。第四个SQL语句为重新查询，获取新的分词结果。 
SELECT to_tsquery('testzhcfg', '保障房资金压力');
insert into pg_ts_custom_word values ('保障房资');
select zhprs_sync_dict_xdb();
SELECT to_tsquery('testzhcfg', '保障房资金压力');
提示：内核小版本20160801及之后的版本才支持自定义中文分词词典，您可以通过 show rds_release_date ;SQL语句进行查询内核版本。 使用自定义分词的注意事项如下。
  • 最多支持一百万条自定义分词，超出部分不做处理，用户必须保证分词数量在这个范围之内。自定义分词与缺省的分词词典将共同产生作用。
  • 每个词的最大长度为128字节，超出部分将会截取。
  • 通过增删改分词之后必须执行select zhprs_sync_dict_xdb();SQL语句，并且重新建立连接才会生效。
 

适用于

  • 云数据库 RDS PostgreSQL 版