基于ChineseBERT模型和注意力机制的化工突发事件新闻分类方法

发明专利有效专利

申请号：
CN202210030824.8
IPC分类号：G06F16/35;G06F40/289;G06F40/30;G06N3/04;G06N3/08
申请日期：
2022-01-12
申请人：
淮阴工学院

基础信息

权利要求

说明书

PDF全文

法律信息

引证文献

著录项信息

专利名称	基于ChineseBERT模型和注意力机制的化工突发事件新闻分类方法
申请号	CN202210030824.8	申请日期	2022-01-12
法律状态	实质审查	申报国家	中国
公开/公告日	2022-05-17	公开/公告号	CN114510569A
优先权	暂无	优先权号	暂无
主分类号	G06F16/35	IPC分类号	G;0;6;F;1;6;/;3;5;;;G;0;6;F;4;0;/;2;8;9;;;G;0;6;F;4;0;/;3;0;;;G;0;6;N;3;/;0;4;;;G;0;6;N;3;/;0;8查看分类表>
申请人	淮阴工学院	申请人地址	江苏省淮安市洪泽区东七街三号高新技术产业园A12-2(淮阴工学院技术转移中心洪泽分中心) 变更专利地址、主体等相关变化，请及时变更，防止失效
权利人	淮阴工学院	当前权利人	淮阴工学院
发明人	陈晓兵;康丽;卢佳琪;包涵;张润;张冰莹
代理机构	南京苏高专利商标事务所（普通合伙）	代理人	暂无

摘要

本发明公开了一种基于ChineseBERT模型和注意力机制的化工突发事件新闻分类方法，首先对文本数据进行文本预处理；然后，对词语进行注意力机制处理，提取单词和子序列的信息依赖关系；与此同时，基于改进ChineseBERT预训练模型进行拼音信息和字符信息的提取；之后对拼音信息和字符信息进行矩阵融合，同时加上位置信息，保持上下文语义的完整性，通过经典的Bert模型进行处理，使用参数共享机制，得到最终的信息特征向量；对得到的上下文语义向量和信息依赖关系向量融合，作为CNN的输入，得到最终的化工新闻分类结果。本发明充分优化了文本的拼音字符语义信息；提取词语的依赖关系和局部依赖关系的问题；通过Bert模型参数共享机制降低时间复杂度的问题，有效的提高文本分类的精确度。

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有引用任何外部专利数据！

序号	公开(公告)号	公开(公告)日	申请日	专利名称	申请人
该专利没有被任何外部专利所引用！

我浏览过的专利

专利服务由北京酷爱智慧知识产权代理公司提供