(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210597265.9 (22)申请日 2022.05.30 (71)申请人 南瑞集团有限公司 地址 211106 江苏省南京市江宁经济技 术 开发区诚信大道19号 申请人 国电南瑞科技股份有限公司 (72)发明人 杨文清　胡江溢　张楠　商莹楠　 滕家雨　刘爱华　王光林　潘健　 苏婧仪　张文强　朱佳　 (74)专利代理 机构 南京苏高专利商标事务所 (普通合伙) 32204 专利代理师 张弛 (51)Int.Cl. G06F 16/332(2019.01) G06F 16/36(2019.01)G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 5/02(2006.01) G06N 5/04(2006.01) (54)发明名称 一种基于规则推理与GRU神经网络推理的混 合推理方法 (57)摘要 本发明公开了一种基于规则推理与GRU神经 网络推理的混合推理方法， 包括步骤： 生成知识 图谱并给定的问题查询q， 利用GRU网络生成逻辑 规则； 基于生成的逻辑规则， 构建马尔可夫逻辑 网络进行知识图谱推理， 对逻辑规则进行价值打 分； 将生成的高质量逻辑规则给到GRU网络用于 优化网络参数； 利用价值函数计算推理结果的得 分并输出可能的结果， 量化表 示推理结果的可信 度。 本发明通过对价值函数的设计， 结合规则推 理和GRU神经网络推理， 能够快速有效地找到知 识推理的结果， 并计算推理结果的可信度。 权利要求书2页 说明书5页 附图2页 CN 114925190 A 2022.08.19 CN 114925190 A 1.一种基于规则推理与GRU神经网络推理的混合推理方法， 其特 征在于， 包括 步骤： (1)从知识数据库加载数据生成知识图谱， 设定一个查询q(h,r,？ )， h为头实体， r为规 则， ？ 为待查询结果； 利用GRU网络根据查询q(h,r,？ )生成规则集 合R； (2)设定候选答案， 根据生成规则集合R在知识图谱上构建马尔可夫逻辑网络进行知识 图谱推理， 获得规则集 合R中每个规则对候选答案的贡献进行评价打 分； (3)取分数最高的K个规则组成的最大化规则集合RK， 通过最大化规则集合RK的对数似 然来更新GRU网络参数θ； (4)重复步骤(1)至步骤(3)N ′次得到训练好的GRU网络； 利用训练好的GRU网络再次根 据给定的查询q(h,r,？ )生成规则集合， 并将新生 成的规则集合在知识图谱 上构建马尔可夫 逻辑网络进行知识图谱推理； 利用价值函数计算每个规则价值得分， 选取得分最高的规则 推理的实体作为推理结果输出。 2.根据权利要求1所述的基于规则推理与GRU神经网络推理的混合推理方法， 其特征在 于， 步骤(1)中利用GRU网络根据查询q(h,r,？ )生成规则集 合R具体为： (1.1)设定一组规则rule＝[rq,r1,r2,……rl,re]用于推理， rq表示查询关系， re表示规 则结束， ri表示规则体， i∈(1 ……l)； (1.2)利用GRU网络根据当前 给定的规则生成下一组规则； 所述GRU网络 定义公式如下： h0＝f1(vr) ht′＝GRU(ht′ ‑1,f2[vr,vrt′]) 式中， h0为GRU网络的初 始状态隐藏层， ht′为t′状态的隐藏层， ht′ ‑1为t′状态的前一状态 的隐藏层； f1和f2是线性变换函数， vr是查询q的头关系嵌入向量， vrt′是与vr关联关系的嵌 入向量， [vr,vrt′]为向量串联操作； (1.3)将生成的下一组规则作为当前给定的规则重 复步骤(1.2)N ‑1次， 获得N组规则形 成规则集 合R； 获取概 率分布pθ(R|q)为： pθ(R|q)＝MD(R|D， GRUθ(q)) 式中， MD代表多项式分布； D为集合R大小的超参数； GRUθ(q)定义了查询为q的组合规则 上的分布。 3.根据权利要求2所述的基于规则推理与GRU神经网络推理的混合推理方法， 其特征在 于， 步骤(2)具体为： (2.1)假设待查询结果？ 的候选答案集合为A， A为规则集合R中的所有规则推理得到候 选答案构成的集 合， 候选答案a∈A； (2.2)根据生成规则集合R在知识图谱上构建马尔可夫逻辑网络进行知识图谱推理， 构 建的马尔可 夫逻辑网络概 率计算公式为： 式中， t为查询结果； z为配分函数； wrule为权重； nrule(t)是获得候选答案a＝t的推理过 程中规则rule满足的次数， 即一阶逻辑谓词F 所有取真值的规则rule的数量； (2.3)针对规则集 合R中每个规则对候选答案的贡献进行评价打 分， 打分函数为： H(rule)＝pθ(rule|q)nrule(t)) 式中， H(rule)表示规则集合R中每个规则对 候选答案的贡献获取的分数； pθ(rule|q)为权　利　要　求　书 1/2 页 2 CN 114925190 A 2GRU网络根据给定的查询q生成规则rule的先验概 率。 4.根据权利要求3所述的基于规则推理与GRU神经网络推理的混合推理方法， 其特征在 于， 步骤(3)中通过最大化 规则集合RK的对数似然来更新GRU网络参数θ 公式为： 5.根据权利要求1所述的基于规则推理与GRU神经网络推理的混合推理方法， 其特征在 于， 步骤(4)中利用价值函数计算价值得分具体是： 将新生 成的规则集合中每个新生 成的规 则对应的马尔可 夫逻辑网络概 率作为价值得分， 公式为： 式中， b为候选答案， b∈B， B为新生成的规则集合中的所有规则推理得到候选答案构成 的集合。 6.根据权利要求1所述的基于规则推理与GRU神经网络推理的混合推理方法， 其特征在 于， 步骤(4)中N ′取值为3。 7.一种计算机设备， 包括存储器、 处理器及存储在存储器上并可在处理器上运行的计 算机程序， 其特征在于， 所述处理器执行所述计算机程序时实现权利要求1至权利要求6所 述方法的步骤。 8.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机程序被 处理器执行时实现权利要求1至 权利要求6所述的方法的步骤。权　利　要　求　书 2/2 页 3 CN 114925190 A 3