(19)国家知识产权局
(12)发明 专利申请
(10)申请公布号
(43)申请公布日
(21)申请 号 202210890992.4
(22)申请日 2022.07.27
(71)申请人 电子科技大 学
地址 611731 四川省成 都市高新区 (西区)
西源大道 2006号
(72)发明人 惠孛 田玲 高辉 古莎莎 陈毓
杨钦程
(74)专利代理 机构 成都希盛知识产权代理有限
公司 512 26
专利代理师 陈泽斌
(51)Int.Cl.
G06F 16/36(2019.01)
G06N 3/04(2006.01)
G06N 3/08(2006.01)
(54)发明名称
一种基于知识图谱与注意力机制的推荐方
法
(57)摘要
本发明涉及个性化推荐技术, 其公开了一种
基于知识图谱与注意力机制的推荐方法, 解决传
统推荐方法存在的数据稀 疏和解释性差, 实际推
荐效果不佳, 难以满足实际使用需求的问题。 本
发明首先将推荐系统中的项目与知识图谱的实
体对齐, 形成训练样本集; 然后构建包括输入层、
编码层、 特征融合层及输出层的推荐模型, 将训
练样本集作为推荐模型的输入, 采用选取的损失
函数作为优化目标, 对推荐模型进行训练; 最后,
基于训练好的推荐模型计算用户采纳待推荐项
目的概率, 根据概率的大小进行排序, 生成用户
的推荐候选集。 适用于各类内容、 资源、 物品的个
性化推荐。
权利要求书3页 说明书7页 附图2页
CN 115374288 A
2022.11.22
CN 115374288 A
1.一种基于知识图谱与注意力机制的推荐方法, 其特 征在于, 包括以下步骤:
A、 训练推荐模型:
A1、 构建训练样本集: 采集用户历史交互信息进行预处理, 转换为用户 ‑项目交互矩阵,
交互矩阵的数据包括用户编号、 项目编号和交互信息, 并根据 交互矩阵的项目与知识图谱
的实体构建对应矩阵;
A2、 构建推荐模型, 将训练样本集作为推荐模型的输入, 采用BRP损失函数作为优化目
标, 对推荐模型进行训练; 构建的推荐模型, 包括输入层、 编码层、 特 征融合层 及输出层;
输入层: 用于将输入数据转换为低维的嵌入表示;
编码层: 基于关系与用户偏好的相关性, 利用注意力机制对用户偏好表示进行更新; 基
于更新后的用户偏好构建知识图谱中各节点的邻居节点集合, 利用各节点的邻居节点的关
系类型信息对知识图谱各实体的知识 表示进行 更新;
特征融合层: 融合更新后的用户偏好表示和知识 表示, 对用户嵌入表示进行 更新;
输出层: 结合更新后的用户嵌入表示和项目编码嵌入表示生成用户与项目的交互概
率;
B、 根据训练好的物品推荐模型进行推荐:
基于训练好的推荐模型计算用户采纳待推荐项目的概率, 根据概率的大小进行排序,
生成用户的推荐候选集。
2.如权利要求1所述的一种基于知识图谱与注意力机制的推荐方法, 其特 征在于,
步骤A1具体包括:
A11、 获取用户的历史 交互记录, 并转换为用户 ‑项目交互矩阵;
A12、 将交 互矩阵的项目与知识图谱的实体进行对齐处 理, 获得对应矩阵;
A13、 将用户编号、 项目编号进行初始编码, 并生成用户偏好的初始编码;
A14、 将知识图谱中的实体与关系采用知识嵌入的方法进行编码。
3.如权利要求2所述的一种基于知识图谱与注意力机制的推荐方法, 其特 征在于:
输入层将输入数据转换为低维的嵌入表示, 具体包括:
对用户编号、 项目编号、 用户偏好、 知识图谱实体及 关系通过在随机初始化嵌入表中查
表获取索引对应的向量, 从而转换为低维的嵌入值。
4.如权利要求1、 2或3任意一项所述的一种基于知识图谱与注意力 机制的推荐方法, 其
特征在于, 编码层基于关系与用户偏好的相关性, 利用注意力机制对用户偏好表示进行更
新, 更新公式为:
其中, α(r,p)为注意力分数, 表示关系r与用户偏好p的相关性; ep表示用户偏好p的嵌入
表示, er表示知识图谱中关系r的嵌入表示, R表示知识图谱的关系类型集 合。
5.如权利要求4所述的一种基于知识图谱与注意力 机制的推荐方法, 其特征在于, 所述
注意力分数α(r,p)的计算公式如下:
权 利 要 求 书 1/3 页
2
CN 115374288 A
2其中, ηrp是代表关系r和用户偏好p的可训练权 重。
6.如权利要求 4所述的一种基于知识图谱与注意力机制的推荐方法, 其特 征在于,
所述编码层基于关系与用户偏好的相关性, 利用注意力机制对用户偏好表示进行更
新, 还包括: 构建距离公式, 测量用户偏好p与其他用户偏好p'之间的关联, 对编码层中更新
用户偏好表示ep的注意力进行迭代, 以最小化用户偏好p对其他用户偏好p'的依赖, 计算公
式如下所示:
其中, d Cor(·)是用户偏好p和其 他用户偏好p'之间的距离相关性,其公式如下:
其中, d Cov(·)是用户偏好p和其他用户偏好p'的距离协方差, d Var(·)是用户偏好
的距离方差 。
7.如权利要求1、 2或3任意一项所述的一种基于知识图谱与注意力 机制的推荐方法, 其
特征在于, 编码层基于更新后的用户偏好构建知识图谱中各节点的邻居节点集合, 利用各
节点的邻居节点的关系类型信息对知识图谱各实体的知识 表示进行 更新, 其更新公式为:
其中,
表示节点v与关系r的聚合, ev,er分别表示节点v和关系r的嵌入表示, 0
表示其为输入的嵌入表示; ei表示节点i的嵌入表示, 1表示其为更新后的嵌入表示; Wλ(r)为
关系类型的相关参数, f()函数代表Relu激活函数, N(i)表示节点i基于更新后的用户偏好
构建的邻居节点 集合。
8.如权利要求1、 2或3任意一项所述的一种基于知识图谱与注意力 机制的推荐方法, 其
特征在于, 特征融合层融合更新后的用户偏好表 示和知识表 示, 对用户嵌入进 行更新, 其更
新公式为:
其中, eu表示用户u的嵌入表示, 1表示其为更新后的嵌入表示; β(u,p)代表用户u与偏好
p之间的注意力分数, ep表示用户偏好p的嵌入表示, ei表示节点i的嵌入表示, 0表示其为输
入的嵌入表示, ⊙表示乘积; Nu代表用户u采取的项目集 合, |Nu|表示Nu的数量。
9.如权利要求8所述的一种基于知识图谱与注意力 机制的推荐方法, 其特征在于, 所述
注意力分数β(u,p)的计算公式如下:
其中, eu表示用户u的嵌入表示, 0表示其为输入的嵌入表示; ep表示用户偏 好p的嵌入表权 利 要 求 书 2/3 页
3
CN 115374288 A
3
专利 一种基于知识图谱与注意力机制的推荐方法
文档预览
中文文档
13 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共13页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-18 10:53:40上传分享