(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211270781.7 (22)申请日 2022.10.17 (71)申请人 南京大学 地址 210023 江苏省南京市栖霞区仙林大 道163号 (72)发明人 王中风　李琼　方超　 (74)专利代理 机构 北京弘权知识产权代理有限 公司 11363 专利代理师 逯长明　孙亚芹 (51)Int.Cl. G06F 17/16(2006.01) G06F 7/544(2006.01) G06F 7/48(2006.01) G06F 7/499(2006.01) G06F 7/53(2006.01)G06N 3/063(2006.01) (54)发明名称 一种点积运 算装置 (57)摘要 本申请提供一种点积运算装置， 所述点积运 算装置包括： 译码模块、 符号与指数运算模块、 指 数比较求差模块、 尾数乘法模块、 加法器、 有效数 对齐模块、 符号处理与尾数相加模块、 尾数归一 与指数调整模块和编码与舍入模块， 由于采用融 合操作， 在加法器内无需进行中间结果的译码和 编码与舍入功能， 导致本申请所需译码模块和编 码与舍入模块的数量减少， 因此减小了硬件面积 和硬件功耗； 并且， 由于减少了译码模块和编码 与舍入模块， 因此计算的关键路径缩短， 从而减 小了计算延迟； 进一步的， 由于每个编码与舍入 模块在数据输出时均根据输出精度的限制进行 舍入， 因此编码与舍入模块减少导致整个计算过 程需要舍入的次数减少， 从而提升了点积结果的 精度。 权利要求书2页 说明书11页 附图8页 CN 115544447 A 2022.12.30 CN 115544447 A 1.一种点积运 算装置， 其特 征在于， 包括： 2n个并行的译码模块， 每个所述译码模块用于通过对Posit格 式的输入数据进行解码， 确定所述输入数据的符号、 指数值和包含隐藏值的尾数值， 所述输入数据包括被乘数和乘 数， n为大于等于2的正整数； n个并行的符号与指数运算模块， 每个所述符号与指数运算模块用于获取其中两个所 述并行的译码模块传输的一组所述输入数据的符号和指数值， 并确定对一组所述输入数据 的符号进行或运算后得到的符号， 以及确定一组所述输入数据的指数值之和， 每一组所述 输入数据包括 一个被乘数和一个乘数； 指数比较求差模块， 用于获取所述输入数据的指数值之和， 并确定指数最大值以及n个 指数差， 所述指数最大值为所述指数值之和中的最大值， 每个所述指数差为所述指数最大 值与一组所述输入数据的指数值之和之差； n个尾数乘法模块， 每个尾数乘法模块用于获取其中两个所述并行的译码模块传输的 一组所述输入数据的包含隐藏值的尾数值， 确定对一组所述输入数据中包含隐藏值的尾数 值的部分和， 对所述部分和进行符号位扩展， 确定对符号位扩展后的所述部分和进行压缩 后得到的和数值以及进位数值； n+1个加法器， 其中的n个加法器用于获取通过每一个所述尾数乘法模块得到的每一组 所述和数值以及所述进位数值， 另外1个加法器用于获取通过所述符号处理与尾数相加模 块得到的一组所述和数值以及所述进位数值， 每个加法器将获取到的每一组中所述和数值 与所述进位数值相加， 获取每一组中所述和数值与所述进位数值之和； 有效数对齐模块， 用于获取n个所述指数差， 确定对齐的n组所述输入数据中包含隐藏 值的尾数值的乘积； 符号处理与尾数相加模块， 用于获取对齐的n组所述输入数据中包含隐藏值的尾数值 的乘积， 确定对补码形式的所述对齐的n组输入数据中尾数值的乘积进行压缩后得到的一 组所述和数值以及所述进位数值， 获取补码形式的一组所述和数值与所述进位数值之和， 确定补码形式的一组所述和数值与所述进位数值之和的符号 为最终符号； 尾数归一与指数调 整模块， 用于获取通过所述符号处理与尾数相加模块得到的一组所 述和数值与所述进位数值之和， 确定对原码形式的一组所述和数值与所述进位数值之和中 小数点进行移位后得到的最 终尾数值， 以及确定对所述指数最大值进 行调整后得到的最 终 指数值， 所述 最终尾数值中小数点 位于隐藏 位1后； 编码与舍入模块， 用于通过对最终符号、 最终指数值和舍入后的最终尾数值进行编码， 确定Posit格式的点积运 算输出值。 2.根据权利要求1所述的点积运 算装置， 其特 征在于， 所述指数比较求差模块包括： 比较器树模块， 用于确定与n组输入数据的指数值之和的组数匹配的比较器树模块的 树形， 以及根据所述比较器树模块的树形确定n组输入数据的指数值之和中的最大值， 作为 指数最大值； 指数求差模块， 用于确定n个指数差， 每个所述指数差为所述指数最大值与一组输入数 据的指数值之和之差 。 3.根据权利要求2所述的点积运算装置， 其特征在于， 所述比较器树模块为递归结构比 较器树模块， 所述比较 器树模块包括至少一个比较 器。权　利　要　求　书 1/2 页 2 CN 115544447 A 24.根据权利要求1所述的点积运 算装置， 其特 征在于， 所述尾数乘法模块包括： 部分和生成模块， 用于根据一组输入数据中乘数的尾数的布斯编码值， 确定第 一乘积， 所述第一乘积为对一组输入数据中被乘数的尾数值进行移位处理后的值与所述乘数的尾 数布斯编码值的乘积， 并确定所述第一乘积为一组输入数据中尾数值的部分和， 乘数 的尾 数布斯编码值 为乘数的尾数值进行基4布斯重编码得到的值； 第一华莱士树模块， 用于确定对符号位扩展后的所述部分和进行压缩后得到的和数值 以及进位数值。 5.根据权利要求4所述的点积运算装置， 其特征在于， 所述第 一华莱士树模块为递归结 构华莱士树模块， 所述第一 华莱士树模块包括至少一个3:2压缩器或至少一个4:2压缩器。 6.根据权利要求 4所述的点积运 算装置， 其特 征在于， 所述尾数乘法模块还 包括： 符号位扩展模块， 用于根据输入数据中尾数值的部分和的符号确定， 对所述输入数据 中尾数值的部 分和的高位进行非全部比特的符号位扩展， 所述输入数据中尾数值的部 分和 的符号为输入数据中乘数的尾数布斯编码值的符号。 7.根据权利要求1所述的点积运算装置， 其特征在于， 所述译码模块设定的输入数据中 尾数值的位宽小于所述编 码与舍入模块设定的输出数据中尾数值的位宽， 所述输入数据中 尾数值的位宽为所述译码模块设定的输入数据精度， 所述输出数据中尾数值的位宽为所述 编码与舍入 模块设定的输出 数据精度。 8.根据权利要求7所述的点积运算装置， 其特征在于， 所述有 效数对齐模块设定的尾数 值的位宽大于所述编码与舍入 模块设定的输出 数据中尾数值的位宽 。 9.根据权利要求8所述的点积运 算装置， 其特 征在于， 所述有效数对齐模块包括： 尾数舍弃模块， 用于对对齐的n组输入数据中尾数值的乘积中超出设定的尾数值的位 宽范围的低位 值进行舍弃。 10.根据权利要求1所述的点积运算装置， 其特征在于， 所述有效数对齐模块为桶式移 位器。权　利　要　求　书 2/2 页 3 CN 115544447 A 3