(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211126702.5 (22)申请日 2022.09.16 (71)申请人 云南电网有限责任公司电力科 学研 究院 地址 650000 云南省昆明市经济技 术开发 区云大西路10 5号 (72)发明人 于虹　周帅　 (74)专利代理 机构 深圳中细软知识产权代理有 限公司 4 4528 专利代理师 田丽丽 (51)Int.Cl. G06N 3/08(2006.01) G06N 3/04(2006.01) G06F 17/16(2006.01) G06T 7/00(2017.01) (54)发明名称 输电线路缺陷检测方法、 模型剪枝方法、 设 备和介质 (57)摘要 本发明公开了一种输电线路缺陷检测方法、 模型剪枝方法、 设备和介质， 包括： 首先 获取已收 敛的初始缺陷检测模型， 接着迭代的基于影响因 子对预设的第一损失函数进行稀 疏正则化， 以计 算得到初始缺陷检测模内多个通道的目标影响 因子， 及基于多个通道的目标影 响因子在初始缺 陷检测模型中筛选出待裁剪的通道， 并进行裁 剪， 以得到通道剪枝模型； 最后将多张第二训练 图像输入通道剪枝模型， 并迭代 地对通道剪枝模 型内的每一层进行层剪枝， 直至第二损失函数收 敛时， 获取层剪枝后的目标缺陷检测模型。 该目 标缺陷检测模 型能保证在高准确性的前提下， 降 低模型对计算平台的算力、 内存 带宽等方面的要 求， 也即提高了模型的整体效能， 实现了准确性 和实时性的兼顾。 权利要求书2页 说明书9页 附图4页 CN 115481728 A 2022.12.16 CN 115481728 A 1.一种缺陷检测模型的剪枝方法， 其特 征在于， 所述方法包括： 获取已收敛的初始缺陷检测模型和预设的第一损 失函数； 其中， 所述第一损 失函数指 示初始缺陷检测模型输出的特征图与通道剪枝模型输出的特征图之 间的损失， 所述通道剪 枝模型为所述初始缺陷检测模型 经过通道剪枝后得到的模型； 将多张第一训练图像输入所述初始缺陷检测模型， 并基于影响因子对所述第 一损失函 数进行稀疏正则化， 以计算得到所述初始 缺陷检测模内多个通道的目标影响因子； 其中， 影 响因子用于指示 缺陷检测模型内对应通道的重要程度； 基于多个通道的目标影响因子在所述初始缺陷检测模型中筛选出待裁剪的通道， 对所 述初始缺陷检测模型中待裁 剪的通道进行裁 剪， 以得到通道剪枝模型； 获取预设的第二损 失函数， 将多张第二训练图像输入所述通道剪枝模型， 并迭代地对 所述通道剪枝模型内的每一层进行层剪枝， 以使得所述第二损失函数 的损失值减小， 当所 述第二损失函数收敛时， 获取层剪枝后的目标缺陷检测模型。 2.根据权利要求1所述的方法， 其特征在于， 所述将多 张第一训练图像输入所述初始缺 陷检测模型， 并基于影响因子对所述第一损失函数进行稀疏正则化， 以计算得到所述初始 缺陷检测模内多个通道的目标影响因子， 包括： 将多张第一训练图像输入所述初始缺陷检测模型； 获取惩罚函数， 固定所述惩罚函数内多个通道的参数， 并通过最小二乘法对所述惩罚 函数中多个通道的影响因子进行迭代求解， 直至所述惩罚 函数收敛， 获取收敛时的影响因 子作为目标影响因子； 其中， 所述惩罚函数包含所述第一损失函数和稀疏惩罚项， 所述稀释 惩罚项由多个通道的影响因子构成。 3.根据权利要求1所述的方法， 其特征在于， 所述基于多个通道的目标影响因子在所述 初始缺陷检测模型中筛选出待裁剪的通道， 对所述初始 缺陷检测模型中待裁剪的通道进 行 裁剪， 以得到通道剪枝模型， 包括： 基于数值大小对多个通道的目标影响因子进行排序， 并基于预设的裁剪比例和排序后 的目标影响因子确定 裁剪阈值； 从多个通道的目标影响因子中筛选出小于裁剪 阈值的作为待裁剪影响因子， 并将待裁 剪影响因子对应的通道作为待裁 剪的通道裁 剪掉， 以得到通道剪枝模型。 4.根据权利要求1所述的方法， 其特征在于， 所述初始缺陷检测模型内包含依次连接的 第一卷积层、 注意力机制模块和第二卷积层， 所述将多张第一训练图像输入所述初始缺陷 检测模型之后， 包括： 获取所述第 一卷积层输出的第 一特征图并输入所述注意力 机制模块； 其中， 其中， 所述 第一特征图为对第一训练图像经 特征提取后得到的图像； 在所述注意力机制模块内， 确定所述第一特征图内各个特征值的重要程度， 并基于重 要程度在第一特 征图内进行倾向性标注， 以生成第二特 征图； 获取所述注意力机制模块输出的第二特 征图并输入所述第二卷积层。 5.根据权利要求1所述的方法， 其特征在于， 所述迭代地对所述通道剪枝模型内的每一 层进行层剪枝， 包括： 获取当前所述通道剪枝模型内第i层的目标稀疏度和总参数数量， 根据所述目标稀疏 度和所述总参数数量计算在第i层的参数裁剪数量； 其中， 所述通道剪枝模型包含N层， i∈权　利　要　求　书 1/2 页 2 CN 115481728 A 2N； 基于参数的绝对值大小对第i层内的所有参数进行排序， 根据所述参数裁剪数量从排 序后的参数中筛选出待裁剪参数； 其中， 所有待裁剪参数 的绝对值均小于非待裁剪参数 的 绝对值； 基于待裁剪参数设置第i层对应的二值矩阵； 其中， 所述二值矩阵与第i层的尺寸相同， 且所述二值矩阵内在待裁剪处的值为0， 在非待裁剪处的值为1， 所述待裁剪处为待裁剪参 数在第i层的位置； 将第i层与对应的二值矩阵进行对应相乘， 以使得对第i层内的参数进行层剪枝， 当层 剪枝后第i层的稀疏度变化值小于预设的稀疏度变化上限值时， 返回所述获取当前所述通 道剪枝模 型内第i层的目标稀疏度和总参数数量的步骤及后续步骤， 直至层剪枝后第i层的 稀疏度变化 值等于预设的稀疏度变化上限值。 6.根据权利要求5所述的方法， 其特 征在于， 所述方法， 还 包括： 获取预设的稀疏度变化函数及迭代次数； 其中， 所述稀疏度变化函数用于指示不同迭 代次数下对应的稀疏度变化 值； 将当前的迭代次数代入所述稀疏度变化函数， 以得到目标稀疏度变化值； 其中， 当前的 迭代次数为当前进行层剪枝的次数； 根据所述通道剪枝模型内第 i层的初始稀疏度和所述目标稀疏度变化值计算所述目标 稀疏度。 7.根据权利要求5所述的方法， 其特 征在于， 所述方法， 还 包括： 在层剪枝后， 若第i层内存在被剪枝参数的绝对值大于预设阈值 时， 对二值矩阵进行重 置， 以得到重置二值矩阵； 其中， 在所述重置二值矩阵内， 大于预设阈值的被剪枝参数所对 应的值由0 重置为1； 将第i层与对应的重 置二值矩阵进行对应相乘， 以修复第i层内的参数。 8.一种输电线路缺陷检测方法， 其特 征在于， 所述方法， 包括： 获取待检测的输电线路图像及目标缺陷检测模型； 其中， 所述目标缺陷检测模型通过 如权利要求1 ‑7所述的方法训练得到； 将所述输电线路图像输入所述目标缺陷检测模型， 获取所述目标缺陷检测模型输出的 输电线路缺陷。 9.一种计算机可读存储介质， 存储有计算机程序， 其特征在于， 所述计算机程序被处理 器执行时， 使得 所述处理器执行如权利要求1至8中任一项所述方法的步骤。 10.一种输电线路缺陷检测设备， 包括存储器和处理器， 其特征在于， 所述存储器存储 有计算机程序， 所述计算机程序被所述处理器执行时， 使得所述处理器执行如权利要求 1至 8中任一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 115481728 A 3