图像处理、图像处理模型训练方法、装置及设备与流程
1.本技术涉及计算机技术领域,尤其涉及一种图像处理、图像处理模型训练方法、装置及设备。
背景技术:
2.监控系统常被部署在地铁和公交等公众场所,用于监控和发现公众场所的异常。监控系统可通过人体检测,发现监控区域内的行人。
3.目前,监控系统一般需提取监控区域内的行人的人体特征,进而根据人体特征识别行人身份。但监控系统对应的监控区域对应的实际场景较为复杂,如何准确提取人体特征是亟需解决的问题。
技术实现要素:
4.本技术提供一种图像处理、图像处理模型训练方法、装置及设备,用于提高对象识别的准确度。
5.第一方面,本技术实施例提供一种图像处理方法,包括:获取包含待识别对象的目标图像;将所述目标图像输入训练后的第一图像处理模型,获得所述待识别对象的目标识别结果;其中,所述训练后的第一图像处理模型是根据第一特征提取误差和第一域识别误差对训练中的第一图像处理模型进行训练得到的,所述第一特征提取误差表征第一样本图像的第一对象预测特征和第一对象参考特征之间的偏差信息,所述第一对象预测特征是通过所述训练中的第一图像处理模型对所述第一样本图像进行特征提取得到的;所述第一域识别误差表征所述第一样本图像的所述第一预测域和第一标注域之间的偏差信息,所述第一预测域是通过所述训练中的第一图像处理模型对所述第一样本图像进行域预测操作得到的。
6.在本技术实施例中,通过训练后的第一图像处理模型输出对目标图像中的待识别对象的目标识别结果。其中,训练后的第一图像处理模型是通过对训练中的第一图像处理模型进行训练得到的,由于在训练训练中的第一图像处理模型时,是朝训练中的第一图像处理模型学习更准确的对象预测特征的方向,以及朝向训练中的第一图像处理模型学习更不准确的域的方向,调整训练中的第一图像处理模型的模型参数,因此使得训练后的第一图像处理模型在对目标图像进行识别时,能够更准确地识别目标图像中的对象特征,并且,由于对域的识别敏感度更低,使得训练后的第一图像处理模型在识别待识别对象时,受到目标图像的域的影响较小,从而能够准确识别目标图像中的对象。
7.在一种可能的实施方式中,所述方法还包括:将第一样本图像输入所述训练中的第一图像处理模型中,获得所述第一样本图像的所述第一对象预测特征和所述第一预测域;根据所述第一样本图像的所述第一对象预测特征与所述第一样本图像的所述第一对象参考特征的偏差信息,确定所述第一特征提取误差;根据所述第一样本图像的所述第一预测域与所述第一样本图像的所述第一标注域的偏差信息,确定所述第一域识别误差;向降
低所述第一特征提取误差和增大所述第一域识别误差的方向,调整所述训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型,所述训练后的第一图像处理模型为所述预训练的第一图像处理模型,或者是根据所述预训练的第一图像处理模型得到的。
8.在该实施方式中,图像处理设备在输入第一样本图像对训练中的第一图像处理模型训练时,是向降低第一特征提取误差的方向,以及增大第一域识别误差的方向进行调整,也就是说,图像处理设备使得训练中的第一图像处理模型识别对象的误差减小,而使训练中的第一图像处理模型识别域的误差增大,进而可减小域对训练中的第一图像处理模型识别目标图像中的对象的影响。
9.在一种可能的实施方式中,所述方法还包括:将第二样本图像输入所述预训练的第一图像处理模型,获得所述第二样本图像的第二对象预测特征;将所述第二样本图像输入训练后的第二图像处理模型,获得所述第二样本图像的第三对象预测特征,所述训练后的第二图像处理模型为预设的参考模型;根据所述第二对象预测特征与所述第三对象预测特征之间的偏差信息,确定第二特征提取误差;根据所述第二特征提取误差,确定总误差;向降低所述总误差的方向,调整所述预训练的第一图像处理模型的模型参数,直至所述预训练的第一图像处理模型满足第二训练条件,获得所述训练后的第一图像处理模型。
10.在该实施方式中,还可对预训练的第一图像处理模型进行训练,以获得训练后的第一图像处理模型。在对预训练的第一图像处理模型进行训练时,可以以训练后的第二图像处理模型为基准,调整预训练的第一图像处理模型的模型参数,使预训练的第一图像处理模型更接近训练后的第二图像处理模型的模型参数,从而获得识别对象特征准确性更高的训练后的第一图像处理模型。
11.在一种可能的实施方式中,所述方法还包括:获得所述第二样本图像的第一全局特征,所述第一全局特征包括所述第二对象预测特征和第一背景预测特征,其中,背景预测特征用于表示全局特征中除了对象区域以外的区域的特征;获得所述第二样本图像的第二全局特征,所述第二全局特征包括所述第三对象预测特征和第二背景预测特征;将所述第二特征提取误差、第一背景预测误差和第一全局误差之和确定为所述总误差,其中,所述第一背景预测误差用于表示所述第一背景预测特征和所述第二背景预测特征之间的偏差信息,所述第一全局误差用于表示所述第一全局特征和所述第二全局特征之间的偏差信息。
12.在该实施方式中,在调整预训练的第一图像处理模型的模型参数时,还考虑了训练后的第二图像处理模型和预训练的第一图像处理模型输出的背景预测特征之间的误差,以及训练后的第二图像处理模型和预训练的第一图像处理模型输出的全局特征之间的误差,使得预训练的第一图像处理模型能够更准确地学习样本图像中的全局和局部特征,进而也使得训练后的第一图像处理模型能够更准确地识别对象特征。
13.在一种可能的实施方式中,所述方法还包括:将第三样本图像输入到训练中的第二图像处理模型中,获得第四对象预测特征和第二预测域;根据所述第四对象预测特征和与所述第三样本图像对应的第二对象参考特征之间的偏差信息,确定第三特征提取误差,以及根据所述第二预测域与所述第三样本图像对应的第二标注域之间的偏差信息,确定第二域识别误差;向降低所述第三特征提取误差和增加所述第二域识别误差的方向,调整所述训练中的第二图像处理模型的模型参数,直至满足第三训练条件,获得所述训练后的第
二图像处理模型。
14.在该实施方式中,训练后的第二图像处理模型也可以是通过第三样本图像对训练中的第二图像处理模型进行训练得到的,提供了一种获得训练后的第二图像处理模型的方式。并且,在训练训练中的第二图像处理模型时,也是朝训练中的第二图像处理模型学习更准确的对象特征的方向,以及朝向训练中的第二图像处理模型学习更不准确的域的方向,调整训练中的第二图像处理模型的模型参数,使得训练后的第二图像处理模型在对目标图像进行识别时,能够更准确地识别目标图像中的对象特征,并且,由于对域的识别敏感度更低,使得训练后的第二图像处理模型在识别目标图像中的待识别对象时,受到目标图像的域的影响较小,从而能够准确识别目标图像中的对象,这样也就能提高基于训练后的第二图像处理模型学习得到的训练后的第一图像处理模型。
15.在一种可能的实施方式中,所述训练中的第一图像处理模型包括第一对象分类模块和第一域分类模块;所述方法还包括:将所述第一样本图像输入所述第一对象分类模块,获得所述第一对象预测特征;将所述第一样本图像输入所述第一域分类模块,获得所述第一预测域。
16.在该实施方式中,提供了训练中的第一图像处理模型的一种结构,该训练中的第一图像处理模型可包括第一对象分类模块和第一域分类模块,第一对象分类模块可输出第一对象预测特征,第一域分类模块可输出第一预测域,由于第一对象分类模块和第一域分类模块相互独立,因此后续使用训练中的第一图像处理模型时,也可仅使用训练中的第一图像处理模型中的对象分类模块,方便拆分独立使用训练中的第一图像处理模型。
17.在一种可能的实施方式中,所述方法还包括:获取原始图像,所述原始图像用于指示在第一真实域下采集的图像;将所述原始图像的图像参数调整成第二真实域对应的图像参数,获得所述第一样本图像,所述第一真实域指示的环境与所述第二真实域不同。
18.在该实施方式中,第一样本图像可通过对原始图像的图像参数进行调整获得,无需在特定环境中获取样本图像,便可获得多种真实域下的样本图像,有利于降低获得样本图像的难度。
19.在一种可能的实施方式中,所述第二真实域包括天气的状态和/或采集所述原始图像的时间所处的时间段,所述天气的状态包括晴天、雨天、雾天或沙尘暴天气。
20.在该实施方式中,第一样本图像所对应的域可以在不同的天气状态下和/或不同的时间段中,进而在通过第一样本图像对训练中的第一图像处理模型进行训练后,训练后的第一图像处理模型可在对目标图像进行识别时,可不受天气状态或不同时间段对获取到的图像的影响,有利于提高对象识别能力。
21.第二方面,本技术实施例提供一种图像处理模型训练方法,包括:将第一样本图像输入训练中的第一图像处理模型,获得所述第一样本图像的第一对象预测特征和第一预测域;根据所述第一样本图像的所述第一对象预测特征与所述第一样本图像的第一对象参考特征的偏差信息,确定第一特征提取误差;根据所述第一样本图像的所述第一预测域与所述第一样本图像的第一标注域的偏差信息,确定第一域识别误差;向降低所述第一特征提取误差和增大所述第一域识别误差的方向,调整所述训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型;将所述预训练的第一图像处理模型确定为训练后的第一图像处理模型,或者根据所述预训练的第一图像处理模型得到
所述训练后的第一图像处理模型,所述训练后的第一图像处理模型用于识别包含待识别对象的目标图像。
22.在本技术实施例中,图像处理设备可对训练中的第一图像处理模型进行训练,得到预训练的第一图像处理模型。在对训练中的第一图像处理模型进行训练时,图像处理设备可根据第一特征提取误差降低训练中的第一图像处理模型识别对象的误差,进而提高训练中的第一图像处理模型识别对象的准确性。相应地,图像处理设备还可根据第一域识别增大训练中的第一图像处理模型识别域的误差,进而降低训练中的第一图像处理模型识别域的能力,使得预训练的第一图像处理模型在识别目标图像的对象时,可减小域对目标图像中对象的影响。
23.在一种可能的实施方式中,所述方法还包括:将第二样本图像输入所述预训练的第一图像处理模型,获得所述第二样本图像的第二对象预测特征;将所述第二样本图像输入训练后的第二图像处理模型,获得所述第二样本图像的第三对象预测特征,所述训练后的第二图像处理模型为预设的参考模型;根据所述第二对象预测特征与所述第三对象预测特征之间的偏差信息,确定第二特征提取误差;根据所述第二特征提取误差,确定总误差;向降低所述总误差的方向,调整所述预训练的第一图像处理模型的模型参数,直至所述预训练的第一图像处理模型满足第二训练条件,获得训练后的第一图像处理模型,所述训练后的第一图像处理模型用于识别所述包含待识别对象的目标图像。
24.在一种可能的实施方式中,所述方法还包括:获得所述第二样本图像的第一全局特征,所述第一全局特征包括所述第二对象预测特征和第一背景预测特征,其中,背景预测特征用于表示全局特征中除了对象区域以外的区域的特征;获得所述第二样本图像的第二全局特征,所述第二全局特征包括所述第三对象预测特征和第二背景预测特征;将所述第二特征提取误差、第一背景预测误差和第一全局误差之和确定为所述总误差,其中,所述第一背景预测误差用于表示所述第一背景预测特征和所述第二背景预测特征之间的偏差信息,所述第一全局误差用于表示所述第一全局特征和所述第二全局特征之间的偏差信息。
25.在一种可能的实施方式中,所述方法还包括:将第三样本图像输入到训练中的第二图像处理模型中,获得第四对象预测特征和第二预测域;根据所述第四对象预测特征和与所述第三样本图像对应的第二对象参考特征之间的偏差信息,确定第三特征提取误差,以及根据所述第二预测域与所述第三样本图像对应的第二标注域之间的偏差信息,确定第二域识别误差;向降低所述第三特征提取误差和增加所述第二域识别误差的方向,调整所述训练中的第二图像处理模型的模型参数,直至满足第三训练条件,获得所述训练后的第二图像处理模型。
26.在一种可能的实施方式中,所述训练中的第一图像处理模型包括第一对象分类模块和第一域分类模块;所述方法还包括:将所述第一样本图像输入所述第一对象分类模块,获得所述第一对象预测特征;将所述第一样本图像输入所述第一域分类模块,获得所述第一预测域。
27.在一种可能的实施方式中,所述方法还包括:获取原始图像,所述原始图像用于指示在第一真实域下采集的图像;将所述原始图像的图像参数调整成第二真实域对应的图像参数,获得所述第一样本图像,所述第一真实域指示的环境与所述第二真实域不同。
28.在一种可能的实施方式中,所述第二真实域包括天气的状态和/或采集所述原始
图像的时间所处的时间段,所述天气的状态包括晴天、雨天、雾天或沙尘暴天气。
29.第三方面,本技术实施例提供一种图像处理装置,包括:收发模块,用于获取包含待识别对象的目标图像;处理模块,用于将所述目标图像输入训练后的第一图像处理模型,获得所述待识别对象的目标识别结果;其中,所述训练后的第一图像处理模型是根据第一特征提取误差和第一域识别误差对训练中的第一图像处理模型进行训练得到的,所述第一特征提取误差表征第一样本图像的第一对象预测特征和第一对象参考特征之间的偏差信息,所述第一对象预测特征是通过所述训练中的第一图像处理模型对所述第一样本图像进行特征提取得到的;所述第一域识别误差表征所述第一样本图像的所述第一预测域和第一标注域之间的偏差信息,所述第一预测域是通过所述训练中的第一图像处理模型对所述第一样本图像进行域预测操作得到的。
30.在一种可能的实施方式中,所述处理模块还用于,将第一样本图像输入所述训练中的第一图像处理模型中,获得所述第一样本图像的所述第一对象预测特征和所述第一预测域,以及根据所述第一样本图像的所述第一对象预测特征与所述第一样本图像的所述第一对象参考特征的偏差信息,确定所述第一特征提取误差,以及根据所述第一样本图像的所述第一预测域与所述第一样本图像的所述第一标注域的偏差信息,确定所述第一域识别误差,以及向降低所述第一特征提取误差和增大所述第一域识别误差的方向,调整所述训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型,所述训练后的第一图像处理模型为所述预训练的第一图像处理模型,或者是根据所述预训练的第一图像处理模型得到的。
31.在一种可能的实施方式中,所述处理模块还用于,将第二样本图像输入所述预训练的第一图像处理模型,获得所述第二样本图像的第二对象预测特征,以及将所述第二样本图像输入训练后的第二图像处理模型,获得所述第二样本图像的第三对象预测特征,所述训练后的第二图像处理模型为预设的参考模型,以及根据所述第二对象预测特征与所述第三对象预测特征之间的偏差信息,确定第二特征提取误差,以及根据所述第二特征提取误差,确定总误差,以及向降低所述总误差的方向,调整所述预训练的第一图像处理模型的模型参数,直至所述预训练的第一图像处理模型满足第二训练条件,获得所述训练后的第一图像处理模型。
32.在一种可能的实施方式中,所述处理模块具体用于,获得所述第二样本图像的第一全局特征,所述第一全局特征包括所述第二对象预测特征和第一背景预测特征,其中,背景预测特征用于表示全局特征中除了对象区域以外的区域的特征,以及获得所述第二样本图像的第二全局特征,所述第二全局特征包括所述第三对象预测特征和第二背景预测特征,以及将所述第二特征提取误差、第一背景预测误差和第一全局误差之和确定为所述总误差,其中,所述第一背景预测误差用于表示所述第一背景预测特征和所述第二背景预测特征之间的偏差信息,所述第一全局误差用于表示所述第一全局特征和所述第二全局特征之间的偏差信息。
33.在一种可能的实施方式中,所述处理模块还用于,将第三样本图像输入到训练中的第二图像处理模型中,获得第四对象预测特征和第二预测域,以及根据所述第四对象预测特征和与所述第三样本图像对应的第二对象参考特征之间的偏差信息,确定第三特征提取误差,以及根据所述第二预测域与所述第三样本图像对应的第二标注域之间的偏差信
息,确定第二域识别误差,以及向降低所述第三特征提取误差和增加所述第二域识别误差的方向,调整所述训练中的第二图像处理模型的模型参数,直至满足第三训练条件,获得所述训练后的第二图像处理模型。
34.在一种可能的实施方式中,所述训练中的第一图像处理模型包括第一对象分类模块和第一域分类模块;所述处理模块还用于,将所述第一样本图像输入所述第一对象分类模块,获得所述第一对象预测特征,以及将所述第一样本图像输入所述第一域分类模块,获得所述第一预测域。
35.在一种可能的实施方式中,所述收发模块还用于,获取原始图像,所述原始图像用于指示在第一真实域下采集的图像;所述处理模块还用于,将所述原始图像的图像参数调整成第二真实域对应的图像参数,获得所述第一样本图像,所述第一真实域指示的环境与所述第二真实域不同。
36.在一种可能的实施方式中,所述第二真实域包括天气的状态和/或采集所述原始图像的时间所处的时间段,所述天气的状态包括晴天、雨天、雾天或沙尘暴天气。
37.第四方面,本技术实施例还提供一种图像处理模型训练装置,包括:处理模块,用于将第一样本图像输入训练中的第一图像处理模型,获得所述第一样本图像的第一对象预测特征和第一预测域,以及根据所述第一样本图像的所述第一对象预测特征与所述第一样本图像的第一对象参考特征的偏差信息,确定第一特征提取误差,以及根据所述第一样本图像的所述第一预测域与所述第一样本图像的第一标注域的偏差信息,确定第一域识别误差;
38.所述调整模块,用于向降低所述第一特征提取误差和增大所述第一域识别误差的方向,调整所述训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型;
39.所述处理模块,还用于将所述预训练的第一图像处理模型确定为训练后的第一图像处理模型,或者根据所述预训练的第一图像处理模型得到所述训练后的第一图像处理模型,所述训练后的第一图像处理模型用于识别包含待识别对象的目标图像。
40.在一种可能的实施方式中,所述处理模块还用于,将第二样本图像输入所述预训练的第一图像处理模型,获得所述第二样本图像的第二对象预测特征,以及将所述第二样本图像输入训练后的第二图像处理模型,获得所述第二样本图像的第三对象预测特征,所述训练后的第二图像处理模型为预设的参考模型,以及根据所述第二对象预测特征与所述第三对象预测特征之间的偏差信息,确定第二特征提取误差,以及根据所述第二特征提取误差,确定总误差;所述调整模块还用于,向降低所述总误差的方向,调整所述预训练的第一图像处理模型的模型参数,直至所述预训练的第一图像处理模型满足第二训练条件,获得训练后的第一图像处理模型,所述训练后的第一图像处理模型用于识别所述包含待识别对象的目标图像。
41.在一种可能的实施方式中,所述处理模块还用于,获得所述第二样本图像的第一全局特征,所述第一全局特征包括所述第二对象预测特征和第一背景预测特征,其中,背景预测特征用于表示全局特征中除了对象区域以外的区域的特征,以及获得所述第二样本图像的第二全局特征,所述第二全局特征包括所述第三对象预测特征和第二背景预测特征,以及将所述第二特征提取误差、第一背景预测误差和第一全局误差之和确定为所述总误
差,其中,所述第一背景预测误差用于表示所述第一背景预测特征和所述第二背景预测特征之间的偏差信息,所述第一全局误差用于表示所述第一全局特征和所述第二全局特征之间的偏差信息。
42.在一种可能的实施方式中,所述处理模块还用于,将第三样本图像输入到训练中的第二图像处理模型中,获得第四对象预测特征和第二预测域,以及根据所述第四对象预测特征和与所述第三样本图像对应的第二对象参考特征之间的偏差信息,确定第三特征提取误差,以及根据所述第二预测域与所述第三样本图像对应的第二标注域之间的偏差信息,确定第二域识别误差;所述调整模块还用于,向降低所述第三特征提取误差和增加所述第二域识别误差的方向,调整所述训练中的第二图像处理模型的模型参数,直至满足第三训练条件,获得所述训练后的第二图像处理模型。
43.在一种可能的实施方式中,所述训练中的第一图像处理模型包括第一对象分类模块和第一域分类模块;所述处理模块还用于,将所述第一样本图像输入所述第一对象分类模块,获得所述第一对象预测特征,以及将所述第一样本图像输入所述第一域分类模块,获得所述第一预测域。
44.在一种可能的实施方式中,所述处理模块还用于,获取原始图像,所述原始图像用于指示在第一真实域下采集的图像,以及将所述原始图像的图像参数调整成第二真实域对应的图像参数,获得所述第一样本图像,所述第一真实域指示的环境与所述第二真实域不同。
45.在一种可能的实施方式中,所述第二真实域包括天气的状态和/或采集所述原始图像的时间所处的时间段,所述天气的状态包括晴天、雨天、雾天或沙尘暴天气。
46.第五方面,本技术实施例还提供一种图像处理设备,包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述至少一个处理器通过执行所述存储器存储的指令实现如第一方面或第二方面及任一可能的实施方式中的方法。
47.第六方面,本技术提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,当所述计算机指令在计算机上运行时,使得计算机执行如第一方面或第二方面及任一可能的实施方式中的方法。
48.关于第二方面至第六方面的有益效果可参照前文第一方面论述的内容,此处不再列举。
附图说明
49.图1为本技术实施例适用的一种图像处理方法的应用场景示意图;
50.图2为本技术实施例提供的一种图像处理方法的流程示意图;
51.图3为本技术实施例提供的一种获得训练后的第一图像处理模型的方法流程示意图;
52.图4为本技术实施例提供的一种对预训练的第一图像处理模型进行训练的方法流程示意图;
53.图5为本技术实施例提供的一种获得训练后的第二图像处理模型的方法流程示意图;
54.图6为本技术实施例提供的一种图像处理模型训练方法的流程示意图;
55.图7为本技术实施例提供的一种图像处理模型训练方法的流程示意图;
56.图8为本技术实施例提供的一种图像处理装置的结构示意图;
57.图9为本技术实施例提供的一种图像处理模型训练装置的结构示意图;
58.图10为本技术实施例提供的一种图像处理设备的结构示意图。
具体实施方式
59.为了更好地理解本技术提供的技术方案,下面将结合说明书附图以及具体的实施方式进行详细的说明。
60.请参照图1,为本技术实施例提供的一种图像处理方法的应用场景示意图。如图1所示,该场景包括图像采集设备110和图像处理设备120。其中,图像采集设备110和图像处理设备120之间可进行有线或无线通信。
61.图像采集设备110是指具有采集图像功能的设备,例如为摄像机或相机,摄像机例如式摄像机或球式摄像机,相机例如全景相机。
62.图像处理设备120是指具有图像处理功能的设备,例如为服务器或终端设备,终端设备具体例如为个人计算机(personal computer,pc)、平板、笔记本电脑或掌上电脑等。
63.下面对上述各个设备之间的交互进行举例介绍。
64.例如,图像采集设备110采集图像,并将图像发送图像处理设备120,图像处理设备120接收到图像后,提取图像中的人物的人体特征图,并根据人体特征图,确定人体识别结果,该人体识别结果指示人物在图像中的位置。
65.图像采集设备110和图像处理设备120可以是相互独立设置的两个设备。或者,图像采集设备110可设置在图像处理设备120中,这种情况下,图像采集设备110相当于是图像处理设备120中的一部分。
66.本技术的各个实施例均可应用于图1所示的应用场景。本技术的各个实施例中是以图像采集设备和图像处理设备为两个独立的设备进行示例,本技术的各个实施例涉及的图像采集设备例如为图1所示的图像采集设备110,本技术的各个实施例涉及的图像处理设备例如为图1所示的图像处理设备120。
67.请参照图2,为本技术实施例提供的一种图像处理方法的流程示意图。
68.s201,图像处理设备获取包含待识别对象的目标图像。
69.目标图像包含待识别对象的目标图像,待识别对象例如为人物,其中,目标图像可包含一个或多个人物,本技术实施例对此不做限定。
70.其中,图像处理设备可以是从图像采集设备获取的目标图像,或者是由图像采集设备向图像处理设备发送视频,图像处理设备将该视频中满足图像条件的一帧图像作为目标图像。
71.其中,图像条件用于指示目标图像的质量所需达到的条件。图像条件例如包括清晰度大于或等于第一阈值的图像。
72.s202,图像处理设备将目标图像输入训练后的第一图像处理模型,获得待识别对象的目标识别结果,其中,训练后的第一图像处理模型是根据第一特征提取误差和第一域识别误差对训练中的第一图像处理模型进行训练得到的。
73.其中,目标识别结果用于表示待识别对象在目标图像中的位置。第一特征提取误差表征第一样本图像的第一对象预测特征和第一对象参考特征之间的偏差信息,第一对象预测特征是通过训练中的第一图像处理模型对第一样本图像进行特征提取得到的。第一域识别误差表征第一样本图像的第一预测域和第一标注域之间的偏差信息,第一预测域是通过训练中的第一图像处理模型对第一样本图像进行域预测操作得到的。第一标注域可以是被预配置在训练中的第一图像处理模型中的,第一标注域也可以理解为第一样本图像对应的真实域,域是指图像对应的环境,或者可以理解为图像中的对象所处的环境。其中,环境包括天气的状态和/或时间段,天气的状态例如为晴天、雪天、雨天或雾天等,时间段可以是包括白天所对应的时间段和夜晚所对应的时间段。另外,环境还可例如为陆地或水中。
74.在一种可能的实施方式中,如果目标图像包括的多个待识别对象,则图像处理设备可以通过训练中的第一图像处理模型分别获取多个待识别对象各自的目标识别结果。
75.图像处理设备可根据第一特征提取误差和第一域识别误差对训练中的第一图像处理模型进行训练,得到训练后的第一图像处理模型。其中,第一特征提取误差表征第一样本图像的第一对象预测特征和第一对象参考特征之间的偏差信息,第一对象预测特征是通过训练中的第一图像处理模型对第一样本图像进行特征提取得到的;第一域识别误差表征所述第一样本图像的第一预测域和第一标注域之间的偏差信息,所述第一预测域是通过训练中的第一图像处理模型对所述第一样本图像进行域预测操作得到的。
76.如前文所述,训练后的第一图像处理模型是通过第一样本图像对训练中的第一图像处理模型进行训练得到的。其中,第一图像处理模型可以是被预配置在图像处理设备中的,或者图像处理设备从其他设备获取的,第一图像处理模型例如为基于yolo(you only look once)框架的模型。
77.在一种可能的实施方式中,图像处理设备通过第一样本图像对训练中的第一图像处理模型进行训练,获得预训练的第一图像处理模型,并将预训练的第一图像处理模型确定为训练后的第一图像处理模型。
78.请参照图3,为本技术实施例提供的一种获得训练后的第一图像处理模型的流程示意图。
79.s301,图像处理设备将第一样本图像输入至训练中的第一图像处理模型中,获得第一样本图像的第一对象预测特征和第一预测域。
80.其中,第一对象预测特征和第一预测域的具体内容可参照前文所论述的内容,此处不再赘述。
81.例如,第一样本图像可以是图像采集设备采集的真实域下的图像。或者例如,图像处理设备可以是对原始图像进行处理,获得第一样本图像。
82.当第一样本图像有多个时,图像处理设备获得每个第一样本图像的方式均相同,下面以图像处理设备获得一个第一样本图像为例进行介绍。
83.示例性的,图像处理设备将原始图像的图像参数为第二真实域对应的图像参数,获得第一样本图像。其中,原始图像用于指示在第一真实域下采集的图像。第一真实域例如为天气的状态为晴天并且为时间段为白天所对应的时间段。其中,第一真实域指示的环境与第二真实域不同。第二真实域例如为雨天、雾天或雪天。
84.其中,第二真实域不同,则调整原始图像的图像参数的方式也不同,下面举例说
明。
85.示例1,第二真实域指示夜晚对应的时间段。这种情况下,图像处理设备可提高原始图像的rgb值,以获得第一样本图像。
86.图像处理设备可采用对数变换的方式提高原始图像的rgb值。其中,一种采用对数变换的方式提高原始图像的rgb值的公式如下。
87.s=clog(1+r)
88.其中,c为常数,例如取值为10,r为原始图像,s为输出的第一样本图像。
89.示例2,第二真实域指示雨天或雪天。这种情况下,图像处理设备可根据生成对抗网络(generative adversarial network,gan)的方式对原始图像进行处理,以获得第一样本图像。
90.示例3,第二真实域指示雾天或沙尘天,图像处理设备可采用光学模型处理原始图像,获得第一样本图像。一种光学模型的公式如下。
91.(x)=j(x)t(x)+a(1-t(x))
92.其中,i(x)为第一样本图像,x为图像中的像素的坐标值,j(x)为原始图像,a为大气光成分,t(x)为透射率。
93.由于在雾天的环境下,距离图像采集装置更远的物体所在区域的雾的浓度应当小于距离图像装置更近的物体所在区域的雾的浓度,因此为了使得第一样本图像中的呈现的雾的浓度与真实场景下在雾天拍摄的图像更相近。本技术实施例,图像处理装置可采用如下雾化公式,调整第一样本图像,以获得更准确的第一样本图像。一种雾化公式如下。
[0094][0095]
其中,β是雾的浓度,size是预设的在原始图像中雾的尺寸,(x,y)是预设的在原始图像中的雾的中心点坐标,t(x)为透射率,(x,y)为原始图像中的像素点的坐标。
[0096]
可选的,如果第一样本图像为多个的情况,这多个第一样本图像对应的真实域可以包括多个域。
[0097]
如果第一样本图像为多个,那么可将这多个第一样本图像划分多批,其中,每批包括至少一个第一样本图像。图像处理设备通过多批对训练中的第一图像处理模型进行多次迭代训练。
[0098]
s302,图像处理设备根据第一对象预测特征与第一样本图像对应的第一对象参考特征的偏差信息,确定第一特征提取误差。
[0099]
图像处理设备在输入第一样本图像后,即可获得第一样本对象特征图以及第一预测域。图像处理设备对第一样本对象特征图进行特征提取后获得第一对象预测特征,以及对第一参考对象特征图进行特征提取获得第一对象参考特征,第一参考对象特征图为第一样本图像对应的真实对象特征图,并将第一对象预测特征以及第一对象参考特征输入到第一损失函数中,进而根据第一损失函数确定第一特征提取误差。其中,第一损失函数是预存在图像处理设备中的。
[0100]
s303,图像处理设备根据第一预测域与第一样本图像对应的第一标注域的偏差信息,确定第一域识别误差。
[0101]
同理,图像处理设备将第一预测域与第一样本图像对应的第一标注域输入第二损
失函数中,根据第二损失函数计算出第一域识别误差。其中,第二损失函数是预存在图像处理设备中的。
[0102]
s304,图像处理设备向降低第一特征提取误差的方向以及向增大第一域识别误差的方向调整训练中的第一图像处理模型的模型参数,直到训练中的第一图像处理模型满足第一训练条件,获得预训练的第一图像处理模型。
[0103]
图像处理设备可以将预训练的第一图像处理模型确定为训练后的第一图像处理模型。
[0104]
其中,往降低第一特征提取误差的方向可理解为降低第一样本对象特征图与第一样本图像对应的真实对象特征图的误差的方向,如此,使得训练中的第一图像处理模型的模型参数在对第一样本图像进行处理时,可以输出更准确的第一样本对象特征图。
[0105]
同理,增大第一域识别误差可理解为增大第一预测域和第一样本图像对应的第一标注域之间的误差,使得训练中的第一图像处理模型对第一样本图像对应的域无法进行准确的判断,进而可降低训练中的第一图像处理模型对域的敏感度。
[0106]
可选的,图像处理设备可采用反向传播(back-propagation,bp)的方式,调整训练中的第一图像处理模型的模型参数。反向传播是一种计算每次调整训练中的第一图像处理模型的模型参数的值的方式,具体原理是通过激励传输和权重更新反复循环迭代,直至训练中的第一图像处理模型的误差在预设范围之内。其中,激励传输具体为在将第一样本图像输入训练中的第一图像处理模型时获得第一激励响应和第二激励响应,第一激励响应可表示为第一样本图像对应的真实对象特征图,第二激励响应可表示为第一样本图像对应的第一标注域。进一步的,图像处理设备可将第一激励响应对应的第一对象参考特征与第一样本对象特征图对应的第一对象预测特征输入第一损失函数,将第二激励响应与第一预测域输入第二损失函数。进一步的,图像处理设备对第一损失函数求导,获得权重的第一梯度;以及对第二损失函数求导,获得权重的第二梯度。其中,权重的梯度的方向即指示了增大误差的方向,而梯度取反的方向即指示了减少误差的方向。进而,图像处理设备可根据第一梯度以及第二梯度调整训练中的第一图像处理模型的模型参数。
[0107]
以此类推,图像处理设备可对训练中的第一图像处理模型进行多次迭代训练,直到训练中的第一图像处理模型满足第一训练条件,获得预训练的第一图像处理模型。第一训练条件包括第一对象预测特征与第一样本图像对应的第一对象参考特征之间的误差小于预设阈值、训练中的第一图像处理模型输出的第一预测域与第一样本图像对应的第一标注域之间的误差大于预设阈值以及训练次数达到第一预设次数中的一种或多种。
[0108]
作为一个示例,训练中的第一图像处理模型包括第一对象分类模块和第一域分类模块。其中,第一对象分类模块用于输出第一样本对象特征图,第一域分类模块用于输出第一样本图像的第一预测域。
[0109]
示例性的,图像处理设备将第一样本图像输入第一对象分类模块和第一域分类模块中,则第一对象分类模块输出第一样本对象特征图,第一域分类模块输出第一预测域。
[0110]
图像处理设备在执行上述s304时,可以向降低第一特征提取误差的方向对第一对象分类模块的模型参数进行调整,以及向增大第一域识别误差的方向对第一域分类模块的模型参数进行调整,直至满足第一训练条件,获得预训练的第一图像处理模型。其中,第一训练条件的具体内容可参照前文所述,此处不再赘述。
[0111]
在该示例中,训练后的第一图像处理模型可为预训练的第一图像处理模型中的第一对象分类模块,或者也可为预训练的第一图像处理模型。
[0112]
在另一种可能的实施方式中,图像处理设备对预训练的第一图像处理模型进行训练之后,获得训练后的第一图像处理模型。下面对图像处理设备对预训练的第一图像处理模型进行训练的过程进行介绍。
[0113]
请参照图4,为本技术实施例提供的一种对预训练的第一图像处理模型进行训练的方法流程示意图。
[0114]
s401,图像处理设备将第二样本图像输入预训练的第一图像处理模型,获得第二样本图像的第一全局特征,其中,第一全局特征包括第二对象预测特征和第一背景预测特征。
[0115]
其中,背景预测特征用于表示全局特征中除了对象区域以外的区域的特征。
[0116]
其中,图像处理设备获取第二样本图像的方式可对应参照前文第一样本图像的获取方式,此处不再赘述。
[0117]
图像处理设备将第二样本图像输入预训练的第一图像处理模型后,预训练的第一图像处理模型输出第一样本全局特征图,第一样本全局特征图包括第二样本对象特征图以及第一样本背景特征图。其中,第一样本全局特征图用于获得第一全局特征,第二样本对象特征图用于获得第二对象预测特征,第一样本背景特征图用于获得第一背景预测特征。
[0118]
s402,图像处理设备将第二样本图像输入训练后的第二图像处理模型,获得第二样本图像的第二全局特征,其中,第二全局特征包括第三对象预测特征和第二背景预测特征。
[0119]
同理,图像处理设备将第二样本图像输入训练后的第二图像处理模型后,即可获得第二样本全局特征图,第二样本全局特征图包括第三样本对象特征图和第二样本背景特征图。其中,第二样本全局特征图用于获得第二全局特征,第三样本对象特征图用于获得第三对象预测特征,第二样本背景特征图用于获得第二背景特征。
[0120]
其中,训练后的第二图像处理模型为预设的参考模型,参考模型可以理解为其输出的对象特征图与真实的对象特征图之间的误差小于或等于第三阈值,第三阈值可为0。
[0121]
s403,图像处理设备根据第二对象预测特征与第三对象预测特征的偏差信息,确定第二特征提取误差。
[0122]
一种第二特征提取误差的计算方法如下:
[0123][0124]
其中,l
front
表示第三损失函数,α是平衡系数,g()是特征归一化函数,f表示特征图,attention()表示对特征使用注意力机制,表示第三样本对象特征图,表示第二样本对象特征图。其中,第三损失函数为预存在图像处理设备中的。
[0125]
s404,图像处理设备根据第二特征提取误差,确定总误差。
[0126]
s405,图像处理设备向降低总误差的方向,调整预训练的第一图像处理模型的模型参数,直至预训练的第一图像处理模型满足第二训练条件,获得训练后的第一图像处理模型。
[0127]
图像处理设备向降低总误差的方向,调整预训练的第一图像处理模型的模型参
数,对预训练的第一图像处理模型进行多次迭代训练,直到满足第二训练条件,获得训练后的第一图像处理模型。
[0128]
其中,第二训练条件可以为总误差小于第一阈值,或者调整预训练的第一图像处理模型的模型参数的次数已到达第二预设次数。
[0129]
s404的一种可能的执行方式如下。
[0130]
图像处理设备根据第一背景预测特征和第二背景预测特征之间的偏差信息,确定第一背景预测误差,以及根据第一全局特征和第二全局特征之间的偏差信息,确定第一全局误差。
[0131]
一种计算第一背景预测误差的计算方法如下:
[0132][0133]
其中,l
background
表示第一背景预测误差,β是平衡系数,表示第二样本背景特征图,表示第一样本背景特征图。
[0134]
一种采用全局相关网络(global correlation network,gcnet)计算第一全局误差的公式如下:
[0135]
l
globe
=kl(gc(f
t
),gc(fs))
[0136]
其中,l
globe
表示第一全局误差,k表示特征图,f
t
表示第二样本全局特征图,fs表示第一样本全局特征图。
[0137]
一种计算总误差的公式如下:
[0138]
l
total
=l
dect
+l
local
+l
globe
[0139]
其中,l
total
表示总误差,l
dect
表示第三特征提取误差,第三特征提取误差用于表示第二对象预测特征与第二样本图像对应的第二对象参考特征之间的偏差信息,l
local
表示第二特征提取误差与第一背景预测误差的和,l
globe
表示第一全局误差。
[0140]
在一种可能的实施方式中,训练后的第二图像处理模型可以是图像处理设备通过第三样本图像对训练中的第二图像处理模型进行训练得到的,也可以是从其他设备接收得到的。其中,图像处理设备获取第三样本图像的方式可对应参照前文第一样本图像的获取方式,此处不再赘述。
[0141]
下面对图像处理设备通过第三样本图像对训练中的第二图像处理模型进行训练得到训练后的第二图像处理模型的过程进行介绍。请参照图5,为本技术实施例提供的一种获得第二图像处理模型的流程示意图。
[0142]
s501,图像处理设备将第三样本图像输入到训练中的第二图像处理模型中,获得第四对象预测特征和第二预测域。
[0143]
第二预测域的确定方法可参照前文第一预测域的确定方法,此处不再赘述。
[0144]
s502,图像处理设备根据第四对象预测特征与第三样本图像对应的第二对象参考特征的偏差信息,确定第三特征提取误差,以及根据第二预测域与第三样本图像对应的第二标注域之间的偏差信息,确定第二域识别误差。
[0145]
其中,第三特征提取误差和第二域识别误差的确定方法可分别参照前文确定第一特征提取误差以及第一域识别误差的内容,第二标注域的具体内容可对应参照前文第一标
注域的具体内容,此处不再赘述。
[0146]
s503,图像处理设备向降低第三特征提取误差和增加第二域识别误差的方向,调整训练中的第二图像处理模型的模型参数,直至满足第三训练条件,获得训练后的第二图像处理模型。
[0147]
其中,第三训练条件包括第三特征提取误差小于第二阈值、第二域识别误差大于第三阈值、以及调整训练中的第二图像处理模型的模型参数的次数已到达第三预设次数中的一种或多种。
[0148]
作为一个示例,训练中的第二图像处理模型包括第二对象分类模块和第二域分类模块。第二对象分类模块用于输出第三样本图像的第四对象预测特征,第二域分类模块用于输出第三样本图像的第二预测域。
[0149]
其中,图像处理设备对第二对象分类模块和第二域分类模块的模型参数进行调整可对应参照前文论述的调整训练中的第一图像处理模型的模型参数的内容,此处不再赘述。
[0150]
作为一个示例,训练中的第二图像处理模型包括的模型参数比训练中的第一图像处理模型包括的模型参数更多。如此,训练中的第二图像处理模型相比训练中的第一图像处理模型能更准确地识别对象特征。
[0151]
需要说明的是,前文所述的对象预测特征、全局特征以及背景特征的确定方法均可参照前文第一对象预测特征的确定方法,此处不再赘述。
[0152]
为了解决图像处理模型识别目标图像中的待识别对象不准确的问题,本技术实施例还提供一种图像处理模型训练的方法。该方法中,图像处理设备通过第一样本图像,获得第一特征提取误差和第一域识别误差,并向减小第一特征提取误差和增大第一域识别误差的方向对训练中的第一图像处理模型进行训练,使得训练后的第一图像处理模型能更准确地识别目标图像中的待识别对象,并且,降低目标图像中的域对待识别对象的影响,进而提高训练后的第一图像处理模型识别对象的准确性。
[0153]
请参照图6,为本技术实施例提供的一种图像处理模型训练方法的流程示意图。
[0154]
s601,图像处理设备将第一样本图像输入训练中的第一图像处理模型,获得第一样本图像的第一对象预测特征和第一预测域。
[0155]
其中,第一样本图像以及第一图像处理模型的具体内容可参照前文所论述的内容,第一对象预测特征和第一预测域的确定方法可参照前文所论述的内容,此处不再赘述。
[0156]
s602,图像处理设备根据第一样本图像的第一对象预测特征与第一对象参考特征的偏差信息,确定第一特征提取误差。
[0157]
其中,第一特征提取误差的确定方法可参照前文所论述的内容,此处不再赘述。
[0158]
s603,图像处理设备根据第一样本图像的第一预测域与第一标注域的偏差信息,确定第一域识别误差。
[0159]
其中,第一标注域以及第一域识别误差的具体内容可参照前文所论述的内容,此处不再赘述。
[0160]
s604,图像处理设备向降低第一特征提取误差和增大第一域识别误差的方向,调整训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型。
[0161]
其中,第一训练条件的具体内容可参照前文所论述的内容,此处不再赘述。
[0162]
s605,图像处理设备将预训练的第一图像处理模型确定为训练后的第一图像处理模型。
[0163]
训练后的第一图像处理模型用于识别目标图像中待识别对象的目标识别结果。换言之,预训练的第一图像处理模型可用于识别包含待识别对象的目标图像,
[0164]
在另一种实施方式中,为了使训练后的第一图像处理模型能够更准确地识别目标图像中的待识别对象,图像处理设备还可对预训练的第一图像处理模型进行训练,得到训练后的第一图像处理模型。
[0165]
请参照图7,为本技术实施例提供的一种图像处理模型训练方法的流程示意图。
[0166]
s701,图像处理设备将第二样本图像输入预训练的第一图像处理模型,获得第二样本图像的第二对象预测特征。
[0167]
其中,图像处理设备获得预训练的第一图像处理模型的过程可参照前文图6所示的图像处理模型训练方法的流程示意图,第二样本图像以及第二对象预测特征的具体内容可对应参照前文第一样本图像以及第一对象预测特征的具体内容,此处不再赘述。
[0168]
s702,图像处理设备将第二样本图像输入训练后的第二图像处理模型,获得第二样本图像的第三对象预测特征。
[0169]
其中,训练后的第二图像处理模型为预设的参考模型,参考模型的具体内容以及训练后的第二图像处理模型的获得方式可参照前文所论述的内容,此处不再赘述。
[0170]
s703,图像处理设备根据第二对象预测特征与第三对象预测特征之间的偏差信息,确定第二特征提取误差。
[0171]
s704,图像处理设备根据第二特征提取误差,确定总误差。
[0172]
其中,图像处理设备根据第二特征提取误差确定总误差的具体内容可参照前文所论述的内容,此处不再赘述。
[0173]
s705,图像处理设备向降低总误差的方向,调整预训练的第一图像处理模型的模型参数,直至预训练的第一图像处理模型满足第二训练条件,获得训练后的第一图像处理模型。
[0174]
其中,训练后的第一图像处理模型用于识别包含待识别对象的目标图像。
[0175]
基于同一发明构思,本技术还提供一种图像处理装置,该装置用于实现上述任一的图像处理方法,例如为图2所示的图像处理方法,另外,该装置还可实现前文中的图像处理设备的功能。
[0176]
请参照图8,为本技术实施例提供的一种图像处理装置的结构示意图。该图像处理装置800包括收发模块801和处理模块802。
[0177]
示例性的,收发模块801,用于获取包含待识别对象的目标图像;处理模块802,用于将目标图像输入训练后的第一图像处理模型,获得待识别对象的目标识别结果;其中,训练后的第一图像处理模型是根据第一特征提取误差和第一域识别误差对训练中的第一图像处理模型进行训练得到的,第一特征提取误差表征第一样本图像的第一对象预测特征和第一对象参考特征之间的偏差信息,第一对象预测特征是通过训练中的第一图像处理模型对第一样本图像进行特征提取得到的;第一域识别误差表征第一样本图像的第一预测域和第一标注域之间的偏差信息,第一预测域是通过训练中的第一图像处理模型对第一样本图
像进行域预测操作得到的。
[0178]
在一种可能的实施方式中,处理模块802还用于,将第一样本图像输入训练中的第一图像处理模型中,获得第一样本图像的第一对象预测特征和第一预测域,以及根据第一样本图像的第一对象预测特征与第一样本图像的第一对象参考特征的偏差信息,确定第一特征提取误差,以及根据第一样本图像的第一预测域与第一样本图像的第一标注域的偏差信息,确定第一域识别误差,以及向降低第一特征提取误差和增大第一域识别误差的方向,调整训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型,训练后的第一图像处理模型为预训练的第一图像处理模型,或者是根据预训练的第一图像处理模型得到的。
[0179]
在一种可能的实施方式中,处理模块802还用于,将第二样本图像输入预训练的第一图像处理模型,获得第二样本图像的第二对象预测特征,以及将第二样本图像输入训练后的第二图像处理模型,获得第二样本图像的第三对象预测特征,训练后的第二图像处理模型为预设的参考模型,以及根据第二对象预测特征与第三对象预测特征之间的偏差信息,确定第二特征提取误差,以及根据第二特征提取误差,确定总误差,以及向降低总误差的方向,调整预训练的第一图像处理模型的模型参数,直至预训练的第一图像处理模型满足第二训练条件,获得训练后的第一图像处理模型。
[0180]
在一种可能的实施方式中,处理模块802具体用于,获得第二样本图像的第一全局特征,第一全局特征包括第二对象预测特征和第一背景预测特征,其中,背景预测特征用于表示全局特征中除了对象区域以外的区域的特征,以及获得第二样本图像的第二全局特征,第二全局特征包括第三对象预测特征和第二背景预测特征,以及将第二特征提取误差、第一背景预测误差和第一全局误差之和确定为总误差,其中,第一背景预测误差用于表示第一背景预测特征和第二背景预测特征之间的偏差信息,第一全局误差用于表示第一全局特征和第二全局特征之间的偏差信息。
[0181]
在一种可能的实施方式中,处理模块802还用于,将第三样本图像输入到训练中的第二图像处理模型中,获得第四对象预测特征和第二预测域,以及根据第四对象预测特征和与第三样本图像对应的第二对象参考特征之间的偏差信息,确定第三特征提取误差,以及根据第二预测域与第三样本图像对应的第二标注域之间的偏差信息,确定第二域识别误差,以及向降低第三特征提取误差和增加第二域识别误差的方向,调整训练中的第二图像处理模型的模型参数,直至满足第三训练条件,获得训练后的第二图像处理模型。
[0182]
在一种可能的实施方式中,训练中的第一图像处理模型包括第一对象分类模块和第一域分类模块;处理模块802还用于,将第一样本图像输入第一对象分类模块,获得第一对象预测特征,以及将第一样本图像输入第一域分类模块,获得第一预测域。
[0183]
在一种可能的实施方式中,收发模块801还用于,获取原始图像,原始图像用于指示在第一真实域下采集的图像;处理模块802还用于,将原始图像的图像参数调整成第二真实域对应的图像参数,获得第一样本图像,第一真实域指示的环境与第二真实域不同。
[0184]
在一种可能的实施方式中,第二真实域包括天气的状态和/或采集原始图像的时间所处的时间段,天气的状态包括晴天、雨天、雾天或沙尘暴天气。
[0185]
本技术实施例还提供一种图像处理模型训练装置,该装置用于实现上述任一所述的图像处理模型训练方法,例如为图6所示的图像处理模型训练方法。另外,该装置还可实
现前文图像处理设备的功能。
[0186]
请参照图9,为本技术实施例提供的一种图像处理模型训练装置的结构示意图。如图9所示,该图像处理模型训练装置900包括处理模块901和调整模块902。
[0187]
示例性的,处理模块901,用于将第一样本图像输入训练中的第一图像处理模型,获得第一样本图像的第一对象预测特征和第一预测域,以及根据第一样本图像的第一对象预测特征与第一样本图像的第一对象参考特征的偏差信息,确定第一特征提取误差,以及根据第一样本图像的第一预测域与第一样本图像的第一标注域的偏差信息,确定第一域识别误差;调整模块902,用于向降低第一特征提取误差和增大第一域识别误差的方向,调整训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型;处理模块901还用于,将预训练的第一图像处理模型确定为训练后的第一图像处理模型,或者根据预训练的第一图像处理模型得到训练后的第一图像处理模型,训练后的第一图像处理模型用于识别包含待识别对象的目标图像;。
[0188]
在一种可能的实施方式中,处理模块901还用于,将第二样本图像输入预训练的第一图像处理模型,获得第二样本图像的第二对象预测特征,以及将第二样本图像输入训练后的第二图像处理模型,获得第二样本图像的第三对象预测特征,训练后的第二图像处理模型为预设的参考模型,以及根据第二对象预测特征与第三对象预测特征之间的偏差信息,确定第二特征提取误差,以及根据第二特征提取误差,确定总误差;调整模块902还用于,向降低总误差的方向,调整预训练的第一图像处理模型的模型参数,直至预训练的第一图像处理模型满足第二训练条件,获得训练后的第一图像处理模型,训练后的第一图像处理模型用于识别包含待识别对象的目标图像。
[0189]
在一种可能的实施方式中,处理模块901还用于,获得第二样本图像的第一全局特征,第一全局特征包括第二对象预测特征和第一背景预测特征,其中,背景预测特征用于表示全局特征中除了对象区域以外的区域的特征,以及获得第二样本图像的第二全局特征,第二全局特征包括第三对象预测特征和第二背景预测特征,以及将第二特征提取误差、第一背景预测误差和第一全局误差之和确定为总误差,其中,第一背景预测误差用于表示第一背景预测特征和第二背景预测特征之间的偏差信息,第一全局误差用于表示第一全局特征和第二全局特征之间的偏差信息。
[0190]
在一种可能的实施方式中,处理模块901还用于,将第三样本图像输入到训练中的第二图像处理模型中,获得第四对象预测特征和第二预测域,以及根据第四对象预测特征和与第三样本图像对应的第二对象参考特征之间的偏差信息,确定第三特征提取误差,以及根据第二预测域与第三样本图像对应的第二标注域之间的偏差信息,确定第二域识别误差;调整模块902还用于,向降低第三特征提取误差和增加第二域识别误差的方向,调整训练中的第二图像处理模型的模型参数,直至满足第三训练条件,获得训练后的第二图像处理模型。
[0191]
在一种可能的实施方式中,训练中的第一图像处理模型包括第一对象分类模块和第一域分类模块;处理模块901还用于,将第一样本图像输入第一对象分类模块,获得第一对象预测特征,以及将第一样本图像输入第一域分类模块,获得第一预测域。
[0192]
在一种可能的实施方式中,处理模块901还用于,获取原始图像,原始图像用于指示在第一真实域下采集的图像,以及将原始图像的图像参数调整成第二真实域对应的图像
参数,获得第一样本图像,第一真实域指示的环境与第二真实域不同。
[0193]
在一种可能的实施方式中,所述第二真实域包括天气的状态和/或采集所述原始图像的时间所处的时间段,所述天气的状态包括晴天、雨天、雾天或沙尘暴天气。
[0194]
本技术实施例还提供一种图像处理设备,请参照图10,为本技术实施例提供的一种图像处理设备的结构示意图,该图像处理设备1000包括:至少一个处理器1001,以及与至少一个处理器1001通信连接的存储器1002。
[0195]
其中,存储器1002存储有可被至少一个处理器1001执行的指令,至少一个处理器1001通过执行存储器1002存储的指令实现如前文任一项所述的图像处理方法或图像处理模型训练方法,例如图2所示的图像处理方法,或者图6所示的图像处理模型训练方法。
[0196]
作为一个示例,图10中的处理器1001可以实现前文中的图像处理装置800的功能,也可以实现前文中图像处理模型训练装置900的功能,以及还可实现前文中的图像处理设备的功能。
[0197]
本技术实施例提供一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,当计算机指令在计算机上运行时,使得计算机执行如前文任一项所述的图像处理方法或图像处理模型训练方法,例如图2所示的图像处理方法,或者图6所示的图像处理模型训练方法。
[0198]
本领域内的技术人员应明白,本技术的实施例可提供为方法、系统、或计算机程序产品。因此,本技术可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本技术可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
[0199]
本技术是参照根据本技术的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0200]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0201]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0202]
显然,本领域的技术人员可以对本技术进行各种改动和变型而不脱离本技术的精神和范围。这样,倘若本技术的这些修改和变型属于本技术权利要求及其等同技术的范围之内,则本技术也意图包含这些改动和变型在内。
技术特征:
1.一种图像处理方法,其特征在于,包括:获取包含待识别对象的目标图像;将所述目标图像输入训练后的第一图像处理模型,获得所述待识别对象的目标识别结果;其中,所述训练后的第一图像处理模型是根据第一特征提取误差和第一域识别误差对训练中的第一图像处理模型进行训练得到的,所述第一特征提取误差表征第一样本图像的第一对象预测特征和第一对象参考特征之间的偏差信息,所述第一对象预测特征是通过所述训练中的第一图像处理模型对所述第一样本图像进行特征提取得到的;所述第一域识别误差表征所述第一样本图像的所述第一预测域和第一标注域之间的偏差信息,所述第一预测域是通过所述训练中的第一图像处理模型对所述第一样本图像进行域预测操作得到的。2.根据权利要求1所述的方法,其特征在于,所述方法还包括:将第一样本图像输入所述训练中的第一图像处理模型中,获得所述第一样本图像的所述第一对象预测特征和所述第一预测域;根据所述第一样本图像的所述第一对象预测特征与所述第一样本图像的所述第一对象参考特征的偏差信息,确定所述第一特征提取误差;根据所述第一样本图像的所述第一预测域与所述第一样本图像的所述第一标注域的偏差信息,确定所述第一域识别误差;向降低所述第一特征提取误差和增大所述第一域识别误差的方向,调整所述训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型,所述训练后的第一图像处理模型为所述预训练的第一图像处理模型,或者是根据所述预训练的第一图像处理模型得到的。3.根据权利要求2所述的方法,其特征在于,所述方法还包括:将第二样本图像输入所述预训练的第一图像处理模型,获得所述第二样本图像的第二对象预测特征;将所述第二样本图像输入训练后的第二图像处理模型,获得所述第二样本图像的第三对象预测特征,所述训练后的第二图像处理模型为预设的参考模型;根据所述第二对象预测特征与所述第三对象预测特征之间的偏差信息,确定第二特征提取误差;根据所述第二特征提取误差,确定总误差;向降低所述总误差的方向,调整所述预训练的第一图像处理模型的模型参数,直至所述预训练的第一图像处理模型满足第二训练条件,获得所述训练后的第一图像处理模型。4.根据权利要求3所述的方法,其特征在于,获得所述第二样本图像的第二对象预测特征,包括:获得所述第二样本图像的第一全局特征,所述第一全局特征包括所述第二对象预测特征和第一背景预测特征,其中,背景预测特征用于表示全局特征中除了对象区域以外的区域的特征;获得所述第二样本图像的第三对象预测特征,包括:获得所述第二样本图像的第二全局特征,所述第二全局特征包括所述第三对象预测特征和第二背景预测特征;
根据所述第二特征提取误差,确定总误差,包括:将所述第二特征提取误差、第一背景预测误差和第一全局误差之和确定为所述总误差,其中,所述第一背景预测误差用于表示所述第一背景预测特征和所述第二背景预测特征之间的偏差信息,所述第一全局误差用于表示所述第一全局特征和所述第二全局特征之间的偏差信息。5.根据权利要求3所述的方法,其特征在于,所述方法还包括:将第三样本图像输入到训练中的第二图像处理模型中,获得第四对象预测特征和第二预测域;根据所述第四对象预测特征和与所述第三样本图像对应的第二对象参考特征之间的偏差信息,确定第三特征提取误差,以及根据所述第二预测域与所述第三样本图像对应的第二标注域之间的偏差信息,确定第二域识别误差;向降低所述第三特征提取误差和增加所述第二域识别误差的方向,调整所述训练中的第二图像处理模型的模型参数,直至满足第三训练条件,获得所述训练后的第二图像处理模型。6.根据权利要求1所述的方法,其特征在于,所述训练中的第一图像处理模型包括第一对象分类模块和第一域分类模块;所述方法还包括:将所述第一样本图像输入所述第一对象分类模块,获得所述第一对象预测特征;将所述第一样本图像输入所述第一域分类模块,获得所述第一预测域。7.根据权利要求1-6任一所述的方法,其特征在于,所述方法还包括:获取原始图像,所述原始图像用于指示在第一真实域下采集的图像;将所述原始图像的图像参数调整成第二真实域对应的图像参数,获得所述第一样本图像,所述第一真实域指示的环境与所述第二真实域不同。8.根据权利要求7所述的方法,其特征在于,所述第二真实域包括天气的状态和/或采集所述原始图像的时间所处的时间段,所述天气的状态包括晴天、雨天、雾天或沙尘暴天气。9.一种图像处理模型训练方法,其特征在于,包括:将第一样本图像输入训练中的第一图像处理模型,获得所述第一样本图像的第一对象预测特征和第一预测域;根据所述第一样本图像的所述第一对象预测特征与所述第一样本图像的第一对象参考特征的偏差信息,确定第一特征提取误差;根据所述第一样本图像的所述第一预测域与所述第一样本图像的第一标注域的偏差信息,确定第一域识别误差;向降低所述第一特征提取误差和增大所述第一域识别误差的方向,调整所述训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型;将所述预训练的第一图像处理模型确定为训练后的第一图像处理模型,或者根据所述预训练的第一图像处理模型得到所述训练后的第一图像处理模型,所述训练后的第一图像处理模型用于识别包含待识别对象的目标图像。10.根据权利要求9所述的方法,其特征在于,根据所述预训练的第一图像处理模型得到训练后的第一图像处理模型,包括:
将第二样本图像输入所述预训练的第一图像处理模型,获得所述第二样本图像的第二对象预测特征;将所述第二样本图像输入训练后的第二图像处理模型,获得所述第二样本图像的第三对象预测特征,所述训练后的第二图像处理模型为预设的参考模型;根据所述第二对象预测特征与所述第三对象预测特征之间的偏差信息,确定第二特征提取误差;根据所述第二特征提取误差,确定总误差;向降低所述总误差的方向,调整所述预训练的第一图像处理模型的模型参数,直至所述预训练的第一图像处理模型满足第二训练条件,获得训练后的第一图像处理模型,所述训练后的第一图像处理模型用于识别所述包含待识别对象的目标图像。11.一种图像处理装置,其特征在于,包括:收发模块,用于获取包含待识别对象的目标图像;处理模块,用于将所述目标图像输入训练后的第一图像处理模型,获得所述待识别对象的目标识别结果;其中,所述训练后的第一图像处理模型是根据第一特征提取误差和第一域识别误差对训练中的第一图像处理模型进行训练得到的,所述第一特征提取误差表征第一样本图像的第一对象预测特征和第一对象参考特征之间的偏差信息,所述第一对象预测特征是通过所述训练中的第一图像处理模型对所述第一样本图像进行特征提取得到的;所述第一域识别误差表征所述第一样本图像的第一预测域和第一标注域之间的偏差信息,所述第一预测域是通过所述训练中的第一图像处理模型对所述第一样本图像进行域预测操作得到的。12.一种图像处理模型训练装置,其特征在于,包括:处理模块,用于将第一样本图像输入训练中的第一图像处理模型,获得所述第一样本图像的第一对象预测特征和第一预测域,以及根据所述第一样本图像的所述第一对象预测特征与所述第一样本图像的第一对象参考特征的偏差信息,确定第一特征提取误差,以及根据所述第一样本图像的所述第一预测域与所述第一样本图像的第一标注域的偏差信息,确定第一域识别误差;所述调整模块,用于向降低所述第一特征提取误差和增大所述第一域识别误差的方向,调整所述训练中的第一图像处理模型的模型参数,直至满足第一训练条件,获得预训练的第一图像处理模型;所述处理模块,还用于将所述预训练的第一图像处理模型确定为训练后的第一图像处理模型,或者根据所述预训练的第一图像处理模型得到所述训练后的第一图像处理模型,所述训练后的第一图像处理模型用于识别包含待识别对象的目标图像。13.一种图像处理设备,其特征在于,包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述至少一个处理器通过执行所述存储器存储的指令实现如权利要求1-10中任一项所述的方法。14.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,当所述计算机指令在计算机上运行时,使得计算机执行如权利要求1-10中任一项所述
的方法。
技术总结
本申请提供一种图像处理、图像处理模型训练方法、装置及设备,用于提高对象识别的准确度。该方法包括:获取包含待识别对象的目标图像;将目标图像输入训练后的第一图像处理模型,获得待识别对象的目标识别结果;训练后的第一图像处理模型是根据第一特征提取误差和第一域识别误差对训练中的第一图像处理模型进行训练得到的,第一特征提取误差表征第一样本图像的第一对象预测特征和第一对象参考特征之间的偏差信息,第一域识别误差表征第一样本图像的第一预测域和第一标注域之间的偏差信息。信息。信息。