模板社区
工业缺陷大模型训练-真实专利三阶段预训练流程
立即使用
2
0
0
举报
发布时间:2026年11月10日
工业缺陷大模型训练-真实专利三阶段预训练流程
流程图分为三个递进阶段:S1(ViTDeT主干预训练)输入大量未标注工业场景图像,利用Patch HOG特征重建被遮盖部分,训练后保留主干权重;S2(DINO检测头对比预训练)冻结S1主干,对同图执行两种随机增强生成视图A与视图B,利用伪框对应关系和两头输出对比损失来训练检测头;S3(少量标注端到端微调)组装S1主干与S2检测头的权重作为初始化,采用标注样本进行反向传播,同时更新两部分权重。D区特别指出了该技术作为病害MLLM训练原型的边界:可借鉴其“无标注预训练→对比预训练→少量标注微调”的阶段性权重传递;但不能直接将其通用阶段顺序或掩码HOG重建声称为自己的创新。若要改造成多模态大语言模型,必须新增真实图文监督与语言目标,并重新定义损失函数。
发布时间:2026年11月10日
发表评论
打开APP查看高清大图
工业缺陷大模型训练-真实专利三阶段预训练流程
下载eddx文件
下载客户端
立即使用
社区模板帮助中心,
他的近期作品
查看更多>>