浙大申请基于BERT预训练模型和对抗训练的代码更改分类方法专利

航空整机与机体结构件制造产业链月度动态报告 获取样刊

航空产业网 2024-06-11

171 0 0

浙江大学申请一项名为"基于BERT预训练模型和对抗训练的代码更改分类方法"的专利,申请日期为2024-05-16。

专利摘要显示,本发明公开了一种基于BERT预训练模型和对抗训练的代码更改分类方法。包括:获取代码更改提交信息数据集;对所述数据集进行预处理,得到干净样本;将所述干净样本输入BERT预训练模型,得到词嵌入矩阵,对所述词嵌入矩阵进行扰动生成对抗样本;将所述干净样本和对抗样本的损失函数进行融合,作为BERT预训练模型微调的最终损失函数,在得到新的损失函数后进行BERT预训练模型的微调,最终得到提交信息输入的语义特征;将所述语义特征输入全连接层分类模型进行训练;将预处理后的待分类代码更改提交信息数据输入训练后的全连接层分类模型中,得到分类效果。解决相关技术中存在的数据集较小和提交信息文本特征提取能力不足技术问题。

查看详情 : 基于BERT预训练模型和对抗训练的代码更改分类方法

原文链接 : 点击查看


评论 (0)


暂无评论

免费试用


请完善以下信息,我们将会尽快与您联系
若当前手机号码未注册航空产业网,系统在您提交信息之后会自动为您注册账号
用户密码默认手机号码最后6位