天眼查App显示,2月7日,腾讯科技有限公司申请的“大语言模型的训练方法、装置、计算机设备及存储介质”专利公布。
摘要显示,在该方法中,通过在大语言模型的训练过程中引入第一摘要文本和第二摘要文本,为模型训练提供了更多可学习信息,同时由于第一摘要文本和第二摘要文本包含的信息量不同,且第一摘要文本中包含正确语句和错误语句,通过对同一样本文本的两个不同摘要文本进行对比学习,并区分学习第一摘要文本中的正确语句和错误语句,避免了由于摘要文本单一而导致的模型过拟合和生成不准确等问题,不仅提高了模型的泛化性能,还提高了模型的准确性。
热门推荐
?中部非省会第一城,又变了
2024年,湖北GDP突破6万亿元,提前一年完成“十四五”规划总量目标...
聚焦新质生产力与产业国际竞争力提升2
2024年上海产业国际竞争力发展会议15日在虹桥品汇天空广场举行。此次...