基于稳健设计的双向长短期记忆神经网络模型的调优方法

时间:2022-02-01 16:15:04
作者:曹学飞; 李济洪; 王瑞波; 牛倩; 王钰
关键字:稳健设计, 语义角色识别, 长短期记忆神经网络,3\times2交叉验证
DOI:10.3969/j.issn.1001-4268.2022.03.001
查看次数:864

如需要完整文档点击下方 "点击下载文档" 按钮

双向长短期记忆神经网络模型在自然语言处理中广泛使用, 但其调优问题是使用中的难点.本文以自然语言处理中的语义角色识别任务为例, 在双向长短期记忆神经网络模型的调优中, 将4 个候选特征(词、词性、目标词和位置) 和2 个超参数(网络的层数和是否在顶层添加CRF 分类器) 看作稳健设计中的因子, 设置各因子的水平, 进行实验来选择特征和超参数的最优配置组合. 本文在小数据集(6692 条带有语义角色标注信息的例句) 上以3 *2 交叉验证来做完全实验, 以稳健设计的望大特性信噪比为优化目标, 选出了模型的最优配置组合, 并采用因子的方差分析, 定量分析了各因子对模型性能的影响, 使得模型有一定的可解释性. 为了验证本文选出的最优配置组合的优良性, 采用传统方法,在大数据集(约4 万条例句) 上以自然语言处理中常用的标准切分8:1:1, 基于传统的贪心策略调优方法选出最优配置组合, 并与本文方法在测试集进行比较, 验证了本文的调优方法优于传统的调优方法.

如需要完整文档点击下方 "点击下载文档" 按钮

基于稳健设计的双向长短期记忆神经网络模型的调优方法
《基于稳健设计的双向长短期记忆神经网络模型的调优方法》
完整文档 下载到本地,方便收藏和查阅
文件号:321909
基于稳健设计的双向长短期记忆神经网络模型的调优方法
点击下载文档
基于稳健设计的双向长短期记忆神经网络模型的调优方法

点击下载 文件号:321909(点击复制) 公众号(点击复制)

x