软件学院本科生在数据挖掘领域顶级会议CIKM上发表论文并获最佳短文奖
近日,我校信息与软件工程学院2018级本科生毛海涛在数据挖掘领域顶级国际会议CIKM (ACM International Conference on Information and Knowledge Management) 上,发表题为“Neuron Campaign for Initialization Guided by Information Bottleneck Theory”的论文,并荣获最佳短ω 文奖,这是我校学生第一次荣获此奖。毛海涛为论文的第一作者。
图1?会议论◆文颁奖现场
近年,随着深度学习相关研究的深入,如何训练好神经网络日益成为学术焦点。在神经网络的初始化策略研究中,最著名的方法有Xavier Initialization、He nitialization,这些方法更多的关注了解决梯度消失和梯度︾爆炸的训练问题,而没有考虑如何寻找更好的初始化策略来提高神经网络的泛化能力。
为此,该论文基于」“信息瓶颈理论”(Information?Bottleneck Theory)提出了一套在理解初始化网络泛化性能的新角度。基于这种新视角,作者提出,满足特定互信息指标条█件的初始化网络,能具有好的泛化性能,并对互信息指标进行了一系列的简化,以降低实际计算复杂度。在确定指标基础上,作者提出了一套神经元竞争方法,以组合优化的方式选择出合适的神经网络初始化。
图2?基于信息〖瓶颈理论的神经元竞争初始化策←略初始化(IBCI)算法流程
此类基于“信息瓶颈理论”的神经元竞争初始化策略,在初始化方式上可以集成在现有全部的◣初始化方式上,以加快收敛速度,提高泛化性能。论文初步∴在MNIST数据集和多种MLP网络结构上进行实验,证实初始化方式的优异性。
图3?本论文提出的IBCI算法精度对比图
毛海涛是信息与√软件工程学院2018级国际菁英班的本科生,根据学院培养计划,在学院的支持和※校内导师周帆副教授的指导下,该生在大三下学期◥前往微软亚洲研究院开展科研实习。本篇论文就是在实习期间,在微软■亚洲研究院首席研究员付强、研究员杜仑、研究主管韩石、副院长张冬梅的指导下,和北大博士生陈旭共同完成的。
未经允许不得转载:二九年华大学门户 » 软件学院本科生在数据挖掘领域顶级会议CIKM上发表论文并获最佳短文奖
相关推荐
- 三方共建内江前◎沿科技和工程教育中心 助其打造科创⊙名城
- 游自立教授实验室在Science advances发文诠释小胶质细胞在抗抑郁中的作用
- 电子科技大学与海南省人民政府签署战略合作协议
- 格拉斯哥学院赴省内外中学开展科普讲座和招生宣传
- 中◤国商用飞机有限责任公司来校访问
- 机电学院举行领导干部述职述廉大会
- 【成电青年说】成电杰出学生分享大学学习和生活感悟
- 英才学院本科生在人工智能领域顶级会议AAAI 2021发表论文
- 经管学院赴多地、多形式开展本科招生宣传工作
- 助力长江航道智慧管理 这个AI摄像头“身怀绝技”
- “在线上课”,成电学子这样说……
- 银杏节U·RUN校园迷你马拉松在清水河校区开跑
- 成都学院两专业入选四川省一流本科专业建设点
- 学校第八届教代会暨第十三届工代会第二次会议隆重开幕
- 医学院举行本科临床医学专业认证和人才培养研讨会
- 电子科大参加全国学校安全工作视频会
- 学校党委理论学习中心组(扩大)专题学习社→会主义革命和建设时期历史
- 机电学院开展2021年河北招生宣传工作
- 校领导调研研究生教育工作
- 院士专家云集清水河畔 把脉我@校数学学科发展
新闻公告
- 学校举办第五届辅导员素质能力大赛 11-05
- 宜宾市党政代表团来校访问 11-05
高考招生
- 电子科技大学2018全∏日制普通本科招生章程 08-05
- 电子科技大学2016全日制普通本科招生章程 08-05
- 电子科技大学2017全日制普通本科招生章程 08-05
- 电子科技大学2014年全日制普∞通本科招生章程 08-05
- 电子科技大学2015年全日制普通本科招生章程 08-05
- 格拉斯哥学院2015招生简章 08-05
- 电子科技大学2013年全日制普通本科招生章程 08-05
- 电子科技大学2011年全日制普通本科招生章程 08-05
- 电子科技大学2012年全日制普通本科招生章程 08-05
- 电子科技大学2008年招生章程 08-05