2021年11月13日,赵琴博士顺利完成博士后出站答辩。由梁永生教授、王轩教授、叶允明教授、王鸿鹏教授及徐睿峰教授组成的答辩委员会经无记名投票,一致同意赵琴博士出站,并评价赵琴博士在站期间研究工作成果为“优”。

赵琴博士毕业于新加坡国立大学,于2018年11月加入研究组。博士后期间主要从事“可解释性量子力学启发的语言模型研究”研究课题,其主要工作和成果包括:

(1) 针对交互任务中句子密度矩阵表示不足的问题,提出了一种基于上下文的量子语言模型。通过引入双向长短记忆网络来建模句子密度矩阵。在自动问答领域的TREC-QA和WIKIQA数据集上的实验结果显示了该模型具有更好地建模上下文的能力,提升了问答系统的性能。

(2) 考虑到交互任务中句子中不同词具有不同的贡献权重的现象,提出了一种基于量子注意力的语言模型。该模型通过体系密度矩阵中各个状态出现的概率,构造了带注意力权重的句子密度矩阵。在自动问答数据集上的实验结果表明了该模型的有效性。

(3) 针对现有量子语言模型存在可解释性不足的问题,提出了一种基于量子期望值的语言模型。通过构建联合问答观测量,利用量子体系唯一的密度矩阵来抽取问答对特征。这样使得匹配分数具有了相应的物理意义,即联合问答观测量的量子期望值,从而提高了模型的可解释性。

(4) 针对现有量子语言模型只利用实数词嵌入的问题,提出了一种复数化量子启发语言模型框架。该模型通过引入复数化的词嵌入来携带额外的虚部信息,在保持了模型可解释性的同时,增强了量子启发语言模型的表示能力。在方面级情感分类数据集上的实验结果表明了该模型的有效性。

赵琴博士在站期间工作努力,获批了国家自然科学基金青年基金项目“可解释性宏观类量子语言模型关键理论及其应用研究”以及中国博士后科学基金项目(第67批)各一项,参加了广东省教育厅新冠肺炎疫情防控科研专项项目一项和深圳市基础研究计划学科布局项目两项,发表和录用学术论文6篇。

祝愿赵琴博士未来工作顺利,前程似锦。

博士后出站答辩合影

博士后开题报告合影

博士后资助证书

作者 HITsz_HLT

发表评论