人工智能系统已被广泛应用于航空航天、自动驾驶等安全攸关领域。研究确保智能系统的安全可靠的验证与构造方法，已成为急需解决的关键技术需求。最近，软件工程学院赵韩蕊博士研究生在智能系统的安全验证和控制策略构造等方面取得了一些研究进展。
针对系统安全验证问题，赵韩蕊与其合作者提出了一种基于反例制导的dnn型障碍证书生成方法。相关论文”formal synthesis of neural barrier certificates for continuous systems via counterexample guided learning”被嵌入式系统领域国际顶级会议international conference on embedded software（emsoft 2023）接收发表。
synnbc可验证障碍证书综合框架
该工作设计了基于反例制导循环的迭代框架，其中learner模块使用通过多项式优化求解生成的反例来更新网络，将具有特殊结构的神经网络训练为障碍证书候选者，并利用边界增强采样和空间划分技术提升其学习性能；verifier模块通过线性矩阵不等式求解来进一步验证生成的障碍证书候选者，不仅高效且在形式上更加可靠。基于该方法开发的技术工具synnbc能成功解决高达19维的系统形式化安全验证问题。
针对安全控制策略生成问题，赵韩蕊与其合作者提出了一种基于meta-rl的非线性系统dnn型安全控制器综合方法，极大地提升了控制器合成的效率与成功率，不仅在高维示例上有着出色表现同时还成功应用于没有固定系统维度的控制器生成任务。相关成果“safe dnn-type controller synthesis for nonlinear systems via meta reinforcement learning” 已发表于电子设计自动化（eda）和嵌入式系统设计与验证领域国际顶级会议design automation conference（dac 2023）。
赵韩蕊目前为软件工程学院博士二年级研究生，导师杨争峰教授，研究方向为安全强化学习，目前在dac 2023（第一作者）、emsoft 2023（第一作者）国际会议和journal of system sciences and complexity(学生一作)国际期刊上发表学术论文三篇。
图文由论文作者提供
编辑丨陈励
审核丨曹桂涛