计算机科与人工智能专题：机器学习模型部署的安全挑战与策略

作者：南星教育 来源：院校库 标签：大学排名

计算机科与人工智能专题：机器学习模型部署的安全挑战与策略——以自动驾驶、金融贷款等领域为例探讨其应用实践与风险消除方法

开始日期: 2025-08-09

课时安排: 6周在线小组科研+5周论文指导

Prerequisites适合人群

适合年级 (Grade): 大学生及以上

适合专业 (Major): 对计算机科学、人工智能、深度学习、网络安全等专业领域感兴趣的学生。

学生需要学过人工智能基础或者知晓梯度下降、概率论等相关知识。

中文授课，英文ppt，建议具备英文阅读基础

Instructor Introduction导师介绍

W老师

北京大学助理教授

北京大学 QS综排亚洲Top2

王老师 助理教授 博士生导师

佐治亚理工学院 访问学者

墨尔本大学 访问学者

研究方向：机器学习理论和算法，重点关注自监督学习理论、可信机器学习、图学习等

目前已发表人工智能领域顶级学术论文 50 余篇，包括 ICML、NeurIPS、ICLR 等，多篇被选为 Oral 或 Spotlight。曾获得 ECML 2021 最佳论文奖、北京大学第二十二届青教赛理工科类一等奖。

Program Background项目背景

机器学习模型无处不在，已成为我们日常生活中的重要部分，在从交通（自动驾驶汽车）到金融（信用卡或贷款申请）再到就业市场（公司招聘）的各个行业中都有应用。然而，机器学习模型并非没有风险，特别是涉及到敏感领域，比如自动驾驶，一些肉眼不可察觉的噪声能够让一个训练好的机器学习模型输出完全错误的预测。

Program Description项目介绍

本项目将介绍旨在使机器学习模型更值得信赖的方法，即可信机器学习。从介绍机器学习的基本概念和技术出发，重点了解对抗样本的产生，防御对抗样本使得模型变得鲁棒，也会研究后门攻击及相应的防御方法。通过一系列的动手实验，帮助学生全面了解机器学习模型的产生、风险的发现到消除的全过程。通过该项目，学生将会掌握机器学习理论和实践的基础，也将具备在实际应用中建立准确且可信的机器学习模型所需的技能和知识。

Syllabus项目大纲

机器学习基础简介：机器学习模型构成：模型、损失、优化，模型评估与选择；

深度学习模型基础：神经网络的演进：ANN，CNN，Transformer；

对抗样本：对抗样本概念、白盒攻击、黑盒攻击；

对抗防御：对抗训练及其变体；

后门攻击及防御：模型后门概念、后门攻击、后门防御；

项目答辩与点评：学生项目汇报与答辩、导师点评与指导

Program Outcome项目收获

6周【在线小组科研+全球就业力大师课】+5周论文指导，共126课时

1500字左右的项目报告

优秀学员获得主导师推荐信（8封网推）

项目结业证书

EI/CPCI/Scopus/ProQuest/Crossref/EBSCO或同等级别索引国际会议全文投递与发表指导或者CNKI检索的英文普刊全文投递与发表指导

上一篇：网络安全专题：基于深度神经网络的对抗样本攻击与防御方法研究

下一篇：返回列表