春光流淌,首夏清和;卿云烂漫,奏鸣相辉。在复旦大学119周年校庆之际,计算机科学技术学院组织了校庆周系列学术报告会。5月21日,由学院系统安全实验室主办的“智能系统安全专场”在江湾校区二号交叉学科楼E1006会议室举行。报告会由学院张源老师和朱东来老师共同主持,张谧教授、杨广亮青年副研究员和戴嘉润专任副研究员分别就“系统安全视角下的AI攻防研究”“新一代程序分析及其安全应用”和“智能网联车的安全合规之路”三个主题进行了报告分享,四位博士生施游堃、邬梦莹、张歆和孙福特针对Web漏洞智能化攻防研究、网络黑产、移动应用新型认证方式以及大模型漏洞治理四个研究方向进行了学术分享。
张谧老师进行报告
报告会上,张谧老师以“系统安全视角下的AI攻防研究”为题进行了精彩的分享。她首先介绍了学院白泽智能近期发表在网安与AI顶会的三篇论文,并分享了这些论文的修改过程。此外,还向与会者详细展示了白泽智能开发的大模型靶向式安全评测平台——JADE,重点介绍了其在大模型安全评测及高风险问题收集方面的应用效果。JADE通过语言学变异与安全合规评测相互反馈与迭代的策略,实现了全自动的大模型安全评测与高风险问题收集。下一步,JADE还将面向大模型安全对齐与多模态大模型安全评测开展进一步研究。
张谧老师介绍JADE
杨广亮老师进行报告
杨广亮老师在“新一代程序分析及其安全应用”这一主题的学术报告中,深入讨论了程序分析领域的两个核心问题:如何全面且准确地获取程序的安全语义信息以及如何发展新一代的程序安全分析技术。
戴嘉润老师进行报告
戴嘉润老师通过“智能网联车的安全合规之路”报告,全面介绍了智能网联车在安全合规方面的关键议题。智能网联车是一种跨产业领域的新兴科技产品形态,是新型汽车电子电气架构、操作系统、云计算、移动生态、智能驾驶等科技要素的深度结合。该报告从网络安全、数据安全、人工智能安全、功能安全以及预期功能安全五个维度切入,以体系化的安全视角深入剖析了智能网联车存在的隐患和真实的事故案例。此外,该报告总结了国内外安全标准政策的演进历程,从科研人员的视角解读了智能网联车安全合规测评的技术挑战与机遇,建议积极开展“产学研”融合的智能网联车安全研究。
戴嘉润老师介绍智能网联车的“产研学”融合
施游堃博士进行报告
在“‘数据驱动’的Web漏洞智能化攻防研究”报告中,施游堃博士深入探讨了Web漏洞智能化攻防的核心研究方向。他将研究的核心思路总结为以“漏洞补丁”为关键输入,进而推动漏洞的检测、评估和修复三个方面的研究。报告依次围绕漏洞补丁的检测、评估和修复三个环节进行了详细的阐述。
邬梦莹博士进行报告
在“网络黑产大揭秘:网络资源滥用的幕后黑手分析研究”报告中,邬梦莹博士向与会者详细介绍了网络图床滥用的发现过程和背后的原理,并展示了她们开发的专门用于检测图床滥用的工具。
张歆博士进行报告
在“移动应用新型认证方式安全研究”报告中,张歆博士采用自底向上的方法,详细介绍了认证架构的三个关键阶段:安全基础设施、认证方案和认证策略。针对认证方案,张歆介绍组内的三项研究工作:人脸认证、指纹认证、扫码登录。
孙福特博士进行报告
在“基于大模型的漏洞治理研究”报告中,孙福特博士首先强调了漏洞治理的重要性,并指出大模型为此带来了新的机遇。报告中,孙福特针对大语言模型(LLM)与传统技术的结合,提出了三个研究探索方向:评估LLM适用的分析场景、寻找LLM织入程序分析的“姿势”,以及提升LLM在安全任务上的性能表现。
报告会现场
正值复旦大学119周年校庆周,学院精心组织了此次校庆周系列学术报告,在老师与同学们的热烈讨论中,本次“智能系统安全专场”报告圆满结束。通过报告师生的精彩分享,同学们开拓了眼界,对智能系统安全的最新学术进展有了更深层次的理解。