2022年8月，在举办的USENIX安全研讨会（USENIXSecuritySymposium）中，复旦大学计算机科学技术学院的杨珉教授和张谧教授等人率先提出基于文本风格的隐式NLP模型后门攻击技术，能有效绕过几乎所有已知后门检测方法。近年来，深度文本表征模型已广泛应用于舆情分析、内容安全、搜索引擎等实际应用场景，很大程度影响着网络生态安全。随着谷歌、OpenAI、百度等大型IT公司发布了多种预训练深度文本表征模型（如BERT、GPT-2等），从公开模型仓库下载、整合并部署预训练模型逐步成为下游服务商青睐的主要应用范式。然而，基于对深度文本表征模型的隐式后门行为进行检测，项目组发现潜在攻击者能利用文本风格实施高隐蔽性后门攻击，使目标文本表征模型被有效注入受特定文本风格（例如，诗歌体）触发的后门功能，并在实际攻击过程中，基于文本迁移技术将违规文本以这种特定风格改写，以绕过注有该后门功能的内容安全系统（图1）。已有研究工作主要面向文本分类模型，分析其中是否存在基于特定插入内容触发的后门行为。然而，由于在这类后门行为中，特定的插入内容通常能直接导致被篡改的模型具有攻击者指定的分类行为，因此，

为积极应对全球人工智能治理挑战，系统解决规则落地难、软硬研究分离、治理碎片化等问题，复旦大学以人为本人工智能研究中心与上海人工智能实验室治理研究中心、清华大学人工智能国际治理研究院共同发起蒲公英人工智能治理开放平台——OpenEGLab。9月1日，该平台1.0版本于2022世界人工智能大会科学前沿全体会议上，由科技部高新技术司司长陈家昌、科技部战略规划司副司长邢怀滨、上海市科技工作党委书记徐枫和国家新一代人工智能治理专业委员会主任薛澜教授共同启动。目前，国际上尚少见规则和技术双轮互动的治理体系性平台。最新亮相的“蒲公英”OpenEGLab，目标是打造系统、实用的人工智能伦理与治理基础设施，探索“规则-技术-场景-评测”一体协同的人工智能治理体系。蒲公英代表着希望、温暖与友谊，蒲公英人工智能治理开放平台秉持促进跨学科研究、多元主体共建共享的理念，让蒲公英的种子飞的更远。此次平台共发布了包括规则集、治理图谱、风险展示、评测框架和行业方案在内的五大亮点。规则集致力于构建全球治理知识库，目前已收录约1500条标注规则文件，包括伦理原则、政策战略、法律法规和标准等。治理图谱脱胎于平台收录的全球A

2022年8月，在举办的网络安全顶会USENIXSecuritySymposium上，复旦大学计算机科学技术学院的杨珉教授和张谧教授等人率先提出基于神经元独占状态分析的平均梯度破解算法，实证珍贵训练数据在新型分布式训练模式下存在真实泄漏隐患。随着联邦学习(FederatedLearning)、协同训练（CollaborativeTraining）等开放网络下分布式深度学习系统在商业场景中的兴起，深度学习模型中间计算结果（如特征、梯度等）逐渐成为服务节点、计算节点和终端设备之间的主要共享内容。作为分布式模型构建中的重要信息载体，梯度是模型和端侧数据共同计算的产物，这也促使着近年一些研究工作针对模型梯度提出新型攻击方法，评估梯度泄露对数据隐私造成的隐患。其中，尤以数据重建攻击所造成的攻击效果为最，仅从深度神经网络的平均梯度中即可近乎无损地恢复一个训练数据批次的各个样本（图1）。项目组基于独占神经元个数，首次解析开放网络中分布式训练过程中传输的平均梯度如何产生个体数据泄露，并提出相应的基于神经元状态分析的梯度破解与数据隐私防护算法。此前研究工作均以最小化在该训练批次上计算得到的平均梯度和实际

2022年8月19日-8月21日，复旦大学计算机科学技术学院DASLab实验室王晓阳教授、何震瀛副教授、荆一楠副教授、张寒冰博士后及在读博士生范元凯、叶飞、任彤辉、在读硕士生张航等参加了第39届CCF中国数据库学术会议（NDBC2022），会议期间师生们听取报告、交流学术，收获颇丰。DASLab实验室的论文《面向计算资源的跨平台数据分析工作流平台选择方法》（唐志伟，张凯，何震瀛，荆一楠，王晓阳）在会议分组报告中做了宣讲。论文的主要涉及常见的大数据任务有数据处理、模型训练和任务部署等三个主要的步骤。在这个过程中，通常会有两个痛点：第一是不同环节的任务往往是由不同的数据应用所完成的，整个任务通常涉及到多个平台，系统的资源往往很难在多个平台之间进行分配，这种不合理分配会导致计算过程的效率低下。第二个是对于开发者来说，想要完成一整个大数据分析任务，开发者可能需要学习多个具有不同功能的平台的API才能使用他们，这无疑增加了开发人员的心智负担和要求。因此需要一种能够整合多个平台的、自动构建并且能够优化计算流程，同时还易于使用的跨平台数据分析框架。CLIC系统的特点在于能够简化任务构建的难度，而且能

8月18日，IEEE通信学会智能网络与计算研讨会在上海复旦皇冠假日酒店召开，会议由IEEE通信学会、中国通信学会主办，复旦大学、上海交通大学等单位支持。与会专家在面向2030年6G发展前沿的大背景下，共同探讨智能网络与计算的现状、发展趋势，促进智能网络与计算的技术演进。IEEE通信学会主席、加拿大两院院士、中国工程院外籍院士沈学民教授在线致辞，中国通信学会副秘书长欧阳武、上海市经济和信息化委员会副主任汤文侃、复旦大学副校长徐雷教授出席研讨会并致辞。徐雷校长在致辞中从“智能通讯”“创新发展”“产研融合”三个关键词出发，结合复旦大学在上海青浦建设复旦国际融合创新中心的发展战略，依托计算机科学技术学院、信息科学与工程学院、微电子学院、材料科学系等院系扎实深厚的研究底蕴，欢迎各位专家近一步与IEEE通信学会和中国通信学会携手，推动互联网、大数据、人工智能同产业深度融合，利用当前5G和未来6G的互联网新技术对传统产业发展进行全方位的推进，提升关键技术创新和供给能力。本次研讨会由复旦大学计算机科学技术学院高跃教授发起，邀请来自复旦大学、上海交通大学、上海科技大学、上海大学等高校教授做主题报告，分享

8月22日，第十五届全国大学生信息安全竞赛作品赛圆满落幕，复旦大学计算机科学技术学院系统软件与安全实验室的两支本科生队伍分别凭借作品《玄鉴：互联网黑产应用威胁情报平台》和《基于具象化用户意图感知的最小化隐私收集合规检测》斩获全国一等奖，其中《基于具象化用户意图感知的最小化隐私收集合规检测》作品同时获得大赛最具创业价值奖（全国仅有10项），团队指导教师杨珉和杨哲慜老师获得优秀指导教师奖。全国大学生信息安全竞赛是我国级别最高、覆盖范围最广、影响力最大的网络安全赛事。本届比赛吸引了来自全国共191所高校的2692名师生，参赛作品达到了840份，经过线上初赛和决赛的激烈评选，全国共产生180支队伍分别获一、二、三等奖，其中一等奖40项，二等奖61项，三等奖79项。搭建威胁情报平台，让黑产应用无处遁形智能手机上的各类应用程序，方便了日常生活，但是一些赌博、诈骗、色情相关的“黑产应用”，却让使用者的安全受到威胁。精准追踪并铲除黑产应用，对于打击网络犯罪特别是新型网络犯罪，营造清朗的网络空间，维护人民群众利益和社会和谐稳定至关重要。“目前的威胁情报平台主要是针对一些恶意应用，例如病毒木马来做威胁情报

2022年8月，在举办的数据挖掘顶会ACMSIGKDDConferenceonKnowledgeDiscoveryandDataMining上，复旦大学计算机科学技术学院的杨珉教授和张谧教授等人将现有仅能应用于分类模型的指纹追溯技术普遍化，提出一种深度学习模型产权追溯通用方法，首次在千级嫌疑模型库上实现100%的盗版模型识别准确度。近年来，随着深度学习技术的不断发展，神经网络在各领域得到了广泛的应用，而神经网络的知识产权保护也成为了一个重要问题。神经网络模型的训练通常需要大量的计算资源与数据样本，而攻击者可通过系统攻击、算法攻击等方式窃取模型，并施以模型所有权混淆技术，低成本地完成盗版模型的构建。为对盗版的神经网络进行检测，模型指纹成为近年的新兴研究课题（图1）。然而，现有模型指纹追溯技术大多仅能应用于分类模型保护，且易于被适应性混淆攻击绕过。▲图1模型指纹特征提取流程为了提升模型指纹技术的通用性，项目组首次将现有指纹追溯技术中的指纹验证样本和验证方法等设计模块进行一般化推广，提出基于适应性指纹验证样本（adaptivefingerprintingexamples）和元验证器（meta

上海市计算机学会公布的2021年度上海市计算机学会科学技术奖评选结果中，复旦大学计算机科学技术学院SONIC实验室陈阳副教授作为第一完成人、王新教授作为第三完成人、宫庆媛博士作为第五完成人，代表复旦大学联合上海财经大学共同申报的“大规模在线社交网络用户行为研究”项目获得了2021年度上海市计算机学会科学技术奖三等奖(自然科学奖)，复旦大学是项目的第一完成单位。在线社交网络在全球范围内得到了广泛使用，在人们的日常生活中发挥着重要的作用。本次获奖的项目围绕着大规模在线社交网络用户行为问题开展研究，解决了与社交网络安全、社交网络用户使用体验优化、社交网络服务质量相关的多个重要问题。在恶意账号检测、用户个体/群体移动规律建模、大规模移动社交网络结构分析、社交影响力预测、跨社交网络用户行为研究等方面取得了一系列原创性成果。这些工作从不同角度深化了对在线社交网络的认识，并提出了多种可以应用于实际在线社交网络场景的解决方案。项目团队在多个IEEE/ACMTransactions期刊以及多个CCFA类/中科院1区期刊/会议发表了数十篇高水平学术论文，研究成果也得到了国内外学术界和产业界的关注，形成了一

近日，复旦大学计算机科学技术学院杨珉教授领衔的系统与软件安全实验室荣获网络安全国际顶尖学术会议31stUSENIXSecuritySymposium杰出论文奖(DistinguishedPaperAward)，这也是该会议创办31年来大陆高校第一次获此殊荣。该奖项竞争非常激烈，由评审委员会从256篇录用论文中遴选产生（本年度会议投稿总计1414篇，录用率不到19%）。我院获奖论文“IdentityConfusioninWebView-basedMobileApp-in-appEcosystems”聚焦于移动应用小程序生态安全问题，揭示了微信、支付宝、抖音、今日头条等一批主流软件面临的严重安全威胁，避免了数十亿用户的信息安全风险，得到国内外学术界和产业界的高度认可。论文第一作者张磊系杨珉教授指导的博士生，2020年1月获网络空间安全博士学位，目前系我校网络空间国际治理研究基地助理研究员，主要从事移动生态安全治理技术研究。图：App-in-app生态组成示意图随着国内外移动端流行应用功能日趋丰富，一部分流行应用逐渐推出小程序或者类小程序功能，选择将自身业务逻辑开放给第三方小程序开发者使用，

2022年7月29日，华为公司难题揭榜火花奖颁奖典礼在上海举行，我院周水庚、周喆、吴祖煊三位老师入选华为难题揭榜火花奖。复旦大学副校长徐雷、校外合作处处长李倩、科学技术研究院产学研合作处处长郭睿情、计算机科学技术学院副院长（主持工作）杨珉教授等出席本次颁奖典礼。周水庚老师创新性地提出了一种支持高效复杂图遍历、更新友好的图存储结构。通过边聚集存储与拓扑、数据分离技术，支持了高效的图遍历操作，通过自适应扩缩容技术，在保证内存使用率的基础上,实现了高效的图拓扑更新。在此基础上，有效地兼顾了图拓扑更新与复杂图遍历之间的效率平衡。周喆老师本次获得两项火花奖。一项是通过对业务在CPU各个后端执行单元的使用情况进行监控和建模，以此指导CPU资源调度的QoS方案,以较小的开销、更细的粒度来捕捉CPU资源使用规律,均衡CPU资源利用率，填补当前以分配率为基础调度系统QoS优化手段的不足，进一步挖掘CPU物理资源在空间和时间的复用潜力。该研究能够在保障业务QoS的基础上提升物理资源复用度，以相同的物理资源消耗承载更多的租户业务，QoS量化干扰检测和QoS动态隔离管控两大核心技术问题。另一项是针对华为公司的

构造式隐写是近年来学术界研究的热点，最近的研究表明，由秘密信息直接生成高质量的数字图像是可以实现的。本期介绍复旦大学多媒体智能安全实验室在ACMMM2022上录用的两篇论文，采用不同的手段实现了两种构造式隐写方法。生成式隐写网络近年来，生成式隐写（generativesteganography）成为了一个新兴的研究方向。相比于传统隐写方法，生成式隐写可直接从秘密信息合成含密图像，而无需通过修改载体图像来隐藏秘密信息。在理想条件下，合成的含密图像无需和载体图像进行对比，因此具有较高的安全性。但现有的生成式隐写方法总体性能较差，无论是在隐藏容量、提取准确率，还是在图像质量方面都比传统方法有较大的差距。另外，如果合成的含密图像由于质量较差而被区分出来，生成式隐写带来的理论安全性也不复存在。为了解决上述问题，我们提出了一种高性能的生成式隐写网络。主体框架：如图1所示，该网络由四个子网络组成，即生成器、判别器、隐写分析器和提取器。他们分别用来合成含密图像、保证图像质量、减小统计分析差异和提取秘密信息。由于合成的含密图像和真实图像之间始终存在一定差异。为了对抗隐写分析，我们希望生成器G能够生成难以

7月22日下午，由学院王新和周扬帆老师组织并主持的中国计算机学会(CCF)未来计算机教育峰会FCES2022“教育数字化转型与人才培养”分论坛，在新落成的CCF业务总部和学术交流中心（苏州）顺利召开。本次分论坛邀请到了同济大学许维胜教授、华中科技大学于俊清教授、华东师范大学钱卫宁教授、赛尔网络有限公司副总经理王祖伟先生、江苏金智教育信息股份有限公司教学产品总监俞京华先生，分别从教育数字化转型、高校信息化、在线学习、教育和科研网络、课程实验教学等多个方面为现场与会者带来了精彩的专题报告。同济大学许维胜教授做了关于“数字化转型背景下的高校信息化新趋势”的报告。报告指出数字化转型已成为一种新浪潮，高校信息化在行政管理信息化实践领域呈现出新趋势，在教与学的核心领域凸显技术赋能的新态势。报告从需求牵引和技术驱动两个方面综述所出现的趋势，并介绍同济大学在高校信息化领域所做的探索，提出亟待研究解决的若干管理和技术问题。图1同济大学许维胜教授做专题报告华中科技大学于俊清教授以“高层次创新人才培养信息化生态研究与实践”为题，从“双一流”建设的角度，引入其中亟待解决的教学问题，详细介绍了如何全方位、全过程

2022年6月30日，上海计算机学会公布了上海市计算机学会科学技术奖，复旦大学计算机学院钱振兴教授牵头与上海理工大学、北京交通大学合作完成的“基于信息隐藏的多媒体内容保护”项目，荣获自然科学二等奖，主要完成人为钱振兴、秦川、李晓龙。近年来，数字多媒体应用呈现爆炸式增长，引发了多媒体被篡改、被侵权使用等一系列安全问题，严重阻碍了多媒体产业的发展，对国家安全和社会稳定也造成了影响。钱振兴教授在多项国家自然科学基金项目的支持下，针对多媒体保护的认证难、隐蔽性差、难以实用等问题，开展了基于信息隐藏的多媒体内容智能保护研究，在多媒体数据隐藏、隐蔽传输、认证恢复等环节，发展了一系列解决方案，有效实现了图像/视频内容的真伪鉴定、所有权确权。复旦大学计算机科学技术学院一直强调科技服务社会。该项目发展的数字水印等技术，已在社会多个场合发挥了作用，项目组为文旅部、国家安全部门、上海文广、凤凰传媒、新华报业、视觉江苏、奇虎360、云从科技等十多家单位提供了隐蔽传输、媒体确权、数据防泄漏、侵权溯源等方面的安全防护技术，将科学研究落实到了实际社会应用。

日前，上海计算机学会发布上海市计算机学会科学技术奖评选结果公告，上海市计算机学会组织同行专家评审，并经学会奖励工作委员会终审通过，我院杨珉、钱振兴等6位教师所完成的5个项目荣获2021年度上海市计算机学会科学技术奖。复旦大学计算机科学技术学院杨珉教授作为主要完成人的“面向移动互联网生态的安全防护理论与方法”项目获得2021年度上海市计算机学会科学技术奖一等奖。我院钱振兴老师作为主要完成人的“基于信息隐藏的多媒体内容保护”项目和肖仰华老师作为主要完成人的“知识驱动的金融认知智能关键技术及应用”项目获得2021年度上海市计算机学会科学技术奖二等奖，项目均由复旦大学为主要完成单位，联合多家单位开展研究。我院陈阳、王新老师负责的“大规模在线社交网络用户行为研究”项目和章忠志老师负责的“图的计算理论与算法”项目获得2021年度上海市计算机学会科学技术奖三等奖，其中“大规模在线社交网络用户行为研究”项目由复旦大学与上海财经大学担任主要研究单位，“图的计算理论与算法”项目由复旦大学作为主要完成单位。上海市计算机学会是上海地区计算机和信息技术科技工作者的学术团体，科学技术奖的设定旨在嘉奖在计算机科学、

近期，复旦大学计算机科学技术学院韩伟力教授带领的数据安全与治理课题组和蚂蚁技术团队合作研究的论文《Private,Efficient,andAccurate:ProtectingModelsTrainedbyMulti-partyLearningwithDifferentialPrivacy》被IEEESymposiumonSecurityandPrivacy2023录用，论文第一作者为博士生阮雯强。IEEESP创始于1980年，是系统安全领域的旗舰会议，与ACMCCS、USENIXSecurity、NDSS并列为安全领域四大顶级会议，收录研究机构以及科技企业在计算机安全和隐私研究领域最前沿、最顶级的研究成果，同时也是CCF推荐的A类会议。论文研究主题为安全多方学习（基于安全多方计算的机器学习），它是实现隐私计算的主流技术路径之一，旨在为数据要素流通提供一种可证明安全的技术解决方案。鉴于当前数据安全的相关法律法规对政府和企业的数据安全机制提出了更为严格的要求，预期安全多方学习有着更为广泛的应用场景和更高的实践价值。通过课题组研究发现，尽管安全多方学习机制底层的安全多方计算协议为计算过程

在2021年举办的ACM国际多媒体会议（ACMInternationalConferenceonMultimedia）中，复旦大学计算机学院的钱振兴和张新鹏等人针对互联网图像传输中的出现的新问题率先提出了“免疫图像”新思路。随着通过互联网传输的图像数量飞速增长，数字图像已逐步取代传统胶片照片并不断通过社交网络服务进行共享。然而数字图像非常容易受到一系列常见篡改攻击导致自身语义信息被扭曲。常见攻击有拼接、复制粘贴、图像恶意修补、调色，等等。尽管研究者们提出了一系列基于被动取证的数字图像篡改检测方法，但是实际应用中，图像取证仍然面临较大问题，首先，由于攻击者的篡改手段非常多元，并且时常利用图像后处理手段掩盖图像修改的痕迹，目前大量被动取证算法的鲁棒性与稳健性都存在一定问题，另一方面，即使能够正确定位图像中被篡改的位置，由于无法对原始内容进行恢复，因此，也很难推测出攻击者之攻击意图，例如，是否移除了图像可见水印，移除了什么样的水印，等等。免疫图像：向图像添加不可见扰动，实现篡改定位与内容恢复复旦大学计算机学院的钱振兴和张新鹏等人所提出的“免疫图像”新思路，就是在成像过程中添加不可见扰动，具备

作者：肖仰华/复旦大学计算机学院教授自培根发出理性主义的呼声以来，自然学科与人文学科在分析和还原思想的指引下在各自道路上一路走来，盘点和梳理着人类对于客观世界和人类社会的有限经验与理性思考，成就了现代意义的自然科学和人文科学，但也造成了学科之间藩篱林立与壁垒重重。原本统一的整体世界被分解得支离破碎。细分学科内部同质化研究泛滥，原始创新动力不足。所谓的学科内卷一词十分形象地道出了当前人文与自然学科研究的窘迫状态。破题之关键在于交叉与融合。未来最为重要的任务在于重建关于世界本原的整体性认知。在各种可能的学科交叉融合中，我对人文社科与人工智能的交叉与融合充满了期待。如果套用自动驾驶汽车成熟度分级的思想，人工智能与其他学科的交叉融合由浅入深大致可分为三个层次。其典型代表分别是人工智能与工科、医科的融合，人工智能与脑科学的融合，以及人工智能与人文社科的融合。首先需要肯定的是任何一种融合都具有巨大的科学意义与重要的应用价值，这里只就几类融合方式的特点展开论述，并无厚此薄彼之意。人工智能与工科、医科的融合，更像是一场单向的恋爱（彼有意，我无情）：人工智能更多地是被用作工具。工具只是手段，赋能才是目的

近日，由复旦大学新闻学院、复旦大学大数据学院、复旦大学计算机学院主办，复旦大学全球传播全媒体研究院、复旦大学知识工场实验室、复旦爱数认知智能联合研究中心承办的“认知智能与智能传播”学术研讨会在线上举行。本次研讨会由复旦大学新闻学院张涛甫教授与复旦大学计算机学院肖仰华教授共同发起，来自学界及业界的十位前沿研究者在研讨会上分享报告，近三百名听众线上分享并参与互动讨论。复旦大学新闻学院院长张涛甫教授主持开幕式。张涛甫教授首先介绍了本次研讨会的背景、理念和议程安排。他指出，本次学术研讨会的背景是：因应“数字中国”国家战略之需，顺应学科交叉融合发展趋势，落实复旦大学学科发展布局，同时也基于复旦计算机科学学科和新闻传播学科持续多年的合作旨趣。本次活动邀请计算机、大数据、新闻传播的学界和业界前沿专家一起交流探讨，是跨学科交叉融合的学术盛宴。复旦大学文科处处长顾东辉教授致欢迎词。顾东辉教授从“认知”“智能”“传播”三个主题关键词出发，从学科融合、技术伦理、社会价值三方面，并结合复旦新文科发展布局，深刻解析研讨会的主题和意义。研讨会分上午和下午两个半场，上午的主题研讨会由肖仰华教授主持。复旦大学大数据学