• 科研快讯

  • “转换 + 精调”,复旦大学计算机科学技术学院自然语言处理团队验证脉冲神经网络应用于文本分类任务2023-04-13

    复旦大学计算机科学技术学院自然语言处理团队郑骁庆和黄萱菁老师等在脉冲神经网络方面的研究工作被机器学习顶级国际会议ICLR2023(TheInternationalConferenceonLearningRepresentations)录用,论文题为《SpikingConvolutionalNeuralNetworksforTextClassification》,该项工作较早验证了脉冲神经网络在语言处理任务上的可行性,并且发现脉冲神经网络天然具备较高的对抗鲁棒性。基于深度学习的方法在图像、声音、语言等领域取得了令人瞩目的突破,但构建和使用深度学习模型(一般需要使用GPU计算设备)也带来了巨大的能源消耗。以训练GPT-3为例(ChatGPT的基础模型),大约需要190,000kWh的能量,而人类大脑进行感知、识别、认知、推理和控制等多种复杂活动只需要20W的能量,人工神经网络和生物神经网格在能耗方面的差异十分巨大。与生物神经元相似,脉冲神经网络(Spikingneuralnetworks,SNNs)也采用离散脉冲来传递和处理信息,它即是目前最接近生物脑工作机制的网络,又是有望以节能和经济的
  • 2023年CCF中国软件大会筹备工作会议暨软件工程专委会与系统软件专委会常委会议成功举办2023-03-29

    由复旦大学计算机科学技术学院承办的2023年CCF中国软件大会(CCFChinaSoft2023)筹备工作会议暨软件工程专委会与系统软件专委会常委会议在上海成功举行。CCF中国软件大会是CCF(中国计算机学会)在整合全国软件与应用学术会议(NASAC)与全国形式化方法与应用学术会议(FMAC)两个学术会议的基础上于2020年创办的会议,是中国软件科学与工程相关领域办会规格最高、参会人数最多、影响范围最广、涵盖内容最全面的全国性学术会议。2023年CCF中国软件大会由CCF软件工程、系统软件、形式化方法三个专委会与复旦大学共同承办,将于12月1日到3日在上海国际会议中心举行。本次大会筹备工作会议于3月4日上午在上海国际会议中心举行。CCF系统软件专委会主任、北京大学金芝教授,CCF软件工程专委会主任、南京大学李宣东教授,以及南京航空航天大学副校长黄志球教授、上海交通大学傅育熙教授、南京大学王林章教授、华东师范大学蒲戈光教授、南京大学卜磊教授、国防科技大学董威教授等专委副主任和秘书长现场参会,CCF形式化方法专委会主任、国防科技大学王戟教授以及CCF软件工程专委会秘书长、北京大学李戈教授等
  • 媒体专访 | 复旦教授漆远:热潮下人工智能创新体系建立需要信心和耐心2023-03-15

    作为战略性新兴技术,人工智能日益成为科技创新、产业升级和生产力提升的重要驱动力量,近年来也成为我国产业、科技发展布局的重要领域。日前印发的《数字中国建设整体布局规划》明确提出要夯实数字基础设施和数据资源体系“两大基础”,培育壮大数字经济核心产业,推动数字技术和实体经济深度融合。这使得国内数字经济和智能产业发展迎来重大机遇。去年11月以来,人工智能研究公司OpenAI推出的聊天机器人ChatGPT在全球引发广泛关注,其表现出的超前的人机交互水平打开了人们对人工智能的想象,在产业界产生了重大的影响,谷歌、微软相继推出ChatGPT竞品Bard和整合了ChatGPT的新版Bing搜索引擎,百度、阿里等国内科技企业也宣布相关业务布局。ChatGPT火热出圈背后的原因是什么?它会带来什么样的产业变革?我国人工智能产业如何实现的技术突破与创新?人工智能的应用与发展前景如何?围绕相关话题,21世纪经济报道记者专访了复旦大学人工智能创新与产业研究院院长、教授漆远。技术创新是一个长期孵化的过程Q1《21世纪》:你认为ChatGPT出圈背后的原因是什么?漆远:第一个方面,从C端用户体验的角度来说,它通过一
  • 复旦大学计算机科学技术学院视觉与学习实验室团队11篇论文入选CVPR20232023-03-13

    国际计算机视觉和模式识别会议,英文全称IEEE/CVFConferenceonComputerVisionandPatternRecognition(CVPR),是人工智能领域最具影响力的顶级年会。在谷歌学术指标排行榜中,CVPR在全球所有领域的学术出版物中排名第四,在计算机和人工智能领域排名第一。本次会议收到9155篇投稿,经严格专家评审,共录用2360篇论文,录用率为25.78%。复旦大学计算机科学技术学院视觉与学习实验室共有11篇论文入选,成果覆盖视频内容理解、目标检测及分割、强泛化深度模型、对抗攻击与防御以及病理图像分析等多个重要研究方向。11篇录用章简介1.LookBeforeYouMatch:InstanceUnderstandingMattersinVideoObjectSegmentation论文作者:JunkeWang,DongdongChen,ZuxuanWu,ChongLuo,ChuanxinTang,XiyangDai,YuchengZhao,YujiaXie,LuYuan,Yu-GangJiang研究团队将实例理解显式地引入基于记忆网络的方法,提出一个双分支V
  • 科研速递 | 邱锡鹏教授做客人大高瓴解剖ChatGPT2023-03-13

    2023年2月17日,高瓴人工智能学院举办高瓴楼首次学术报告,邀请到了复旦大学的邱锡鹏教授做主题为“大型语言模型的能力分析与应用”的报告。高瓴人工智能学院执行院长文继荣出席并致辞,报告由高瓴人工智能学院长聘副教授宋睿华主持。报告现场空前火热,超过500名师生参会,线下报告厅观者云集,线上会议室中观看人数也早早达到容量上限。报告中,邱锡鹏教授详细深入地介绍了以ChatGPT为核心的大规模语言模型的相关知识及未来的发展方向。得益于邱锡鹏老师的个人魅力和ChatGPT的火热,现场的老师和同学都踊跃发言,积极交流互动,碰撞出了许多思维火花。(讲座原视频,戳文末阅读原文赏析)〇、前言丨ChatGPT的前世今生ChapGPT自2022年底问世以来,便展现出了令世人惊艳的对话能力。仅用两个月时间,ChatGPT月活跃用户已达一亿,是史上用户增速最快的消费应用。对于学术界、工业界、抑或是其他相关应用来说都是一个非常大的机会和挑战。事实上,ChatGPT的成功并不是偶然结果,在目前的版本开放出来以前,OpenAI已经在训练大规模语言模型的道路上深耕多年。ChatGPT的发展路径可以由下图概括:从2017
  • 复旦邱锡鹏:中国版ChatGPT“火”了之后,MOSS接下来要拼的是“算力”2023-03-13

    3月2日,OpenAI在官方博客宣布开放ChatGPT的模型API。同一天,上海市智能信息处理重点实验室,复旦大学计算机学院邱锡鹏教授MOSS团队官方公开宣布研究成果将会开源。邱锡鹏向上海科技介绍:目前,从参数规模维度来看,MOSS是百亿级规模,ChatGPT是千亿级规模,但人脑应该是百万亿规模。所以和人脑相比,无论MOSS还是ChatGPT,复杂度都还是不够。“大模型规模进一步扩大的话,就需要更多的算力。无论ChatGPT还是MOSS,最终考验的可能还是芯片和算力。”邱锡鹏说:“除了大算力的支撑,接下来,大规模资金投入以及多场景应用对MOSS的发展也至关重要。”“就像人的大脑一样,MOSS有举一反三的能力”“MOSS其实春节前就开发出来了。”邱锡鹏介绍,目前,MOSS的底层架构已经完成,但还有扩大规模的可能。MOSS可以把网络结构再放大,相当于把人工神经网络做得更大。“MOSS没有任何类似传统的数据库或网络基础,它也没有后台,就是一个模型,由一堆参数决定。”ChatGPT模型给我们展示出很多的AI技术做不到的能力,特别是通用智能能力,让人们看到了AI技术迈向通用人工智能的一种希望。所
  • ChatGPT的潜力、前景和局限在哪里?复旦大学计算机学院张军平教授解读来了2023-03-10

    评论:ChatGPT:潜力、前景和局限周杰1,3,柯沛2,邱锡鹏1,3,黄民烈2,张军平‡1,31复旦大学计算机科学技术学院,中国上海市,2004332清华大学计算机科学与技术系,中国北京市,1000843上海市智能信息处理重点实验室,中国上海市,200433【本文译自ZhouJ,KeP,QiuXP,etal.,2023.ChatGPT:potential,prospects,andlimitations.FrontInformTechnolElectronEng,earlyaccess.https://doi.org/10.1631/FITEE.2300089】01绪论最近,OpenAI发布了对话生成预训练模型Transformer(ChatGenerativePre-trainedTransformer,ChatGPT)(Schulmanetal.,2022)(https://chat.openai.com),其展现的能力令人印象深刻,吸引了工业界和学术界的广泛关注。这是首次在大型语言模型(largelanguagemodel,LLM)内很好地解决如此多样的开放任务。为更好地理解C
  • 喜报 | 柴洪峰院士获2022年度全国信息安全标准化技术委员会标准化工作先进个人2023-03-04

    近日,全国信息安全标准化技术委员会为表彰在2022年国家网络安全标准化工作中做出突出贡献的个人,报经主任委员同意,决定授予左敏等10名同志为“2022年度全国信息安全标准化技术委员会标准化工作先进个人”。祝贺柴洪峰院士获评先进个人!序号姓名单位1左敏蚂蚁科技集团股份有限公司2胡宝文国家密码管理局商密办3柴洪峰复旦大学4刘蓓国家信息中心5顾健公安部第三研究所6罗海宁国家信息中心7王秉政中国电子技术标准化研究院8汪宗斌北京信安世纪科技股份有限公司9孙晓丽国家信息技术安全研究中心10柳扬中国通信标准化协会转载来源:全国信安标委公众号
  • 研究成果将会开源!复旦MOSS团队深度访谈来了2023-03-03

    由美国OpenAI公司开发的ChatGPT模型在全球点燃了新一轮AI革命,海内外关注度陡增。前不久,复旦大学计算机科学技术学院邱锡鹏团队发布类ChatGPT模型MOSS,新闻迅速登上微博热搜。MOSS“火”了。2月20日发布当天就收到大量内测申请、采访、投资、合作邀约——公众对于这项原本局限于NLP(自然语言处理)学术圈的新技术热情高涨。邱锡鹏团队对此颇感意外,但又很快回归平静。大家最兴奋的一天,是春节前的腊月二十八。项目主开发者、计算机科学技术学院博士研究生孙天祥,在测试过程中输入了一个中文问题,MOSS却以英文正确回答,“就像一个不会说但听得懂中文的人”。而当时版本的MOSS还很初级,中文语料占所有训练数据不到0.1%。“很神奇,我们没有教过它机器翻译。”MOSS显示出的潜能让邱锡鹏当晚激动到失眠。他把MOSS比作一个“聪明的小孩”,即便现在还不擅长写诗、解题或很多具体的事,但已展示出成为通用人工智能(AGI)大框架的潜能,“很多遥不可及的事情,它一点就通了。”实际上,邱锡鹏也让6岁的女儿和MOSS聊天,发现孩子可以愉快地和MOSS对话很长时间。MOSS受到关注的背后,是科研人员十
  • 复旦计算机学院张文强团队在图像语义分割域自适应领域取得重要研究进展2023-03-01

    复旦大学计算机科学技术学院张文强研究员领导的机器人智能实验室(ROILab)研究论文《ADPL:AdaptiveDualPathLearningforDomainAdaptationofSemanticSegmentation》被IEEETPAMI接收(regularpaper),《IEEETransactionsonPatternAnalysisandMachineIntelligence》(TPAMI),是中国计算机学会(CCF)和中国自动化学会(CAA)等多个学会共同推荐的人工智能领域A类国际顶尖期刊(影响因子24.314)。论文主要关注面向语义分割的域自适应任务,该任务旨在减轻语义分割训练对大规模像素级标注的需求。最近,结合图像风格迁移和自监督学习的方法在自适应分割中显示出极强的优越性。最常见的做法是在单个域中同时施加图像风格迁移和自监督学习,然而,在这种基于单一域的范式中,图像风格迁移引起的视觉不一致性问题可能会影响后续的学习。此外,在单一域中对齐的单个分割模型生成的伪标签会向自监督学习引入训练噪声。基于源域和目标域中的单域自适应互补这一发现,论文提出了一种新的自适应双路学习
  • 复旦大学计算机科学技术学院冯瑞、张玥杰团队在国际多媒体顶级会议ACM Multimedia上发表新成果2023-02-21

    在2022国际多媒体顶级会议ACMMultimedia中,由我院冯瑞老师和张玥杰老师带领的复旦大学跨媒体智能计算实验室(CMIT)发表的论文《IDEA:IncreasingTextDiversityviaOnlineMulti-LabelRecognitionforVision-LanguagePre-training》入选。ACMMultimedia是计算机学科多媒体领域的顶级国际会议,也是中国计算机学会(CCF)推荐的该领域唯一的A类国际学术会议。论文《IDEA:IncreasingTextDiversityviaOnlineMulti-LabelRecognitionforVision-LanguagePre-training》(黄新宇,张又才,程颖,田维维,赵瑞玮,冯瑞*,张玥杰*,李亚乾,郭彦东,张晓波*)中的研究是与OPPO研究院合作完成。近年来,利用大规模图像-文本对数据的视觉-语言预训练模型(如CLIP等)在各个领域都表现出了优异的性能。虽然这些图像-文本数据可以从互联网上大量地获取,但这些数据普遍缺乏足够的对齐信息。主观的文本描述往往只能对应图像的部分内容,因此只能为
  • 复旦大学计算机学院张奇、黄萱菁团队论文获自然语言处理和计算语言学国际顶级会议COLING Outstanding Paper奖2023-01-09

    复旦大学计算机科学技术学院自然语言处理实验室(FudanNLP)的研究论文《AMulti-FormatTransferLearningModelforEventArgumentExtractionviaVariationalInformationBottleneck》被COLING2022以长文oral形式录用,并获得OutstandingPaper,论文第一作者为博士后周杰,指导老师为张奇教授和黄萱菁教授。国际计算语言学会议(InternationalConferenceOnComputationalLinguistics,COLING),是自然语言处理和计算语言学领域的顶级会议(CCF-B类),每两年举办一次。本次COLING会议共吸引了超过2000的投稿,最终共录用522篇长文、112篇短文,我院FudanNLP团队的论文获得了杰出论文奖。本文主要关注结构化抽取任务的统一迁移学习框架。近年来,基于深度学习的结构化抽取任务(如事件抽取)取得了巨大成功。然而目前大部分工作针对不同的数据集设定特定的模型结构。同时,由于结构化抽取任务的复杂性,标注空间较大,标注规范不统一,标注一个新的数
  • 复旦大学计算机科学技术学院王鹏、汪卫团队论文被国际顶级数据库会议SIGMOD录用2022-12-08

    由复旦大学计算机科学技术学院王鹏老师、汪卫老师、王泽宇同学和法国巴黎大学的ThemisPalpanas教授、王齐童同学合作的论文《Dumpy:ACompactandAdaptiveIndexforLargeDataSeriesCollections》被ACMSIGMOD2023(InternationalConferenceonManagementofData)接收,ACMSIGMOD会议关注数据库管理系统和数据管理技术的原理、技术和应用,是数据库领域具有最高学术地位的国际性学术会议。论文针对超大规模(TB级)的时间序列数据相似性索引提出新方法,大幅提高了索引的近似查询精度、查询性能和构建速度。相似性查询是许多基于距离的时间序列数据挖掘算法的基础,论文方法的提出将直接增强这些算法的精确性、效率和可扩展性,并使得未来在大数据集上基于距离的新方法的提出成为可能。论文首次指出了当前时间序列数据相似性查询索引的两个结构性问题:(1)固定扇出的树结构不能在索引节点的质量和紧凑性上达到最优的权衡,严重限制了索引的准确性和效率;(2)不能有效处理倾斜数据。为了克服这些问题,论文创新性地设自适应多叉索
  • 复旦大学计算机科学技术学院顾宁、卢暾、张鹏团队在国际人机交互顶级学术会议ACM CSCW上发表多项新成果2022-12-03

    近日,ACMCSCW2022(The25thACMConferenceonComputer-SupportedCooperativeWorkandSocialComputing)在线开幕,复旦大学计算机科学技术学院协同信息与系统实验室的张鹏青年副研究员、卢暾教授、顾宁教授等完成的3篇长文在该会议发表。ACMCSCW是人机交互领域的顶级学术会议,也是中国计算机学会推荐的A类国际学术会议。论文《BuildingUser-orientedPersonalizedMachineTranslatorbasedonUser-GeneratedTextualContent》针对当前机器翻译难以满足用户意义构建的问题,提出了一个个性化的机器翻译模型,旨在从用户在社会媒体环境下生成的文本内容中学习用户个性化的语言风格,并利用Transformer等深度学习技术生成个性化翻译结果。论文将微博个性化文本内容先翻译成目标语言,再回译为原始输入语言,得到个性化机器翻译配对数据集。然后基于预训练-微调思想,从该数据集学习不同用户的语言风格,生成个性化翻译结果。实验结果表明,该文构建的模型在个性化指标上取得了优于普
  • 聚焦产学研用协同创新,提升关键软件供给能力 | 2022 CCF中国软件大会圆满落幕2022-11-30

    我国软件领域规模和影响最大的会议—CCF中国软件大会(ChinaSoft2022)圆满落幕。大会包括学术、工业、教育以及竞赛四大类近40场活动;13位院士莅临,近10万人次参与,共同聚焦产教研用协同创新、提升关键软件供给能力,推动中国软件事业发展。2022CCF中国软件大会(ChinaSoft2022)经历了11月25日~27日三天会期,圆满落幕。本届大会由CCF主办,CCF软件工程专委会、系统软件专委会、形式化方法专委会、复旦大学承办,上海交通大学、华东师范大学、东华大学、上海计算机软件技术开发中心协办。大会赞助单位包括华为、航天宏图、百度、汇丰科技、荣耀、轩宇信息、上海控安、科大国创。本次大会以全线上的方式举行。其中,11月25日举行学术论坛和工业论坛活动,11月26日举行开幕式、特邀报告和NASAC青年软件创新奖论坛,11月27日举行学术论坛、工业论坛和教育论坛以及闭幕式(含颁奖环节)等。陆汝钤、林惠民、陈左宁、邬江兴、何积丰、梅宏、吕建、柴洪峰、廖湘科、王怀民、郑纬民、蒋昌俊、王自力等13位两院院士莅临大会指导。大会开幕式由大会共同主席、CCF软件工程专委会主任李宣东教授主持。
  • 复旦大学计算机科学技术学院章忠志教授团队荣获2022年度中国计算机学会自然科学二等奖2022-11-28

    2022年11月8日,中国计算机学会(CCF)公布了2022年度CCF科技成果奖评选结果,复旦大学计算机科学技术学院的章忠志教授与陈翌佳教授合作完成的项目“图的算法与计算理论若干问题研究”荣获2022年度CCF自然科学二等奖。复旦大学为唯一完成单位,主要完成人为章忠志教授、陈翌佳教授、李寰(章忠志教授的硕士,目前在宾夕法尼亚大学攻读博士学位,从事理论计算机领域的相关研究)。随着大数据、云计算、互联网等领域的快速发展,人们获得数据越来越方便。其中许多数据可以用图来表示,如社交网络、脑网络等。伴随大图数据的可得性及其在不同领域的广泛应用,产生了一系列关于图的计算理论与算法方面的巨大挑战。获奖项目对图的计算理论与算法方面的若干问题进行了系统的研究,取得了系列创新性的成果。基于项目的研究成果发表在FOCS、SODA、LICS、SICOMP、TIT等多个国际顶级会议与期刊上。成果丰富、完善了图的计算理论与算法领域的知识,填补了若干方向的研究空白,扩大了中国学者在相关领域的国际影响力。
  • 复旦大学计算机科学技术学院韩伟力教授等荣获2022年度“CCF科技成果奖”自然科学二等奖2022-11-27

    近日,CCF奖励委员会授予复旦大学计算机科学技术学院数据分析与安全实验室团队“用户口令的脆弱性建模与应对方法”项目2022年度“CCF科技成果奖”自然科学二等奖,该项目由韩伟力、徐铭、徐文渊、张凯、王晓阳合作完成。“CCF科技成果奖”授予在计算机科学、技术或工程领域具有重要发现、发明、原始创新,在相关领域有一定国际影响的优秀成果。“用户口令的脆弱性建模与应对方法”项目针对口令认证系统安全性问题,对用户口令的构成特征和行为规律进行研究,由此分析识别其弱点并有效应对。该项目建模并量化了中文语境下用户口令的构成特征;首次建模站内重用和跨站重用这两种用户口令重用行为,并量化其特征;构造个人自动白名单方法,精准保护口令免受钓鱼攻击,提升网络空间中的口令安全。韩伟力教授基于上述项目成果撰写专著《用户口令:系统安全的最前线》。▲专著:《用户口令:系统安全的最前线》该项目研究得到国内外知名学者的广泛关注,对缓解当前日益严峻的网络空间安全具有重要的理论意义与实际应用价值。在USENIXSecurity2014上发表的代表性论文为该顶尖会议首篇由大陆学者独立完成并发表的文章,并于2016年获上海市计算机学
  • 复旦大学计算机科学技术学院CodeWisdom团队在软件工程领域顶级会议ESEC/FSE 2022上发表多项研究成果2022-11-24

    在刚刚结束的2022年国际软件工程领域顶级会议ESEC/FSE2022上,由我院彭鑫教授、赵文耘教授、陈碧欢副教授、吴毅坚副教授等带领的CodeWisdom团队(复旦大学软件工程实验室)发表了多项研究成果,其中包括4篇主会论文(ResearchPapers)。关于深度学习系统(DL系统)性能问题的研究论文《UnderstandingPerformanceProblemsinDeepLearningSystems》系统分析了DL系统中的224个性能缺陷,总结了10类症状(如执行时间过慢、内存泄漏、GPU利用率异常等)和15类根因(如API误用、模型参数不合理、DL库版本不匹配、数据处理低效、硬件不匹配等)。在此基础上,构建了包含58个性能缺陷的数据集并评估了现有的性能缺陷分析方法,发现现有方法只能检测最多12个性能缺陷。最后,提出并实现了一个基于规则的性能缺陷检测工具,在130个开源DL系统中检测到了488个新的性能缺陷,其中105个性能缺陷已经被开发人员确认。关于开源软件漏洞问题的研究论文《TrackingPatchesforOpenSourceSoftwareVulnerabilit