11月6日下午，复旦大学计算与智能创新学院第十六期“步青讲坛”暨复旦大学计算机建系五十周年系庆系列讲坛在江湾校区交叉学科二号楼E1006报告厅举行。本期讲坛特别邀请到上海人工智能实验室主任助理、领军科学家胡侠教授，带来题为《通过有损计算实现高效大语言模型推理》的专题技术报告，为现场师生呈现了一场兼具理论深度与实践价值的学术盛宴。
胡侠教授是人工智能领域的国际知名学者，曾担任美国莱斯大学正教授、数据科学中心主任，亦是AIPOW公司联合创始人兼首席科学家。其主导研发的自动机器学习开源系统AutoKeras已成为全球最常用的AutoML框架之一，提出的NCF算法及系统因创新性突破被单篇引用超8,000次，成功纳入TensorFlow官方推荐框架；研发的异常检测系统更在Nvidia、通用电气、Trane、苹果等全球知名企业的产品中实现规模化应用，充分彰显了科研成果转化的强大实力。此外，胡侠教授还斩获ICML、WWW、WSDM等多个国际顶级会议最佳论文奖或提名，荣获美国国家科学基金会杰出青年奖、KDD Rising Star Award、IEEE Alturi学者奖等重磅荣誉，同时担任ACM TIST、Big Data等国际核心期刊副主编及DMKD编委，曾牵头主持WSDM 2020、ICH I 2023、CHASE 2025等国际顶级会议，在全球人工智能学术界与产业界均享有极高声望。
报告会由计算与智能创新学院窦德景教授主持。开场环节，窦教授对胡侠教授的到来表示热烈欢迎，并在致辞中介绍了“步青讲坛”作为学院学术交流核心平台的发展历程，强调讲坛始终致力于搭建顶尖学者与师生对话的桥梁，助力学科前沿知识的传播与创新思想的碰撞，并对胡侠教授在人工智能领域的卓越成就给予高度评价。
在报告中，胡侠教授聚焦大语言模型（LLMs）发展中的关键瓶颈展开深度解析。他指出，大语言模型虽已实现类人对话能力，但在处理医疗领域长篇文献信息提取等长语境任务时，面临着“预训练长度限制”与“推理内存需求激增”的双重挑战。基于此，他提出“利用大语言模型对有损计算噪声的强鲁棒性”这一核心解决思路，系统分享了团队在该方向的最新研究成果。
胡侠教授深入浅出地讲解了两项关键技术突破：在算法层面，通过粗化远距离标记的位置信息，成功将大语言模型的语境长度扩展至原有水平的8倍，为长文本处理提供了全新方案；在系统层面，将过往标记的中间状态量化为2位数字，在不损失模型性能的前提下，实现了内存效率提升8倍、时钟时间加速3.5倍的重大进展。报告尾声，他重点介绍了团队将长语境大语言模型应用于医疗领域的前沿项目，详细阐述了如何通过长语境检索技术有效缓解医疗聊天机器人的“幻觉问题”，为AI技术赋能医疗健康产业提供了极具参考价值的实践路径。
互动交流环节，现场师生围绕“有损计算的噪声控制边界”“长语境模型在其他行业的适配方案”“医疗AI落地的伦理风险规避”等问题与胡侠教授展开热烈探讨。胡侠教授结合自身研究经验与产业实践，逐一耐心解答，提出的独到见解让在场师生深受启发，现场学术氛围十分浓厚。
报告尾声，王新书记为胡侠教授颁发了“步青讲坛”特邀报告感谢状，以表彰其为师生带来的精彩分享。至此，复旦大学计算与智能创新学院第十六期“步青讲坛”圆满落幕。
此次讲坛不仅让现场师生深入洞悉了大语言模型高效推理的核心技术突破与产业应用前景，更搭建了学术研究与实际场景融合的交流桥梁，为学院在人工智能领域的人才培养与科研创新注入了新的活力。未来，“步青讲坛”将继续邀请国内外顶尖学者，持续打造高质量学术交流平台，助力学院学科建设迈向新高度。
