【2025CCF中国开源大会】郑纬民院士特邀报告:大模型推理服务在系统层面的挑战

发布于:2025-07-06 ⋅ 阅读:(23) ⋅ 点赞:(0)

点击蓝字

关注我们

   CCF Opensource Development Committee

人工智能大模型已经成为时下最火热的话题之一。面对这样一个新的工作负载,现存的系统软件面临哪些问题,为大模型设计的系统又存在哪些挑战?

2025CCF中国开源大会特邀郑纬民院士为我们带来报告《大模型推理服务在系统层面的挑战》,揭示系统研究在人工智能大模型生命周期中的关键作用!

报告简介

本次报告首先介绍人工智能大模型生命周期的五个环节:数据获取,数据预处理,模型训练,模型微调和模型推理,然后详细介绍我们研发和已开源的用于模型推理的Mooncake和KTransformers系统。

报告人

郑纬民

清华大学计算机系教授,中国工程院院士。长期从事高性能计算机体系结构、并行算法和系统研究。提出可扩展的存储系统结构及轻量并行的扩展机制,发展了存储系统扩展性理论与方法。在国内率先研制并成功应用集群架构高性能计算机。在国产神威太湖之光上研制的极大规模天气预报应用获得ACM Gordon Bell奖。曾获国家科技进步一等奖1项、二等奖2项、国家技术发明二等奖1项,何梁何利科技进步奖,获得首届中国存储终身成就奖。

大会现已开启注册报名通道,欢迎大家踊跃报名!

报名网址:https://ccf.org.cn/2025COSC

报名二维码:

大会时间: 2025年8月2日-3日

大会地点:中国 上海 西岸国际会展中心(上海市徐汇区龙耀路7号)

主办单位:中国计算机学会(CCF)

承办单位:CCF开源发展委员会、上海交通大学

CCF中国开源大会

由中国计算机学会主办的2025 CCF中国开源大会(CCF ChinaOSC)拟于2025年8月2日-3日在上海召开。本届大会以“蓄势引领、众行致远”为主题,由上海交通大学校长丁奎岭院士和CCF开源发展委员会主任王怀民院士共同担任大会主席,上海交通大学陈海波教授、重庆大学文俊浩教授担任执行主席,上海交通大学夏虞斌教授,复旦大学彭鑫教授担任程序委员会主席。本届大会将依托上海国际化创新生态与科技产业集聚优势,汇聚陈左宁、鄂维南、吕建、梅宏、郑纬民等院士,以及包云岗、陈云霁、胡欣蔚、金海等多位来自高校/企业的开源领军人物(更多嘉宾正在确定中),共同探索开源操作系统、开源芯片、开源大模型、开源具身智能等关键领域的前沿发展。通过开放协作与跨界融合,激发技术创新活力,推动产业数字化升级,为数字经济发展注入新动能。

作为中国开源领域的年度盛会,大会诚挚地邀请开源领域学术界、企业界、教育界的学者、从业者、师生等前来参会,共见中国开源新征程!

往期推荐

2025 CCF中国开源大会会议通知(第一轮)

【2025CCF中国开源大会】开放注册与会议通知(第二轮)

【2025CCF中国开源大会】Rust与开源技术分论坛重磅来袭!共建Rust语言与生态的未来

【2025CCF中国开源大会】陈云霁老师特邀报告:基于大模型的开源处理器芯片基础软硬件新途径!

【2025CCF中国开源大会】OpenChain标准实践:AI时代开源软件供应链安全合规分论坛重磅来袭!

CCF ODC

CCF开源发展委员会(CCF ODC)秉承创新、开放、协作、共享的理念和价值观,聚焦打造自身开源的新型开源创新服务平台,培育孵化原始创新的开源项目,培养开源创新实践人才。依托CCF链接科教资源、产业资源和社会资源等,形成产、学、研、用联动的开源创新模式,探索由学术共同体主导的开源发展新路径,为中国计算机学会会员乃至全球开源创新实践者提供高水平服务,助力开源生态建设。

点击阅读原文进入官网