北大特训营燃启!解锁大模型全链路技术,开源与职业成长双向奔赴

2025-11-13 09:11:43 来源:中华网
        【每日科技网】

  11月7日,北京大学 鲲鹏昇腾科教创新卓越中心特训营在北京融科资讯中心圆满举办。这场聚焦AI核心技术与开源生态的重磅活动,汇聚了多位昇腾技术专家和研发骨干,以及北京大学学者,以“技术深耕+实战赋能+职业护航”为核心,为AI领域的探索者、实践者与开源贡献者带来一场覆盖大模型训练、推理、算子开发与部署全链路的技术盛宴,更搭建起从技术创新到职业成长的一站式桥梁。

合照.JPG

  开源生态筑基

  CANN为核,链接全球AI技术版图

  作为昇腾开源生态的核心基石,昇腾CANN生态技术专家郭依蓬在开场分享中,全景展现了CANN从基础构建到全面开源开放的演进历程。历经多版本迭代,CANN已汇聚包含330+高性能算子、10+通信算法的外部成果贡献,形成Ascend C编程语言、CATLASS算子模板库、三方编程语言,三位一体的编程体系,通过底层毕昇编译器的能力开放,支持Triton等主流生态无缝对接。截至目前,CANN认证开发者已突破8000人,累计对接PyTorch、TensorFlow、MindSpore等业界主流AI框架,以及魔乐社区、OpenI启智等数十个开源平台,为开发者提供了灵活、开放的异构计算底座。其全量开源的底层接口与工具链,更让伙伴得以自主创新,在算子优化、模型适配等领域实现快速突破。

郭_副本.jpg

  昇腾CANN生态技术专家 郭依蓬

  推理加速突破

  vLLM与SGLang双引擎驱动高性能

  推理性能是大模型落地的关键瓶颈,昇腾推理系统工程师付冰洋与温捷分别带来SGLang与vLLM与两大主流框架的昇腾适配实践。付冰洋聚焦SGLang在昇腾Atlas硬件上的高性能实践,基于昇腾的高带宽特性,通过MLAPO融合算子、aclGraph图模式、W8A8C8量化等优化手段,实现DeepSeekV3 671B模型在16卡环境下QPM达440+。其创新的PD传输优化与Prefix Cache多级缓存机制,进一步降低了长序列推理的时延,为在线推理与强化学习场景提供了高效解决方案。

付_副本_副本.jpg

  昇腾推理系统工程师 付冰洋

  温捷则详解vLLM-Ascend插件化方案。通过Python entry_points机制,实现硬件后端与核心代码解耦,支持独立迭代与快速集成;针对MoE模型,结合EPLB静动态负载均衡技术、 PD分离配比优化、flashcomm通信优化,matmulNZ搬运优化等,大幅提升推理效率。当前vLLM-Ascend已实现Qwen3等模型 0Day支持,昇腾核心开发者跻身vLLM主项目Maintainer,在GitHub社区斩获上千star。

温_副本_副本.jpg

  昇腾推理系统工程师 温捷

  算子开发前沿

  TileLang极简范式释放硬件潜能

  算子开发是AI性能优化的核心,北京大学计算机学院硕士研究生、TileLang Maintainer解文浩与华为TileLang技术专家杨偲婵,带来了新一代算子开发范式的实践分享。解文浩以 DigitalSignatureAlgorithm(DSA)计算为例,演示TileLang开发流程。TileLang已在GitHub开源,提供Ascend C与 AscendNPU IR双代码生成后端,开发者通过简洁API即可实现内存分配、数据搬运与同步控制。其DSA算子开发通过分块处理、多级缓存调度,高效完成注意力分数计算、softmax标准化等流程,大幅降低开发门槛。

解_副本.jpg

  北京大学研究生、TileLang Maintainer 解文浩

  杨偲婵进一步介绍了TileLang与MLIR生态的深度融合,通过统一硬件抽象与多级IR对接,开发者可通过Developer与Expert双模式,灵活控制内存分配、数据搬运与同步调度,实现硬件潜能的极致释放。这种“简约而不简单”的编程范式,大幅降低了复杂融合算子的开发门槛,为开发者创新提供了高效支撑。

杨_副本.jpg

  TileLang技术专家 杨偲婵

  实战与成长

  从集群部署到职业进阶

  北京大学研究生褚苙扬带来北大卓越中心集群实操教程,详解多机多卡多模态模型训练要点。该集群基于昇腾,支持昇思MindSpore全场景AI框架实现数据与张量并行,借助HCCL通信库优化跨节点传输;针对“文本+视觉”双输入特性,褚苙扬演示了 PD分离技术降低显存占用,并分享集群使用教程和大模型训练效果,助力开发者快速上手大规模训练。

褚_副本.jpg

  北京大学研究生 褚苙扬

  昇腾高级技术专家蓝王力从职业发展视角出发,解析AI领域的人才需求与成长路径。他强调,开源贡献、技术实战与跨领域视野是核心竞争力。华为计算凭借全球化研发布局与领先的开源标准组织影响力,为人才提供优质发展土壤,而本次特训营为优秀开发者开通了实习推荐的通道。同时蓝王力介绍了华为“大问题创新机制”,鼓励开发者聚焦大模型训练加速、集群可靠性提升等产业级难题,实现个人成长与技术突破的双向成就。

王-.jpg

  昇腾高级技术专家 蓝王力

  此次特训营不仅让开发者掌握了算子编程与开发等技术,更解锁了开源贡献、实习就业的成长路径。未来,北京大学 鲲鹏昇腾科教创新卓越中心将持续搭建技术交流与人才培养平台,推动AI开源生态繁荣与产业人才成长,为智能世界筑基赋能。鲲鹏昇腾科教创新卓越中心定位为基于鲲鹏昇腾技术路线的校级生态合作平台,它将围绕大学计算产业前沿课题研究、课程体系建设、研究人才培养等方面展开合作,为产业输出高质量鲲鹏昇腾人才,孵化和培育根植中国的世界级科研创新成果。

免责声明:本文仅代表作者个人观点,与东方科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

行业首款水冷+185Hz超高刷!红魔游戏平板5 Pro平板评测 行业首款水冷+185Hz超高刷!红魔游戏平板5 Pro平板评测

一、前言:9英寸机身里塞下了整个Steam库拿到红魔游戏平板5Pro之前,我对它没太大期待,正常迭代嘛,屏幕更亮一点、帧率更高一点、散热再猛一点,就这样了。真正上手之后,我改了看法,这次的升级不是挤牙

全球首款AI智能体手机核心规格揭晓:骁龙8E5、7100mAh电池

全球首款AI智能体手机——努比亚NaviXUltra在2026世界人工智能大会上迎来首秀。日前,博主“熊猫很禿然”揭晓了新机的核心参数,正面配备一块6.78英寸1.5K直屏,支持144Hz刷新率,采用

14999元!三星Galaxy Z Fold8 Ultra图赏:薄至8.9mm 仅重215g

三星GalaxyZFold8Ultra正式发布,起售价为14999元。该机配备6.5英寸外屏以及8.0英寸内屏,折叠状态下的厚度仅为8.9毫米,重量也只有215克,在超大折叠屏机型中实现了较为出色的轻

三星Galaxy Z Fold8真机图赏:安卓首款阔折叠 12999元

三星电子正式发布新一代GalaxyZ系列折叠屏手机,包含GalaxyZFold8Ultra、GalaxyZFold8以及GalaxyZFlip8三款机型,覆盖了不同用户群体的折叠屏需求。其中Galax

年度最强小折叠!三星Galaxy Z Flip8真机图赏:8999元起

三星GalaxyZFlip8正式发布,国行版起售价为8999元。对比上代GalaxyZFlip7,GalaxyZFlip8在机身设计上进一步瘦身,整机减重8克,轻至180克,厚度仅为6.1毫米,成为G

三星最强大折叠降临!Galaxy Z Fold8 Ultra发布:14999元起

三星全新大折叠GalaxyZFold8Ultra正式发布,起售价为14999元。具体来看,12GB+256GB版本定价14999元,12GB+512GB版本定价16599元,16GB+1TB版本定价1