科技流网
您的位置:科技流网 > 业界

北京大学鲲鹏昇腾科教创新卓越中心特训营圆满举办

阅读量:6303   添加时间:2025-04-06 13:58   内容来源:科技快报网   

3月28日,北京大学鲲鹏昇腾科教创新卓越中心特训营在北京大学新燕园校区计算机大楼成功举办,本次特训营旨在深入探讨昇腾技术栈在大模型应用中的前沿技术,特别是基于北京大学自研SCOW平台和华为昇腾的DeepSeek本地化部署与推理优化,并通过实践操作和技术专家面对面交流,进一步激发学生们的创新思维与学术视野。

深入解析:DeepSeek推理技术与昇腾平台的融合

活动伊始,昇腾生态技术专家许涛就“DeepSeek-MoE模型技术演变分析”,深入解读了DeepSeek系列模型技术演变。DeepSeek-MoE模型自推出以来不断优化,通过增加模型大小和专家数量,降低专家激活比,来提升性能,在架构和训练策略上持续创新。在技术实现方面,模型采用了多种优化方法,如在训练过程中,利用DualPipe双向流水线方法减少通信开销,根据不同的算子需求选择合适精度计算,引入MTP方法,以多个Token作为监督优化模型。同时,昇腾已经完成对Deepseek的适配,可以高效利用超节点内的高速通信带宽,有望在DeepSeek时代取得更好的发展。

实践分享:基于昇腾的DeepSeek全栈开源推理方案

北京大学联合华为发布的DeepSeek全栈开源推理方案依托全栈开源组件构建,基于北京大学自主研发的SCOW算力平台系统,整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件,通过开放协作打破技术壁垒,持续推动技术创新。北京大学计算中心工程师龙汀汀在特训营中详细介绍了该方案,现场演示了系统如何快速适应不同的AI框架,并展示其在多种应用场景下的高效性能。

上手实操:边缘设备上的昇腾技术实践

在本次特训营的开发实战环节,学生们基于昇思MindSpore框架,在香橙派AI Pro开发板上进行模型部署。值得一提的是,目前香橙派昇腾系列产品已经率先完成了与 DeepSeek 模型的深度适配,利用开箱即用模型,让边缘离线部署变得轻松高效。通过实操,学生们亲身感受到了昇腾无需依赖云端的强大算力,直接在边缘设备上实现高性能计算及积木式开发,既保障了数据处理的隐私安全,又大幅提升了响应效率。这种“端侧智能”的实战体验,不仅让学习更直观,更让大家领略到AI落地应用的无限可能。

开放讨论:技术专家与学者面对面答疑

在活动的最后,学生们与华为计算战略规划专家、北京大学计算中心工程师、AI安全解决方案专家、昇腾生态技术专家们一起进行了面对面的互动,从鲲鹏昇腾设备使用到技术难题再到未来发展趋势,涵盖诸多领域。在算子开发与适配方面,学生们提出的问题得到了专家们细致且富有前瞻性的解答。关于自定义算子绑定复杂、编译耗时的问题,专家们表示除了相关QA文档资源会随商业版本尽快发布外,也可直接咨询华为研发专家加速问题解决。同时欢迎高校师生将自身解决问题的过程发布为案例教程,这些无疑为学生们后续的开发工作提供了有力支持。对于开源编译器支持的疑问,专家们详细介绍了相关接口的开源情况以及正在推进的研发工作,让学生们了解到未来算子开发将更加简化,这极大地激发了学生们探索新技术的热情。

硬件性能与生态建设也是互动的焦点。学生们关心的端侧异构模型部署问题,专家深入浅出地讲解了华为在这方面的布局和技术优势。他们提到,华为在端侧NPU和GPU的协同工作上有着长远的规划,并且在泛边缘或泛端场景下,软件体系的通用性为开发者提供了更为广阔的发展空间,这让学生们认识到华为计算生态的潜力,也为他们未来的研究方向提供了新的思路。

本次特训营的圆满举办是北京大学鲲鹏昇腾科教创新卓越中心在AI技术创新和人才培养方面的一次成功实践。北京大学鲲鹏昇腾科教创新卓越中心自成立以来,致力于构建基于鲲鹏昇腾技术路线的校级生态合作平台,围绕大学计算产业前沿课题研究、课程体系建设、研究人才培养等方面展开合作,为产业输出高质量鲲鹏昇腾创新人才,孵化和培育根植中国的世界级科研创新成果。未来,鲲鹏昇腾科教创新卓越中心将继续开展一系列针对高校师生的培训活动,帮助他们在科研创新与技术应用中取得更好的成果,推动人工智能技术的进步与产业的发展。

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。

推荐内容
  • 果然就是战未来!锐龙5 9600X新补丁对比测试:14款游戏

    一、前言:新KB5041587补丁到底可以提升多少游戏性能!Zen5可以说是AMD多年来底层架构变化最大的处理器。根据AMD的说法,在制程工艺不变的情况,IPC提升幅度接近20%,游戏帧率也有10%左右的提升。不过等到锐龙9000处理器正式...

  • 140至186万元,红旗金葵花在北京展“国雅”风貌

    继广州车展正式上市后,红旗金葵花国雅的区域上市陆续进行,这次来到了北京。早在今年4月的北京车展上,红旗汽车发布了全新品牌——金葵花,并带来四款“国字号”产品:国礼、国雅、国耀、国悦,其中作为国产顶尖大型豪华轿车的金葵花国雅备受瞩目。随后在1...

  • 花10万块买一台手机值吗?华为Mate XT非凡大师三折叠全

    一、前言:花10万块买一台手机值吗?在这篇评测接近完稿的时候,我瞅了一眼华为官网的预约人数,已经超过了685万人。早先供应链多个渠道透露,华为MateXT非凡大师的备货量大约为100万台(首批)。这也意味着,9月20日10:08分正式开售之...

  • 稳定7100MB/s!雷克沙ARES 8TB SSD评测:机

    一、前言:机械硬盘在电脑中还有位置吗?如今的笔记本几乎全部默认预装SSD,大多数人装机也首选SSD,但对于有着大容量数据、稳健存储需求的用户而言,一块大容量机械硬盘仍是第一选择,毕竟其单位容量的成本远低于SSD。如今的SSD主流容量才1-2...

  • 23小时续航创造历史!华硕灵耀14 Air+酷睿Ultra

    一、前言:能效为王的酷睿Ultra200V系列处理器ARM平台的功耗远低于X86平台,ARM处理器笔记本(比如MacBookAir)的续航远高于X86+Windows笔记本!在我们看来,这些似乎就是理所当然、天经地义的事情,毕竟几十来年一直...

  • 600TB残酷写入测试!忆恒创源PBlaze7 7A40评测

    一、前言:性能全面领先的国产企业级PCIe5.0SSD一年前,我们曾测试过忆恒创源PBlaze779406.4TB,它是当时最强的企业级PCIe5.0SSD,不仅率先实现了10GB/s的顺序写性能,高达14GB/s的顺序读取速度也几乎完全榨...