9月27日,以“探索AI边界重构数字场景”为主题2024产学研融通创新活动在北京正式召开,26位演讲嘉宾齐聚,共话生成式人工智能的关键技术与应用趋势,共探AI大模型在7大领域的应用落地。中国信通院人工智能研究所软硬件与生态部主任李论发表了《大模型应用落地趋势与路径》主题演讲,在详述大模型的范式变迁与模型演进的同时,强调了底座支撑作用。她指出,模型的原始创新与大模型训推系统深度耦合,大模型落地时,计算能力决定了大模型性能天花板。

2024产学研融通创新活动

2024产学研融通创新活动

布局重点及建设要点

大模型落地过程中,AI+HPC融合的万卡集群是布局重点,其中蕴藏着众多机遇,也是难点与卡点。针对此,李论提出,面向大模型的智算集群建设有三个要点:

一是软硬高效协同的新型基础设施。整个人工智能产业链的形态正发生变化,早期产业呈现出明显的水平化特征,而今天,主导路线变成了大模型、大数据、大算力,以模型为核心的产业链上下游关联变革,底层的产业链体系架构在向基础设施的方向发展,芯片从单点变成了大规模的集群,平台的集约性等更为凸显,大模型训推需求上下传导至产业链各个环节,新型基础设施体系正在形成。

二是算力效能极致优化提升。在构建底座的过程中,Scale up(纵向优化)和Scale out(水平拓展)相互结合,对软硬件支撑水平和全栈整合能力提出更大挑战。一方面,硬件与软件的协同适配问题仍是重点;另一方面,规模扩展到千卡、万卡时,追求线性集群扩展能力难度较大,依旧是需要工程界和学术界共同解决的问题。

三是支持超大规模扩展的网络架构。这需要基于自身需求、结合大模型训练特点推出定制化组网方案,并为更大集群拓展做好准备。当前,面向大语言模型的定制化、国产化、规模化的架构体系也在不断出现。

中国信通院人工智能研究所软硬件与生态部主任李论

中国信通院人工智能研究所软硬件与生态部主任李论

挑战与调整建议

对于底座支撑整体,李论认为挑战包括三个方面:如何准确度量智算集群系统的实际算力?软硬件协同不深,如何增强智算生态韧性?智算建设浪潮后,如何可持续运营与服务?

面对这些问题,李论给出了调整建议:一是提升智算基础设施规划水平,对产品技术选型、应用场景需求、市场竞争格局、投资收益等进行充分调研、精准测算;二是加快推动国产软硬件厂商兼容适配,推动面向大模型的人工智能训推集群建设的标准化和规范化;三是引导鼓励智算集群差异化发展运营,重视智算生态运营,结合区域特点制定差异化智算生态发展策略。

对于大模型的未来发展,李论也提出了展望:“未来一段时间,模型水平发展仍将遵循规模定律,计算在一定情况下决定了大模型规模的天花板。底层是软硬高效协同的大系统,中间层是以Transformer架构为核心驱动通用智能探索的大算法,上层模型平台是以模型为中心的大生态。”

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2024-09-23 13:53:00
算力新闻 机器人行业即将迎来巨变?
未来AI驱动的数字世界连接着具备AI能力的物理世界,将会大幅提升整个世界的生产力,对物理世界的运行效率产生革命性的影响。 <详情>
2024-09-18 14:43:01
算力新闻 建筑业首个行业大模型 PRO版发布、网信办拟发布AI新政、4大模型中标项目、阿里通义将发布视频生成大模型...|一周产业盘点
[开物有新]数字科技产业一周热闻大盘点,过去一周有哪些政策及行业动态、前沿科技、大事件,一起回顾。 <详情>
2024-06-25 18:15:43
整机柜服务器 大模型备案月均增长近16款 数据中心如何做好算力准备?
能否实现灵活配置,其自身在运维过程中是否便捷,可否实现快速交付等都成为摆在整机柜面前的挑战。 <详情>
2024-06-05 10:02:03
算力新闻 AI大模型+人形机器人在汽车制造场景的应用率先落地
AI大模型赋能下的人形机器人产业正处于高速发展阶段,并展现出强大的产业潜力,未来会迎来更加广阔的发展空间,为各行业带来深刻的变革。 <详情>
2024-05-28 09:22:13
人物访谈 智领云彭锋:驾驭大模型浪潮,落地大模型企业级服务
从云原生大数据平台,到大数据流水线,到打造基于大模型的文档流水线体系,智领云始终借力新技术、新手段、新理念,帮助企业实现降本增效,提升运营效率。 <详情>
Rambus 通过新一代CryptoManager安全IP解决方案增强数据中心与人工智能保护
2025-04-16 10:55:15
油城算力攀“新峰” 丝路云网架“金桥” ——克拉玛依市算力产业发展纪实
2025-04-15 10:57:00
筑AI生产力底座 酒仙桥论坛丨AIDC创新驱动力新变革专场将于4月16日隆重举行
2025-04-11 18:26:00
26亿!普洛斯中国首支数据中心基金完成募集 AI驱动算力资产升温
2025-04-07 16:10:47
科智咨询:寒冬将尽,春山可望!AI引领中国IDC市场进入新一轮增长周期
2025-04-03 12:04:48
原创|中国智算中心建设“过剩论”的另一面
2025-04-02 11:38:00
AI重塑云基础设施 亚马逊云科技获评IDC全球IaaS评估报告双第一
2025-04-01 19:48:00
中信集团在港成立人工智能科创中心 助力香港发展新质生产力
2025-04-01 19:36:00
普洛斯中国首支数据中心基金完成募集,投资规模约26亿人民币
2025-04-01 18:19:39
投资20亿元、2000P,华池中科超级云智算中心一期项目开工
2025-04-01 14:13:15
“全球重点区域算力产业考察年度行”活动之——走进张家口:把脉算力新高地
2025-04-01 14:11:08
联想AI服务三大品牌首次集中亮相 覆盖三大客群全面抢滩AI服务
2025-03-31 17:51:00
预估1.2亿 中国电信芜湖大数据中心A1楼机电建设招标
2025-03-31 14:06:38
追踪AI算力领域热点产业资讯|《算力产业核心内刊》企业Pro版正式发布!
2025-03-31 14:02:37
方榕出任中兴通讯董事长
2025-03-31 13:50:16