性能翻番背后:讯飞与昇腾,如何用国产算力炼就大模型?|甲子光年


从“敢用”到“用好”,国产AI生态的深度实践。
作者|云凡
编辑|栗子
在当前全球人工智能产业蓬勃发展、技术竞争日趋激烈的背景下,自主可控的AI基础设施建设对于国家和企业的未来发展至关重要。
在中国人工智能领域,科大讯飞与华为昇腾作为各自领域的领军企业,其深度合作不仅是技术层面的协同攻关,更是构建本土AI生态、支撑产业自主创新的重要实践。
这段合作历程,充满挑战与突破,也凝结着双方团队的共同智慧与汗水。
日前,「甲子光年」采访到参与并见证了讯飞与昇腾深度合作的关键人物——潘青华,作为科大讯飞AI工程院院长,他不仅分享了合作过程中的点滴趣事,更系统阐述了双方在技术、团队、战略层面的深度融合与协同效应。
通过他的视角,我们得以一窥这对“亲密战友”如何在中国AI自主创新的道路上,并肩前行。
1.算力硬核攻坚:从“敢用”到“用好”

科大讯飞与昇腾的合作,并非一蹴而就,而是一场基于共同愿景、历经岁月沉淀的深度融合。
潘青华回忆道,讯飞与昇腾的“结缘”可以追溯到4年多前。他特别提到,双方团队的第一个微信群建于2019年10月。在合作初期,许多事情都带有“第一次”的新鲜感和挑战性。
在双方领导第一次召开重要的“对标会”前夕,那是一个周五的晚上,讯飞和昇腾的团队成员们聚在一起,连夜讨论,究竟应该设定一个怎样既有挑战性又切实可行的目标。
经过反复研讨,他们最终定下了一个雄心勃勃的目标:在短短几个月内,将星火大模型在昇腾平台上的训练性能,提升到能够达到业界的90%。
在讯飞长期驻点的昇腾团队小伙伴,由于待的时间长,融入得非常好,潘青华甚至有时候都分不清他们到底是讯飞的还是华为的,真正实现了“融为一体”。这种深度融合,是之后的技术合作能够取得突破的重要基石。
讯飞与昇腾在超大规模AI集群上的合作,历经了“敢用”、“真用”、“会用”直至“用好”的递进过程。
始于2023年的“敢用”阶段,面对国内缺乏成熟自主可控AI集群方案的挑战,讯飞凭借对自主创新的信念,率先与昇腾联合打造了国内首个超大规模自主创新集群,实现了第一次突破。
随后进入贯穿2023至2024年的“真用”阶段。
讯飞在集群上实战运行并深度优化星火大模型,成功将性能从初始开箱只有30%的业界性能提升到了90%,有力证明了国产算力完全能够支撑性能领先的大模型研发。
2024年步入“会用”阶段。
在这个阶段,讯飞不仅是昇腾的用户,更是积极的共建者,深入参与到昇腾整个软件生态的建设当中。通过解决实际应用中的问题,讯飞团队将宝贵的实践经验和优化成果反哺给昇腾生态,推动了算子适配、工具链完善等关键环节的进步。
从2024年至今是持续“用好”阶段,目标是最大化发挥昇腾性能并进行“昇腾原生”创新。
双方联合攻关取得了一些新的、令人瞩目的突破。例如,在集群稳定性方面,他们成功将昇腾集群的断点续训恢复时间从业界平均的30分钟大幅缩短到5分钟之内,这对于超大规模模型训练的效率和稳定性至关重要。
另一个重大突破是,讯飞基于昇腾算力,率先在国内实现了MoE(Mixture-of-Experts,混合专家)模型的超大规模集群并行推理方案,并将推理性能提升了3倍。
潘青华总结道,讯飞和昇腾的合作实践,展示了一条“从技术攻关到应用落地的一个完整的自主创新的路径”。
正是通过这“四个阶段”的持续努力和一系列关键技术突破,讯飞与昇腾的合作不仅提升了自身的技术能力,更为构建中国自主可控的AI生态体系、夯实产业发展底座,提供了坚实的支撑。
2.生态战友并肩:AI自主创新的征程

在当前的AI发展阶段,算法和应用的创新已经从过去可能存在的单点优化,转变为更加强调软硬件协同的“系统性创新”。
在这一趋势下,讯飞与昇腾的深度合作就显得至关重要。
昇腾提供最底层的、强大的基础算力,而讯飞则专注于上层的算法和应用创新,两者形成了高度互补的关系。
潘青华强调,讯飞始终坚持“顶天立地”的创新理念——“顶天”是指追求源头核心技术的突破,“立地”是指将技术落地到实际应用场景中,解决社会发展中的真问题。
算法和应用开发者能够更早、更及时地将对硬件的需求反馈给硬件设计方,而算法设计也可以针对特定的硬件架构进行优化,从而实现大模型能力更快速、更高效的推广和落地。
潘青华用一句有力的话总结了这种协同的价值:“双方的深度合作开辟了人工智能算法应用持续跑得稳、跑得快的新路径,也坚定了中国人工智能产业自主创新发展的信心。”这种协同不仅提升了效率,更在战略层面构建了中国AI自主发展的核心竞争力。
讯飞是业界最早与昇腾联合打造“大模型训推一体机”和“行业专属一体机”的企业之一。通过这种软硬件一体化的解决方案,将大模型能力进行封装,实现了“开箱即用”。这极大地降低了企业部署大模型的难度和周期,同时也有效解决了企业普遍关注的数据安全问题。
这种一体机方案,直接面向行业应用,将复杂的大模型能力转化为易于落地的产品形态,从而“大大加速了我们大模型在行业的落地”,是推动AI普及的有力举措。
面向未来,讯飞与昇腾的合作还将不断拓展新的方向。
一方面,讯飞将继续更深入地参与到昇腾AI生态的建设中。他们已经为昇腾的下一代产品提出了许多宝贵的建议,并对性能更强大、更好用的新产品充满了期待。这表明讯飞不仅是昇腾的用户,更是深度参与其产品迭代和技术路线制定的重要伙伴。
另一方面,讯飞星火大模型将在昇腾算力的持续支撑下不断进化。随着大模型能力的提升,它将能够在更多的行业、更多的场景中解决更复杂的实际问题。
潘青华相信,“星火加昇腾”的组合将不断树立行业大模型和大模型行业应用的新标杆,最终在千行万业实现更广泛、更深入的落地应用,真正发挥人工智能的巨大价值。
在对话的最后,当被要求用一句话总结昇腾对讯飞意味着什么时,潘青华给出了一个充满情感色彩的答案:“昇腾是讯飞在自主创新道路上一路同行的亲密战友。”
讯飞与昇腾的合作是中国AI产业自主创新的一个缩影和典范。
它始于战略的契合和团队的相互吸引,历经了技术攻坚的“四个阶段”,在软硬件协同、生态共建中不断取得突破,最终共同加速AI的普及和落地。

END.


