北电数智郭文:AI已不是单点能力的竞争,需要“数算模用”四个方面联合优化

专题:中国世界 服务贸易交易会-2026中国AIGC创新应用交流会

北电数智郭文:AI已不是单点能力的竞争,需要“数算模用”四个方面联合优化-第1张图片

  服贸会专题活动“2026中国AIGC创新应用交流会 ”于9月10日在北京举办 ,主题为“智启未来 应用无界——从模型创新到场景落地”,北电数智技术负责人郭文出席并演讲。

北电数智郭文:AI已不是单点能力的竞争,需要“数算模用”四个方面联合优化

  以下为演讲实录:

  各位嘉宾 ,大家好!很荣幸今天能够来到服贸会的现场,向大家分享北电数智的一些实践经验 。我是来自北电数智的郭文。

  今天大家更多聚焦于AI的应用及其在各行业的落地。我们看到,AI现在已经像水和电一样融入我们的生活与生产之中 ,但很少有人关注到“发电厂 ”是怎么做的 。北电数智所做的,正是构建一个个AI底座,并通过这些AI底座服务各地的民生与产业。所以今天 ,我将向大家介绍北电数智在全栈国产化方面的一些经验。

  北电数智是北京电控旗下企业,在“十五五”规划中,是北京电控在人工智能领域布局的‌核心关键载体‌ 。正着力解决行业内人工智能“卡脖子”的问题。我们成立于2023年 ,自成立之初就以建设数字中国为愿景。经过三年发展 ,我们从AI领域的新势力快速成长为行业的新力量 。这三年里,我们重构了AI计算的数据中心建设范式,推动了国产算力建设 ,也完成了新一代计算平台的实践验证。今天的分享将围绕三个方向展开:新一代AI底座是什么样的?我们如何以这样的AI底座赋能行业?以及如何以AI底座服务区域发展?

  我们的AI底座以国产算力芯片为核心,在构建这一底座的过程中,同步推动国产算力芯片真正‌落地生产、迭代发展‌。自2023年成立之初 ,我们就围绕国产芯片布局算力中心建设,通过搭建全栈技术体系,打通芯片到最终应用的全链路落地通道 。在智算中心建设维度 ,我们‌重新定义了新一代智算中心的建设标准‌ 。随着智算中心的技术要求持续提升,传统数据中心在供电、供水以及整体架构层面,都需要面向智能计算场景完成系统性升级。我们承建的北京市数字经济算力中心 ,是‌北京五环内唯一千P以上的商用智算中心‌。依托这套成熟的全栈技术能力,我们以北京标杆方案为样板向全国复制,‌赋能各地AI产业高质量发展‌ 。

  当前AI的发展已经进入深水区。我们观察到 ,AI产业的发展可以概括为“数 、算、模、用 ”四个核心维度。

  在算力方面 ,国产算力今年市场需求旺盛,正处于快速发展的上升阶段 。面向持续增长的产业需求,我们的技术路径从单个芯片的能力拓展延伸至多芯片组合协同能力——从单芯片优化升级到系统级调优 ,以系统协同进一步激发国产算力的整体效能。

  在模型方面,大模型技术迭代迅速 、参数体量持续增长。这意味着大量优化工作需要突破单机器边界,在集群层面完成全链路调优 ,尽可能释放国产算力的性能空间,让每一分算力都高效转化为最终的Token产出 。因此,集群级优化已成为当前产业落地的关键核心环节。

  在数据层面 ,随着大模型与Agent逐步走向可用,AI不再只是通用对话工具,而是真正深入行业核心场景。我们服务的各行业中 ,沉淀了大量高价值关键数据 。在此背景下,如何让数据充分释放价值、参与大模型训练,或是作为行业知识在Agent中落地应用 ,已成为核心关键命题。‌只有先打通数据层面的核心堵点 ,更强大的算力与模型才能顺畅进入生产环节‌。

  在应用方面,当前智算中心的算力资源仍有极大的释放空间,这就需要我们围绕当地实际产业需求打造更贴合的落地应用 ,让智算中心的每一分算力都真正转化为现实生产力 。

  由此可见,当前AI的发展已不是单点能力的竞争,而是需要“数、算 、模、用”四个方面的联合优化 ,才能真正推动国产算力从“可用”走向“好用 ” 。

  成立三年来,我们实现了三次重要的产业跨越。

  2023年公司刚创立时,我们就注意到不同国产芯片具备差异化的性能表现 ,适配的模型场景各有侧重,在算力、带宽 、容量的不同配置下,可支撑不同类型的AI应用。因此在2023年 ,我们首创提出了“混元异构”架构:在一个智算中心内部署多种国产芯片,利用不同芯片的差异化能力支撑广泛的应用场景 。这样既让国产芯片找到了适配自身优势的落地场景,也为AI产业落地找到了稳定可靠的算力底座。

  2024年 ,我们承建的北京市数字经济算力中心竣工投用。这里首创部署了国内规模领先的混元异构集群 ,多种国产芯片汇聚于智算中心,形成了充足的普惠算力供给 。在这次部署中,我们沉淀了多维度的全栈产品能力 ,同时依托真实行业场景的实践,助力国产芯片持续完成技术验证与迭代升级。当前国产芯片产品已迭代至三代、四代,性能正逐步向世界 先进水平靠拢。

  在业务模式上 ,我们先以北京为基地培育标杆智算中心,再将成熟的标杆方案向全国各地区推广 。与传统“先建集群再找业务”的模式不同,我们会针对各地区的产业发展需要定制构建集群:先在当地开展深度行业调研 ,进行“一地一策 ”和“一业一策 ”的规划,根据当地实际需求建设适配的算力资源,并配套全套技术服务支撑本地产业发展。我们为算力平台取名“星火” ,希望各地落地的算力形成星星之火,最终连成一张覆盖广泛的高效算力网络,让算力普惠服务全国数字经济发展。

  在星火大平台之上 ,我们构建了“星火云”产品体系 。正如前面提到的 ,在国产算力服务领域,单点能力不足以支撑产业落地,必须打通全栈技术链路 ,才能更好地服务行业与区域数字化转型。因此我们打造了覆盖“数、算 、模 、用 ”四个层面的完整产品矩阵。

  在“算”这一最底层,我们构建的是混元异构集群,配套研发了支持混元异构调度、国产芯片加速的底层算力平台 。

  在模型层面 ,要服务不同行业的差异化需求,就需要开展针对性的模型训练、打造垂直领域专属模型 。但垂直领域的数据使用需要受到严格的安全管控,因此我们构建了可信数据空间 ,保障数据在训练和推理阶段全程不出域,在隐私保护的前提下实现可训练 、可推理,并在此基础上训练了一系列覆盖医疗、工业、AI4S等领域的垂域模型。

  在数的方面 ,当前国内通用大模型能力已达到较高水平,在日常工作场景中得到广泛应用,但行业中的核心关键数据往往具备强特殊性与高价值属性 ,需要更专业的处理方法才能充分释放其价值。在服务这些行业的过程中 ,我们沉淀了针对关键数据的成熟处理方法与技术能力,同时全程保障数据安全可靠 、权属清晰明确 。

  在应用层面,我们为不同行业构建了垂直领域共性技术平台 ,通过各行业的智能体支撑平台助力行业应用快速孵化。近来 ,我们已经孵化出工业、医疗、影视 、教育等多个垂直平台,后续将逐一展开介绍。

  首先我们开发了前进·AI异构计算平台 。这是我们打造的首个核心基础平台 ,核心要解决的问题是:面对多元的混元异构算力资源,需要完成统一纳管、智能调度,并为不同任务精准分配算力资源。在这个过程中我们面临一个核心挑战:传统智算中心大多采用统一芯片的集群架构 ,运维逻辑相对简单,可以用一套标准化模式完成全链路操作;而在混元异构、多芯片并存的环境下,集群管理的复杂度大幅提升。为此 ,我们创新性地引入Agent来管理智算中心,能够快速识别任务需求 、定位运行问题、及时完成自动修复 。在北京数字经济算力中心,我们已经把空调、供暖等一系列配套设施的管理工作交给智能体完成 ,由智能体自动处理各类运行告警 ,大幅降低了智算中心的运维成本与设备运维难度。

  基于这一平台,我们与相关部门合作建设了先进计算迭代验证平台项目。在该平台中,我们纳入了多家厂商的芯片开展体系化评测 。与常规评测机构不同 ,我们完全围绕实际产业使用需求开展芯片评测,通过“以评促用”,找到每种芯片适配的优势领域 ,并针对算子与通信库完成补齐与拉通优化。早在2023年底至2024年初,我们就实现了混元异构通信,打通了不同芯片之间的互联互通 ,完成了大模型的异构部署落地。

  针对各类模型,我们还完成了面向不同场景的专项加速,为不同场景匹配对应的最优加速方案 ,让模型真正实现可用,对外提供训推一体的完整服务 。近来 ,智算中心已接入多家厂商的不同芯片 ,通过统一接入层 ,让模型顺利进入推理与纳管体系,并通过多种智能调度方式,充分释放这些芯片的性能与能力 。

  我们的服务还覆盖云 、边 、端的完整架构:在北京构建核心数据中心 ,在城市与产业园区构建边缘计算中心,在工厂生产机台上直接部署轻量化AI能力。在整体能力层面,我们实现了任务在云边端之间的协同调度。调度完成后 ,再开展模型推理环节——在宝塔模型推理系统中,我们完成了模型加速、芯片适配等核心工作,通过先进技术充分释放模型能力 。比如当前行业广泛应用的PD分离技术:在大模型推理过程中 ,Prefill阶段对算力要求很高,Decode阶段对带宽要求较高。延续混元异构的技术经验,我们在不同的国产芯片上完成了PD分离能力的拉通适配。近来  ,我们正在承接相关课题,打造开源开放的推理框架,让不同的国产芯片能在同一套框架下协同工作 。

  在长程智能体任务中 ,随着对话与任务链路不断延长 ,KV Cache的体积持续增大,如何做好KV Cache的管理与offload,也成为核心技术能力。因此 ,我们在这套开源框架中实现了基于KV Cache的智能调度。需要说明的是,PD分离和KV Cache技术是当前行业共同攻关的核心方向,我们的落地场景具备差异化的特殊诉求:智算中心内存在更多元的异构芯片混布、新老芯片搭配 ,以及不同模型针对不同芯片的最优分割策略——这些都是我们场景中需要核心解决的技术问题 。

  解决算力供给问题之后,还需要构建可信的数据空间,企业才能放心将核心数据接入平台。2023年 ,我们率先提出可信数据空间理念,在今年的各项权威评测中均取得了优异成绩。我们的可信数据空间的核心优势在于:深度融合AI能力的应用 。可信数据空间的价值,正在从传统的数据处理与分析 ,向数据的智能应用方向升级。结合AI能力之后,数据不再只是静态资源,而是能够转化为可用的模型与模型可调用的核心能力。依托模型与算力的双重支撑 ,我们才能高效训练出高质量的垂直领域模型 。

  在应用领域 ,我们以AIGC平台为例,展示我们如何从最底层的算力延伸至最上层的落地应用 。在AIGC内容创作 、视频创作领域,使用通用AIGC模型生成短视频本身会产生一定的推理成本 ,而高质量成片的市场报价远高于基础成片。优质视频作品的费用 差距,并不来自模型本身的生成能力,而是源于背后创作者的专业创作能力 ,同时市场上能稳定产出这类高品质视频的人才十分稀缺。在这样的产业背景下,我们开发了“长缨·AIGC平台 ” 。在该平台上,我们通过智能体的方式 ,让用户能够更加便捷、简洁地完成一键式视频生成。在文旅、广告 、营销等场景中,用户只需简单操作,就能创作出影视级的宣传视频 ,让更多用户能在更短时间内生成更高质量的作品。

  类似的产业需求还有很多,覆盖医疗、工业、AI for Science等多个领域 。在医疗领域,我们与顶尖医院通过可信数据空间开展合作 ,在重点科室打造专科模型 ,再汇聚形成全科模型助手,并通过相关医疗服务体系辅助家庭医生服务个人用户,全面提升就医体验。在AI for Science领域 ,我们为顶尖生物医学实验室提供科研分析与科研发现支撑,近来 能帮助科研人员将原本需要数十小时的工作大幅压缩,并辅助他们完成科研假设的提出。

  最后 ,是依托算力与行业能力开展在地运营 。虽然日常消费场景中AI的应用已经十分广泛,但进入工业与实体产业内部,落地逻辑仍存在显著差异。因此 ,要在各地推广AI落地,我们采取“一业一策”和“一地一策”的方法:每到一个地方,先开展深度行业调研 ,找到当地最具优势的主导产业,打造落地样板,沉淀行业数据 ,打磨行业专属模型与落地能力 ,再将这种成熟能力复制推广到下一个城市。通过不同城市的行业能力互补,最终形成覆盖广泛的全国性服务能力,实现规模化落地推广 。

  回到最初的愿景:北电数智以建设数字中国为使命 ,致力于构建自主可控的AI Infra。最后,我们希望科技善存 、数智共享,期待更多伙伴与我们一道 ,在国产算力的产业道路上携手前行。

  谢谢大家!

  新浪声明:所有会议实录均为现场速记总结 ,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的 ,并不意味着赞同其观点或证实其描述 。

文章推荐

  • 【期货大豆费用,期货大豆费用走势】

    专题:中国世界服务贸易交易会-2026中国AIGC创新应用交流会  服贸会专题活动“2026中国AIGC创新应用交流会”于9月10日在北京举办,主题为“智启未来应用无界——从模型创新到场景落地”,北电数智技术负责人郭文出席并演讲。  以下为演讲实录:  各位嘉宾,大家好!很荣幸今天能够来...

    2026年09月11日
    0
  • 英国cardiff高中录取标准(英国高中申请指南)

    专题:中国世界服务贸易交易会-2026中国AIGC创新应用交流会  服贸会专题活动“2026中国AIGC创新应用交流会”于9月10日在北京举办,主题为“智启未来应用无界——从模型创新到场景落地”,北电数智技术负责人郭文出席并演讲。  以下为演讲实录:  各位嘉宾,大家好!很荣幸今天能够来...

    2026年09月11日
    0
  • 吴忠好玩的地方/吴忠好玩的地方推荐免费一日游

    专题:中国世界服务贸易交易会-2026中国AIGC创新应用交流会  服贸会专题活动“2026中国AIGC创新应用交流会”于9月10日在北京举办,主题为“智启未来应用无界——从模型创新到场景落地”,北电数智技术负责人郭文出席并演讲。  以下为演讲实录:  各位嘉宾,大家好!很荣幸今天能够来...

    2026年09月11日
    0
  • 2017香港理工大学offer/香港理工大学uadmission

    专题:中国世界服务贸易交易会-2026中国AIGC创新应用交流会  服贸会专题活动“2026中国AIGC创新应用交流会”于9月10日在北京举办,主题为“智启未来应用无界——从模型创新到场景落地”,北电数智技术负责人郭文出席并演讲。  以下为演讲实录:  各位嘉宾,大家好!很荣幸今天能够来...

    2026年09月11日
    0