在“双碳”目标的指引下,能源行业正经历从传统模式向智能化、绿色化的深度转型。上海达卯科技有限公司(以下简称“达卯智能”)是人工智能领域的能源大模型企业,专注于通过通用人工智能(AGI)技术构建能源管理与虚拟电厂解决方案。
达卯智能全自主研发了基于 MOE 架构的能源大模型,凭借业界独创的能量块数据结构,应用云端大模型+边端智能体相结合的云边协同架构,极大优化了预测和策略模型生成的效率与准确性,相较传统策略算法,得到了大幅度提升。
达卯能源大模型是国内领先的、面向各类能源场景、对各类能源任务具备通用求解能力的垂类大模型体系,该模型体系主要由三个核心部分构成:基于 MOE 架构的能源知识模型、基于 Transformer 架构的能量系统平衡模型以及多模态模型,共同铸就了达卯智能在能源领域的技术领先地位。
随着 DeepSeek 的横空出世,达卯智能也开始接入和适配 DeepSeek-R1 模型,DeepSeek 强大的推理能力,填补了达卯智能此前的空白,达卯智能基于 DeepSeek 进一步升级和完善了其自研产品的核心能力。一方面,基于能源行业独有的海量垂直语料库与自研能源大模型体系,“能源小达”AI 智能体实现突破性升级,为发电、输电、配电、电力交易、政策合规等全产业链提供高精度、低延迟、强适配的 AI 决策支持。另一方面,达卯智能进行二次开发,开发了虚拟电厂功能,可对能源资源进行调度、交易和聚合,为能源行业客户生成相应的资源调度策略报告,实现能源行业降本 15%。
任何大模型或深度学习应用的部署,都逃不开算力瓶颈。面对数十亿甚至上百亿参数规模的模型,一个合适的硬件配置能够让推理速度提升一个数量级。
为适应能源行业 AI 的变革,达卯智能基于 DeepSeek R1 与 NVIDIA 架构,推出了 DM-Engine R1 系列能源大模型一体机,通过搭载丽台科技提供的 NVIDIA RTX™ 5880 Ada GPU,结合丽台科技定制化工作站和服务器整机,达卯智能为能源行业打造了安全端到端 AI 推理方案。
此次推出的 DM-Engine R1 一体机系列有三款,其中 DM-Engine R1 14B 标准版和 DM-Engine R1 32B 旗舰版均搭载 NVIDIA RTX 5880 Ada,分别适用于轻量级模型推理以及高精度专业领域任务。
RTX 5880 Ada 具备 48GB GDDR6 显存以及 14,080 个 CUDA 核心和 440 个第四代 Tensor Core,具有 69.3 TFLOPs 的 FP32 计算能力和 1,108 TFLOPs 的 Tensor 性能,非常适合用于 AI 模型推理任务,单 GPU 即可胜任小规模模型或低并发推理需求,而多 GPU 的灵活扩展则更适用于处理教大的输入或高并发推理场景。
DM-Engine R1 14B 标准版能够使 TCO(总体拥有成本)降低 40% 并且支持 365*24 小时无休运行。DM-Engine R1 32B 旗舰版配备 2 块 RTX 5880 Ada,48GB*2 显存保障 8,192 步长时序预测零中断,同时支持 2.4 万 QPS 高并发,能够实现结构化剪枝技术能源场景推理提速 300%。
DM-Engine R1 系列一体机特点:
DM-Engine R1 系列一体机通过不同的配置,来精准匹配各类能源行业需求。在能效优化方面,帮助用户年节省百万级能耗成本,实现了能源的高效利用和成本的大幅降低。其海量秒级响应决策能力,使能源企业在面对市场波动和需求变化时,能够迅速做出精准的调度和决策,提升企业的市场竞争力。同时,本地化的部署能够保障核心资产与业务数据安全,防止数据泄露和恶意攻击,为能源企业的数字化转型提供了坚实的安全保障。
达卯智能技术人员表示:“达卯智能基于 NVIDIA RTX 5880 Ada 打造的一体机,是面向能源行业的专属 AI 推理方案,做到算力与模型的高效协同,为能源行业带来了更高效、更智能的解决方案。”