关闭

云端算力方案

针对大模型训练、云端推理、海量数据处理、政企数字化建设等算力密集型场景需求,凌烟阁打造高性能、高弹性、国产化云端算力解决方案,解决传统云端算力成本高昂、适配性弱、算力调度低效、国产化替代难等行业痛点。可全面适配人工智能训练推理、大数据分析、云计算服务、政企算力中台、产业数字化升级等多元场景,为企业与机构提供按需调度、安全可控、可规模化落地的国产化云端算力服务。

即思(Hyperthought)系列LPU板块

一直以来,在地部署超大型语言模型皆需仰赖庞大的GPU丛集、高速互连技术,以及密集的散热系统一一导致成本高昂且维运复杂。凌烟阁即思(Hyperthought)系列LPU板卡将单机/单卡运行超大型语言模型的愿景化为可能。


仅需-张搭载六颗HTX301芯片与384GB内存的PCle板卡,企业即可于本地执行700B等级参数的大语言模型推理,单卡功耗仅约250W。即思(Hyperthought)系列LPU板卡针对不同尺寸与形式的弹性扩展而设计,自边缘到迷你数据中心皆可部署。


单卡可搭载1颗HTX301芯片至6颗芯片,内存容量介于32GB至384GB,支持运行4B至700B参数的语言模型,让企业依实际工作负载需求,精准规划在地推理的部署规模,避免过度配置。


即思(Hyperthought)系列LPU板卡极佳地消除了按token计费所带来的支出焦虑,让团不再受困于对每笔查询精打细算,并限缩agent的使用。一旦部署完成,即思(Hyperthought)系列LPU板卡便能提供系统所需的推理吞吐量,并具有完整的数据自主权与可预期的延迟表现,让企业在固定的基础设施成本下,执行更高要求的AI运算。


除即思(Hyperthought)系列LPU板卡,凌烟阁还可针对客户要求,提供AI一体机及AI底座平台,进一步简化客户部署的工作与困扰。

应用场景

企业本地私有大模型问答(内部知识库问答、办公1文档智能解析、
私有化 GPT 部署推理)
企业本地私有大模型问答(内部知识库问答、办公1文档智能解析、
私有化 GPT 部署推理)
企业本地私有大模型问答(内部知识库问答、办公1文档智能解析、
私有化 GPT 部署推理)
我们非常重视您的个人隐私。当您访问我们的网站时,请同意我们使用的所有Cookie。如需了解我们如何处理个人数据的更多信息,请查阅我们的隐私政策。
接受Cookie