即思(Hyperthought)系列LPU板块
一直以来,在地部署超大型语言模型皆需仰赖庞大的GPU丛集、高速互连技术,以及密集的散热系统一一导致成本高昂且维运复杂。凌烟阁即思(Hyperthought)系列LPU板卡将单机/单卡运行超大型语言模型的愿景化为可能。
仅需-张搭载六颗HTX301芯片与384GB内存的PCle板卡,企业即可于本地执行700B等级参数的大语言模型推理,单卡功耗仅约250W。即思(Hyperthought)系列LPU板卡针对不同尺寸与形式的弹性扩展而设计,自边缘到迷你数据中心皆可部署。
单卡可搭载1颗HTX301芯片至6颗芯片,内存容量介于32GB至384GB,支持运行4B至700B参数的语言模型,让企业依实际工作负载需求,精准规划在地推理的部署规模,避免过度配置。
即思(Hyperthought)系列LPU板卡极佳地消除了按token计费所带来的支出焦虑,让团不再受困于对每笔查询精打细算,并限缩agent的使用。一旦部署完成,即思(Hyperthought)系列LPU板卡便能提供系统所需的推理吞吐量,并具有完整的数据自主权与可预期的延迟表现,让企业在固定的基础设施成本下,执行更高要求的AI运算。
除即思(Hyperthought)系列LPU板卡,凌烟阁还可针对客户要求,提供AI一体机及AI底座平台,进一步简化客户部署的工作与困扰。





