NVIDIA、AMD还在堆料！一家小公司用28nm+DDR4单卡跑7000亿大模型

5月11日消息，堆料单卡大模当英伟达、公司AMD还在不断堆高制程、跑亿堆砌HBM显存推出高端AI加速卡时，堆料单卡大模一家小公司却用老旧技术走出了不同路线。公司

中国台湾企业Skymizer推出HTX301 PCIe AI加速器，跑亿采用28nm芯片搭配LPDDR4/LPDDR5内存，堆料单卡大模单卡即可运行7000亿参数大语言模型。公司

HTX301单张PCIe卡集成6颗自研芯片协同工作，跑亿总内存容量最高可达384GB，堆料单卡大模整卡功耗仅为240W，公司全程未使用行业主流的跑亿HBM或 GDDR显存方案。

该加速器基于Skymizer HyperThought平台打造，堆料单卡大模搭载专为大语言模型工作负载设计的公司下一代LPU IP核，核心优化方向为大模型推理效率。跑亿

通过对权重和KV缓存采用专属高效压缩技术，HTX301的推理性能比开源框架llama.cpp 提升9%至17.8%，官方标称带宽可达100GB/s。

功耗对比方面，英伟达RTX PRO 6000 Blackwell 执行同类任务功耗约为600W，AMD Instinct MI350P功耗同样远高于该产品，均达到HTX301的两倍以上。

HTX301采用标准PCIe卡外形尺寸，可直接安装在普通风冷服务器中，无需对数据中心的电力和冷却系统进行任何改造。

该方案同时解决了云端部署的两大核心痛点，既避免了数据上传带来的隐私泄露风险，也实现了基础设施成本的可预测性。

目前HTX301所宣称的全部性能数据均来自Skymizer官方，尚未经第三方独立测试验证。

不过，Skymizer将于今年台北国际电脑展上首次提供实机演示，并开放给独立第三方机构对其性能参数进行全面验证。