把一台能运行122B大模子的AI主机塞入口袋，需要付出什么代价？

畴昔泰半年，端侧AI硬件的逻辑正在发生变化。

两个月前，国内掀翻一场闲暇级的腹地部署Agent高涨，大批AI风趣者驱动“养虾”，让蓝本偏小众的Macmini就怕出圈，一度出现溢价和缺货。在更硬核的开发者圈子里，三四万元的英伟达DGXSpark通常热度不低，因为它如故粗略在腹地运行千亿参数模子。

Macmini和DGXSpark同期走红，背后其实指向的是归拢个趋势：Agent正在赶快举高端侧AI硬件的门槛。

此前，40TOPS级别的AIPC，仅能完成对话、生成等轻量任务。但投入Agent时期后，开发者驱动追求更大的模子、更万古辰的腹地推理，以及确实粗略承担坐褥力任务的端侧AI开垦。

问题随之出现。Macmini富足酣畅、低功耗，却很难撑合手更大的腹地模子；DGXSpark领有强悍性能，但价钱、功耗与散热，又很难确实走向大众化。大算力、低功耗与小体积之间，似乎恒久难以兼得。

Agent时期确实穷乏的，不再仅仅一台更强的AIPC，而是一种粗略7×24小时运行、低功耗、酣畅，并具备腹地实践能力的新末端。

一种介于AIPC与AI责任站之间的AgentComputer出现了。最近发布的梦想AI主机P7，仅300克、30W功耗的开垦，领有190TOPS端侧AI算力，能在腹地运行122B参数模子。

AI2.0时期，需要怎样的AgentComputer？

传统AI更多照旧一问一答式交互，任务罢了后，模子也随之罢手运行。但Agent不同，它需要耐久在线、合手续调用模子、自主拆撤职务，并在腹地完成回想、推理、实践等一整套经由。

这意味着Agent开垦比拼的，不再仅仅瞬时性能，而是耐久踏实运行能力。

换句话说，AI2.0时期确实需要的不是AIPC的通俗升级版，而是一种介于AIPC与AI责任站之间的新末端，它既要具备运行大模子的能力，又必须兼顾低功耗、静音、小体积，以及7×24小时合手续责任的踏实性。

梦想AI主机P7，恰是在AI2.0需求下出身的AgentComputer新物种。它既尝试接近DGXSpark的大模子坐褥力能力，又保留了近似Macmini的低功耗与静音特质。

P7领有190TOPS异构AI算力（dNPU+SoC），其中160TOPS来其后摩漫界M50dNPU，30TOPS来自此芯P1SoC。整机最高支合手122B参数模子腹地部署，最高可树立80GBRAM，并支合手128K高下文窗口。

在无网环境下，P7腹地自主推理速率最高可达50Tokens/s，不错完结7×24小时畅达实践Agent任务。

围绕Agent耐久在线需求，滚球app中国官网下载入口P7的机身只好手掌大小，分量约300克，甚而不错平直通过充电宝供电运行。为了在小体积下完结合手续踏实运行，P7还将整机功耗汗漫在30W以内，并将运行杂音压低至35分贝以下。

这意味着，梦想AI主机P7如故驱动确实具备腹地坐褥力价值。

更垂死的是，与传统PC+AI的念念路不同，P7并不是在原有开垦中加多AI功能，而是围绕Agent场景从头界说末端逻辑。

举例，P7接管了一机双模设想，在智能体模式下，腹地运行天禧Claw，将复杂任务尽可能留在腹地实践；在大模子模式下，则通过洞开APIKey接入万般AI期骗与智能体，平直承担腹地推理与Token生成能力。

P7的推出代表着畴昔只好高功耗责任站能力承担的大模子腹地推理能力，驱动有契机投入更低功耗、更低本钱的微型开垦。

而只好当大模子推理粗略在低功耗、小体积要求下耐久运行，Agent才有可能确实从少数开发者开垦，缓缓走向更平庸的虚耗级与行业末端场景。

撑合手这种AgentComputer形态缔造的，是P7背后一套不同于传统GPU阶梯的新算力决议。

千亿模子装入口袋之后，算力逻辑也变了

梦想在P7立项初期就如故明确，要作念一台能放入口袋、又能腹地运行大模子的AI主机。这意味着它的芯片必须同期称心三个简直互斥的要求：大算力、低功耗、小体积。

传统AI芯片很难同期兼顾这些需求，中枢在于数据搬运——筹备单位与存储单位物理分散，数据在两者之间每每流动，赛马投注中国app官方版下载带来稀奇的能耗与延伸。

AI芯片行业因此不断探索新的架构旅途，其中一个正在被越来越多厂商探索的处所便是存算一体，存算一体让数据在存储侧就近完成筹备，从而减少搬运支拨，普及合座能效。

梦想采选引入存算一体架构芯片，动作P7的主要AI算力开头，也便是dNPU（DiscreteNPU），它近似于零丁GPU的定位，领有更强的AI性能。

这颗dNPU，恰是后摩智能在2025年推出的存算一体AI芯片——后摩漫界M50。

后摩漫界M50接管存算一体架构设想，具备160TOPS物理算力，配备最高48GB内存与153.6GB/s带宽，典型功耗仅10W，能效达到传统架构芯片的5～10倍。

雷峰网了解到，M50在设想阶段就针对大模子部署进行了优化，通过SRAM与48GBLPDDR5的组合决议，在兼顾性能的同期，普及了千亿参数模子的可部署性与本钱可控性。

确实的挑战不啻于芯片，而是怎样让千亿参数模子在一台300克级别的开垦上耐久踏实运行。这需要梦想与后摩智能在腹地Agent系统、推理框架以及软硬件协同层面进行深度相助。

尤其是在Agent实践链路、模子相易与端侧资源照管上，梦想需要一套全新的系统能力来撑合手合手续运行的AI任务。

从2025年下半年姿色正经启动驱动，梦想与后摩智能组建荟萃团队，围绕硬件设想、软件适配与推理框架张开了长达十多个月的荟萃攻坚，最终完结了在后摩漫界M50上运行千亿参数大模子。

现在，P7如故支合手千问、智谱、DeepSeek等主流模子，并可完结新模子的Day0适配，即模子发布今日即可完成运行支合手。关于用户而言，这使得P7不再仅仅演示型开垦，而是一台可耐久运行Agent任务的腹地AI末端。

从芯片到系统，再到Agent实践能力，梦想与后摩智能正在共同考据一种新的AI主机形态。

跟着端侧大模子合手续演进，这种兼顾性能、功耗与耐久运行能力的AgentComputer，正在成为AI2.0时期最具执行落地后劲的末端处所之一。

Agent波浪重构硬件递次，存算一体迎来推理黄金时期

AI芯片的竞争逻辑，正在发生一场静默的翻转。

畴昔几年，行业的中枢野心是峰值算力，比拼的是谁能试验更大的模子，GPU也因此成为系数这个词AI时期的中枢基础面目。

但当AI从1.0时期的生成一次恢复走向2.0时期的耐久运行、合手续实践任务的Agent形态后，芯片的评价体系驱动变化：能效比、合手续推理能力、腹地实践复杂任务的踏实性，缓缓与峰值算力同等垂死。

这一变化并不是传统AI芯片的上风所在，却为新的架构旅途大开了窗口。

一个澄莹的信号来自行业巨头。英伟达重金收购初创公司Groq中枢时间金钱，将其LPU（LanguageProcessingUnit）讲话处理单位用于高性能推理场景。后摩智能与Groq齐是存算一体时间阶梯，齐是基于SRAM设想居品，减少数据搬运、普及推理能效，仅仅居品叫法不同。

后摩智能在缔造之初就专注于存算一体时间的研发与产业化，2024年推出针对大模子推理优化的后摩漫界M30，支合手运行60亿参数模子，并获取了中国移动等客户。

现在，基于后摩漫界M50，后摩智能如故搭建起M.2卡、DM.2卡、Pcie卡，最高640TOPS算力的齐全居品矩阵，并完成了从时间原型到限度化商用的舛误向上。如今后摩漫界M50已全面落地梦想AI主机P7、AIPC、桌面机器东说念主、AgentBox、智能语音末端、AI网关等多元端边场景。

后摩智能也在研发下一代芯片，观点是进一步普及能效比与大模子推理能力，以适配改日更复杂的Agent时期。

这是一个秀美性的调动点，GPU界说了大模子试验时期，而Agent的全面爆发，正将算力竞争从云表试验中心，推向海量的端侧、旯旮推理节点。在这场算力形式转移中，以存算一体为代表的AI原生架构，不再仅仅GPU的补充或替代，更在缓缓开垦端侧Agent时期的全新硬件范例。

跟着Agent驱动向更多腹地开垦渗入，行业关于低功耗、高能效端边推理芯片的需求也会合手续加多。

改日，围绕端侧大模子推理，还会出现更多新的芯片形态与架构阶梯。

在这场Agent驱动的AI硬件范式切换中，AI原生的芯片成为竞争的舛误赛马投注(中国)app下载，像后摩智能这么最初完成存算一体生意化落地的公司，正在投入更大的增长通说念。