全球最小AI超算亮相：Tiiny AI推出掌上120B大模型终端

12月11日，有科技资讯显示，初创企业Tiiny AI推出了一款名为Tiiny AI Pocket Lab的AI超级计算机，宣称其为目前全球最小的同类设备。该设备重量仅为300克，外形尺寸为14.2×8×2.53厘米，可轻松握于掌中。

尽管体积紧凑，这款设备却配备了ARMv9.2架构的12核CPU、80GB LPDDR5X内存以及1TB的固态存储，AI算力达到约190 TOPS。官方表示，这一性能足以在本地运行参数规模高达1200亿（120B）的大语言模型，在同级别产品中属首次实现。

据称，该设备所支持的大模型具备处理复杂任务的能力，包括博士级别的推理、多步骤逻辑分析以及深度上下文理解。其AI运算能力由定制化的异构计算模块提供，结合SoC与独立NPU协同工作，实现高效能输出。

为保障大型模型的流畅运行，系统配置了大容量内存，并引入了两项关键技术：一是TurboSparse，该技术采用神经元级稀疏激活机制，在不损失模型智能完整性的前提下显著提升推理效率；二是PowerInfer，一个广受开发者关注的开源异构推理引擎，可通过动态调度CPU与NPU之间的计算负载，优化大模型的运行速度。

在软件支持方面，AI Pocket Lab具备广泛的兼容性，可一键部署包括GPT-OSS、Llama、Qwen、DeepSeek、Mistral和Phi在内的数十种主流开源模型及代理框架。整个系统无需依赖网络连接，支持完全离线使用，保障数据隐私与本地化操作体验。

此外，设备热设计功耗为30W，典型系统功耗约为65W，体现了较为出色的能效控制水平。Tiiny AI已确认，该产品将于2026年在国际消费电子展上正式亮相并进行现场演示。