首页 › 世界最小

“全球最小AI超算”问世：300克、190 TOPS算力

发布者：隔水望伊人 2025-12-12 10:11

IT之家 12 月 11 日消息，科技媒体 Wccftech 昨日（12 月 10 日）发布博文，报道称初创公司 Tiiny AI 发布号称全球最小的 AI 超级计算机 Tiiny AI Pocket Lab，仅重 300 克，尺寸如手掌大小，却搭载了 ARMv9.2 12 核 CPU 和 80GB LPDDR5X 内存，算力达 190 TOPS。

IT之家援引博文介绍，该计算机尺寸仅为 14.2 × 8 × 2.53 厘米，重量约为 300 克，用户可轻松将其置于掌中。尽管体积小巧，Tiiny AI 声称该设备能成功部署 1200 亿（120B）参数的模型，这在同类设备中尚属首创。

该设备支持的大语言模型（LLM）据称能完美处理“博士级推理、多步骤分析和深度上下文理解”任务，搭载了最新的 ARMv9.2 12 核 CPU，并通过定制的异构模块（SoC + 独立 NPU）提供约 190 TOPS 的 AI 算力。

为了支撑庞大的模型运行，该设备配备了高达 80GB 的 LPDDR5X 内存和 1TB SSD 存储空间。这种大容量内存配置让用户可以启用激进的量化技术，从而在本地环境中流畅运行 120B 模型。此外，该设备功耗控制出色，TDP 为 30W，典型系统功耗约为 65W。

Tiiny 为了在如此紧凑的设备上实用化 120B 模型，采用了两项核心技术。首先是 TurboSparse，这是一种神经元级别的稀疏激活技术，能在保持模型完整智能的同时显著提高推理效率。

其次是 PowerInfer，这是一个拥有超过 8000 颗 GitHub 星标的开源异构推理引擎，它能通过动态分配 CPU 和 NPU 之间的计算任务来加速繁重的 LLM 工作负载。

在软件生态方面，AI Pocket Lab 支持一键部署 GPT-OSS、Llama、Qwen、DeepSeek、Mistral 和 Phi 等数十种主流开源模型及代理框架，无需依赖互联网或云端，支持完全离线操作。Tiiny AI 确认将在 CES 2026 上正式展示该设备。

人工智能技术中央处理器 Pocket 固态硬盘电脑

上一篇：世界最小猛禽！似麻雀大，却能捕食同体型鸟类，25年云南拍到17只

下一篇：世界上5种迷你小鸟，最小的仅重1.95克，巢比硬币还小，太惊艳了

大家都在看

比细菌还小：科学家创造出世界上最小的二维码，重塑人类存储方式一枚肉眼完全看不见的二维码，刚刚被正式载入吉尼斯世界纪录。维也纳工业大学（TU Wien）与数据存储公司Cerabyte合作，将一枚二维码压缩到了仅1.98平方微米的面积内，比绝大多数细菌的横截面还要小，每个像素点只有4 ... 世界最小02-28
全球最小迷你导弹，比两瓶啤酒还轻，外军试完一发当场买单日前央视播出了国产QN202微型导弹的打靶测试画面，这一款不起眼的小导弹，硬是抢了大型装备的风头。QN202微型导弹的意义在于能够以40毫米的超小弹径，集成红外图像制导系统，做到射后不管，破甲威力超过80毫米，精确 ... 世界最小02-21
世界上最小国家，全国只有32个人，买个菜都要出国？手里攥着一张银行卡大小的护照，背面盖着三枚钢印，你能在机场柜台换来一张飞往任何地方的登机牌，可那本护照来自一块连谷歌地图都放大不到的“国土”，名字叫西兰公国，面积0点002平方公里，还不如手机屏幕大，却自 ... 世界最小02-21
世界最小二维码问世：仅1.98平方微米，数据可存千年 IT之家 2 月 19 日消息，二维码究竟能小到什么程度？小到只能借助电子显微镜才能识别。维也纳工业大学的一支研究团队与数据存储技术公司 Cerabyte 合作，现已成功做到了这一点。据IT之家了解，这个二维码的面积仅为 ... 世界最小02-21
世界最小墨水屏手机！ 2.8 英寸的 E-ink屏！47克、你没见过！本内容来源于@什么值得买APP，观点仅代表作者本人｜作者：花儿6699前段时间写了一款海信A9墨水屏手机，2022年发布的越用越涨价，真的是离谱，最大的卖点无疑是3.5MM接口加ES9318 HIFI芯片，闲暇之余还能插上耳机享 ... 世界最小02-08
世界最小航母纪录刷新！比054A还短，配备滑跃起飞甲板文|中外舰闻知名军事撰稿人近期在罗马尼亚加拉茨的荷兰达门造船厂内，一艘造型奇特、体型紧凑的舰艇完成主体合拢的照片曝光，引起了造舰业的不少关注。这艘名为“若昂二世”号（NRPD.JoãoII，A5209）的多用途航母 ... 世界最小01-31
你知道世界上最小的鸟是什么鸟？当然知道！让我们一起来了解一下这个令人惊叹的自然奇迹。世界上最小的鸟，竟然只有这么大！你知道它是谁吗？在浩瀚的自然界中，鸟类的体型千差万别，从庞大的鸵鸟到娇小的蜂鸟，每一种都展现出不同的生存智慧。而在 ... 世界最小01-16
全球最小发达国家，中国移民占87%，如今却是夸大其词？如果只看地图，马耳他几乎是“看不见的”。这个位于地中海中心的国家，放在中国连一个普通城区都比不上，但就是这样一个“袖珍到容易被忽略”的国家，却在过去十年里，悄然成为中国人移民欧洲最集中的目的地之一。根 ... 世界最小01-15
世界最小机器人来了！比沙粒还小，能感知、会移动、自己“吃光” 今日热议 | 世界最小机器人来了！比沙粒还小，能感知、会移动、自己“吃光” 事件速览时间：2026年1月9日研发团队：宾夕法尼亚大学密歇根大学成果：全球最小、完全可编程的自主机器人尺寸：比一粒盐还小，肉眼几乎 ... 世界最小01-11
美国一男子声称有世界最小阴茎，尺寸不到2.5厘米，属于罕见病他公开承认自己阴茎不到1英寸，这个事实像一块石头压着他的生活，多年在人际和亲密关系里屡屡受挫在北卡罗来纳州，36岁的Michael Phillips，也被中文媒体译作“菲利普斯”，把这件事摊开说了他从小就意识到自己比同 ... 世界最小12-30

相关文章

热门阅读

精选文章