首页 › 世界最小

“全球最小AI超算”问世：300克、190 TOPS算力

发布者：隔水望伊人 2025-12-12 10:11

IT之家 12 月 11 日消息，科技媒体 Wccftech 昨日（12 月 10 日）发布博文，报道称初创公司 Tiiny AI 发布号称全球最小的 AI 超级计算机 Tiiny AI Pocket Lab，仅重 300 克，尺寸如手掌大小，却搭载了 ARMv9.2 12 核 CPU 和 80GB LPDDR5X 内存，算力达 190 TOPS。

IT之家援引博文介绍，该计算机尺寸仅为 14.2 × 8 × 2.53 厘米，重量约为 300 克，用户可轻松将其置于掌中。尽管体积小巧，Tiiny AI 声称该设备能成功部署 1200 亿（120B）参数的模型，这在同类设备中尚属首创。

该设备支持的大语言模型（LLM）据称能完美处理“博士级推理、多步骤分析和深度上下文理解”任务，搭载了最新的 ARMv9.2 12 核 CPU，并通过定制的异构模块（SoC + 独立 NPU）提供约 190 TOPS 的 AI 算力。

为了支撑庞大的模型运行，该设备配备了高达 80GB 的 LPDDR5X 内存和 1TB SSD 存储空间。这种大容量内存配置让用户可以启用激进的量化技术，从而在本地环境中流畅运行 120B 模型。此外，该设备功耗控制出色，TDP 为 30W，典型系统功耗约为 65W。

Tiiny 为了在如此紧凑的设备上实用化 120B 模型，采用了两项核心技术。首先是 TurboSparse，这是一种神经元级别的稀疏激活技术，能在保持模型完整智能的同时显著提高推理效率。

其次是 PowerInfer，这是一个拥有超过 8000 颗 GitHub 星标的开源异构推理引擎，它能通过动态分配 CPU 和 NPU 之间的计算任务来加速繁重的 LLM 工作负载。

在软件生态方面，AI Pocket Lab 支持一键部署 GPT-OSS、Llama、Qwen、DeepSeek、Mistral 和 Phi 等数十种主流开源模型及代理框架，无需依赖互联网或云端，支持完全离线操作。Tiiny AI 确认将在 CES 2026 上正式展示该设备。

人工智能技术中央处理器 Pocket 固态硬盘电脑

上一篇：世界最小猛禽！似麻雀大，却能捕食同体型鸟类，25年云南拍到17只

大家都在看

“全球最小AI超算”问世：300克、190 TOPS算力 IT之家 12 月 11 日消息，科技媒体 Wccftech 昨日（12 月 10 日）发布博文，报道称初创公司 Tiiny AI 发布号称全球最小的 AI 超级计算机 Tiiny AI Pocket Lab，仅重 300 克，尺寸如手掌大小，却搭载了 ARMv9.2 12 核 ... 世界最小12-12
世界最小猛禽！似麻雀大，却能捕食同体型鸟类，25年云南拍到17只文|七月编辑|七月世界上最大的猛禽是安第斯神鹫，生活在南美洲，也是世界上飞得最高的鸟类之一。然而如果要问世界上最小的猛禽是什么，估计很多人都不知道。既然是猛禽，最起码应该是苍鹰、金雕、雪鸮之类的吧。可12 ... 世界最小12-11
【世界最小城市】仅30人！面积不如小区，千年迷你首都的生存之道在克罗地亚的群山之中，藏着一座用30秒就能走完的城市。这里登记市民仅30人，常住人口时常只有个位数，却拥有完整的城市身份、一位市长，和一部用蜂蜜审判的古老法典。城市名称：胡姆世界纪录：吉尼斯认证 “世界上 ... 世界最小12-03
比发丝还细！英国物理学家雕刻出 “世界最小”小提琴记者 | 彭昕宇近日，英国罗浮堡大学物理学家利用纳米技术，雕刻出一把号称“世界最小的小提琴”，长35微米、宽13微米，比人类头发还细。罗浮堡大学物理系主任凯利·莫里森称，雕刻这把小提琴是为测试新购入的“纳米 ... 世界最小12-01
移民中九成是中国人！全球最小发达国家，快被中国人“买”下了说起马耳他，很多中国人可能还得想想地图，这地方夹在地中海中间，国土就316平方公里，比北京朝阳区小一圈，总人口才56万出头，却已经是公认的发达国家，人均GDP超4万美元，甩国内平均水平好几条街。关键是，这几年 ... 世界最小11-12
身高仅54.6厘米！世界最小成年人钱德拉，手掌大身躯的生命奇迹在尼泊尔的偏远村庄里，曾住着一个让全世界惊叹的“生命奇迹”——钱德拉·巴哈杜尔·唐吉。他以54.6厘米的身高，被吉尼斯世界纪录认证为“世界上最小的成年人”，这个比婴儿车还矮、体重不足12斤的身躯，却装着比许 ... 世界最小11-07
震惊！你知道吗？世界上最小的鸟竟然只有一只硬币那么大！它是谁答案就是——蜂鸟中的“钩嘴蜂鸟”（Bee Hummingbird），它不仅是世界上最小的鸟，还是自然界的“微型奇迹”！小巧玲珑的“飞行宝石”——钩嘴蜂鸟体长仅约2.4厘米，比一枚硬币还要短！体重只有1.95克，几乎轻得可以 ... 世界最小11-07
世界上最小的鸟？在广袤无垠的天空中，鸟儿们以其优雅的身姿和灵动的飞行姿态，成为自然界中最迷人的生灵之一。然而，你是否曾经想过，在这些翱翔天际的羽翼之下，究竟谁才是“最迷你”的存在？很多人可能会第一时间想到麻雀、燕子之 ... 世界最小11-03
世界最小兽类再现北京！千万别捉 10月18日，一家科普教育机构在昌平区虎峪景区内开展地质和生物多样性考察活动时，意外遇到一只非常“迷你”的小动物。经现场带队的生态学者确认，这是一种《北京兽类志》中一直有记载、但很少能被人们遇见的鼩鼱（q ... 世界最小10-21
世界最小转弯半径“墨子号”TBM下线 10月16日，中国地下工程装备研制取得重大突破---由中交天和自主研制、用于山东枣庄山亭抽水蓄能电站地下工程开挖直径6.53米的“墨子号”双护盾硬岩掘进机（TBM）下线。“墨子号”凭借全球“最小转弯半径”技术，刷新 ... 世界最小10-18

相关文章

热门阅读

精选文章