12月11日消息,吉尼美國初創(chuàng)公司Tiiny Lab推出了其最新產品Pocket Lab,證全這是球最一款專為個人LLM設計、主打完全離線運行的小迷“口袋AI超級計算機”。
這款設備憑借其極其緊湊的超算尺寸和強大的硬件配置,在“最小迷你PC(本地運行100B參數LLM)”類別下獲得了吉尼斯世界紀錄的發(fā)布官方認證。
Pocket Lab尺寸僅為14.2 x 8 x 2.5厘米,搭載重量約300克,內存內部配置也很強大:
處理器:基于ARM v9.2架構的吉尼12核ARM CPU。
AI算力:定制異構模塊(SoC + dNPU),證全提供約190 TOPS的球最總AI算力。
內存與存儲:配備了高達80GB的小迷LPDDR5X內存(其中48GB專用于NPU)和1TB SSD。
功耗:典型系統(tǒng)功耗為65W。超算
Pocket Lab最大的發(fā)布亮點在于,其能夠完全在本地離線狀態(tài)下運行高達1200億參數的搭載大模型,打破了以往對云端、服務器或高端GPU的依賴。
該公司通過TurboSparse(神經元級稀疏激活技術)和PowerInfer(開源異構推理引擎)等技術,實現了在低功耗下達到近似服務器級的性能,尤其針對10B至100B參數的個人AI “黃金區(qū)間”進行了優(yōu)化。
Pocket Lab支持一鍵安裝包括Llama、Qwen、DeepSeek、Mistral、Phi和OpenAI GPT-OSS在內的多種主流開源模型,并支持OpenManus、ComfyUI等AI Agent框架。
Tiiny AI確認,這些軟件功能和OTA硬件升級將在2026年1月的CES展會上正式發(fā)布,該產品的定價細節(jié)目前仍未公布。


相關文章




精彩導讀
熱門資訊
關注我們