12月11日消息,吉尼美國初創(chuàng)公司Tiiny Lab推出了其最新產(chǎn)品Pocket Lab,證全這是球最一款專為個(gè)人LLM設(shè)計(jì)、主打完全離線運(yùn)行的小迷“口袋AI超級計(jì)算機(jī)”。
這款設(shè)備憑借其極其緊湊的超算尺寸和強(qiáng)大的硬件配置,在“最小迷你PC(本地運(yùn)行100B參數(shù)LLM)”類別下獲得了吉尼斯世界紀(jì)錄的發(fā)布官方認(rèn)證。
Pocket Lab尺寸僅為14.2 x 8 x 2.5厘米,搭載重量約300克,內(nèi)存內(nèi)部配置也很強(qiáng)大:
處理器:基于ARM v9.2架構(gòu)的吉尼12核ARM CPU。
AI算力:定制異構(gòu)模塊(SoC + dNPU),證全提供約190 TOPS的球最總AI算力。
內(nèi)存與存儲:配備了高達(dá)80GB的小迷LPDDR5X內(nèi)存(其中48GB專用于NPU)和1TB SSD。
功耗:典型系統(tǒng)功耗為65W。超算
Pocket Lab最大的發(fā)布亮點(diǎn)在于,其能夠完全在本地離線狀態(tài)下運(yùn)行高達(dá)1200億參數(shù)的搭載大模型,打破了以往對云端、服務(wù)器或高端GPU的依賴。
該公司通過TurboSparse(神經(jīng)元級稀疏激活技術(shù))和PowerInfer(開源異構(gòu)推理引擎)等技術(shù),實(shí)現(xiàn)了在低功耗下達(dá)到近似服務(wù)器級的性能,尤其針對10B至100B參數(shù)的個(gè)人AI “黃金區(qū)間”進(jìn)行了優(yōu)化。
Pocket Lab支持一鍵安裝包括Llama、Qwen、DeepSeek、Mistral、Phi和OpenAI GPT-OSS在內(nèi)的多種主流開源模型,并支持OpenManus、ComfyUI等AI Agent框架。
Tiiny AI確認(rèn),這些軟件功能和OTA硬件升級將在2026年1月的CES展會(huì)上正式發(fā)布,該產(chǎn)品的定價(jià)細(xì)節(jié)目前仍未公布。


相關(guān)文章




精彩導(dǎo)讀
熱門資訊
關(guān)注我們