一款名為Tiiny AI Pocket Lab的外接設備在Kickstarter眾籌平臺引發關注，上線僅5小時便突破百萬美元大關，截至統計時籌得295萬美元，獲得2093名支持者。這款售價1399美元起的產品，在AI PC尚未普及的背景下，意外成為市場焦點。其核心邏輯是為本地AI需求提供輕量化解決方案，填補了當前硬件市場的空白。
傳統方案中，用戶若想運行本地大模型，需面臨多重困境：高端AI PC價格昂貴，普通設備部署復雜，云端服務存在隱私與成本隱患。Tiiny AI選擇另辟蹊徑，將產品定位為“專用AI外接盒子”，不承擔日常辦公或娛樂功能，僅專注于100B級別模型的本地推理。這種設計類似為電腦外接移動硬盤，通過簡化功能降低用戶決策門檻。
技術層面，該設備采用異構算力架構，通過PowerInfer推理加速引擎實現冷熱參數分離。其中，20%的核心參數（熱激活）由專用dNPU處理，剩余80%的領域特定參數（冷激活）則交由SoC運算。這種設計使設備在30W功耗下達到190TOPS算力，實測120B模型預填充速度達300 tokens/s，解碼速度20 tokens/s，性能接近高端工作站水平。
市場定位上，產品精準切入三類用戶需求：金融法律等行業的隱私敏感數據處理、極客玩家的多任務算力分配、消費級設備的體驗升級。相比樹莓派等開發板，其優勢在于開箱即用的一鍵部署功能；較之Jetson系列，則通過優化芯片組合將成本壓縮至三分之一。設備支持Mac、Windows及自組臺式機，通過USB-C接口即可擴展AI能力。
爭議伴隨熱度而來。行業觀察者指出，其宣稱的“120B模型”實際采用MoE架構，單token激活參數僅51億，與全參數模型存在技術差異；190TOPS算力系不同計算單元峰值相加，存在理論優化空間。針對內存帶寬質疑，團隊回應稱冷熱參數合并傳輸量僅5.625KB，遠低于PCIe Gen4 x4的8GB/s帶寬上限，不會成為性能瓶頸。
量產計劃顯示，產品將于8月啟動交付。研發周期已持續13個月，目前正在推進FCC、CE等國際認證，預計6月底完成合規流程。生產環節與全球PC制造龍頭LCFC合作，在越南工廠采用成熟品控體系。這種“軟件定義硬件”的策略，使團隊無需依賴高端芯片供應，通過算法優化實現性能突破。
在AI硬件賽道，專用設備與通用計算的路線之爭愈發明顯。Tiiny AI的選擇代表了一種中間形態：既非取代AI PC，也不局限于開發板范疇，而是通過精準場景定位開辟新賽道。其成功與否，將取決于專業用戶對本地化AI的接受程度，以及技術方案能否持續應對更大參數模型的挑戰。
