樹莓派（Raspberry Pi Ltd.）近日推出了一款專為樹莓派 5 設計的生成式人工智能擴展板——Raspberry Pi AI HAT+ 2，定價 130 美元（約合人民幣 908.1 元）。這款新品旨在填補樹莓派硬件生態(tài)在生成式人工智能（GenAI）領域的空白，為用戶提供本地化的大語言模型（LLM）和視覺語言模型（VLM）運行能力。
一年前，樹莓派曾發(fā)布初代 AI HAT+，但由于硬件架構限制，無法支持日益普及的生成式模型。此次推出的二代產(chǎn)品通過硬件升級，專門針對樹莓派 5 優(yōu)化，核心目標是讓用戶無需依賴云端服務，即可在邊緣設備上實現(xiàn)高效、私密的 AI 計算。這一改進顯著降低了生成式 AI 的使用門檻，為開發(fā)者提供了更多可能性。
在硬件配置方面，AI HAT+ 2 搭載了全新的 Hailo-10H 神經(jīng)網(wǎng)絡加速器，可提供最高 40 TOPS（INT4）的推理性能。與前代產(chǎn)品相比，新品最大的升級是配備了 8GB 板載專用內存。這一改進使得加速器能夠高效處理更大規(guī)模的模型，不僅支持 LLM 的流暢運行，在處理 Yolo 等傳統(tǒng)視覺任務時，性能也與前代 26-TOPS 版本相當，同時兼容現(xiàn)有的 libcamera 等攝像頭軟件棧。
軟件適配方面，AI HAT+ 2 首發(fā)即支持多款熱門開源模型，包括 DeepSeek-R1-Distill (1.5B)、Llama 3.2 (1B) 以及 Qwen2.5 系列（Coder / Instruct）。用戶可以通過 Hailo-ollama 后端與 Open WebUI 前端的配合，在瀏覽器中獲得類似 ChatGPT 的聊天交互體驗。官方演示顯示，該設備在完全斷網(wǎng)環(huán)境下，能夠流暢執(zhí)行代碼編寫、法英翻譯以及實時描述攝像頭畫面等任務。
具體應用場景中，AI HAT+ 2 展現(xiàn)了強大的多任務處理能力。例如，使用 Qwen2 模型可以回答簡單問題；Qwen2.5-Coder 模型能夠執(zhí)行編碼任務；Qwen2 模型還可實現(xiàn)法英翻譯；在視覺語言任務中，該設備可以實時描述攝像頭捕捉的畫面。這些功能均通過本地計算完成，無需依賴網(wǎng)絡連接，進一步提升了數(shù)據(jù)隱私性和響應速度。
