IBM 近日正式推出了 Granite4.01B Speech。這是一款專為邊緣計(jì)算和企業(yè)級(jí)部署設(shè)計(jì)的緊湊型語(yǔ)音語(yǔ)言模型，旨在提供高效率的多語(yǔ)種自動(dòng)語(yǔ)音識(shí)別（ASR）與雙向自動(dòng)語(yǔ)音翻譯(AST)能力。

與前代版本相比，Granite4.01B Speech 的參數(shù)量?jī)H為上一代模型的一半，但在性能上實(shí)現(xiàn)了顯著躍升。新模型不僅增加了對(duì)日語(yǔ) ASR 的支持，還引入了關(guān)鍵詞偏置功能，并大幅提升了英文轉(zhuǎn)錄的準(zhǔn)確率。其核心設(shè)計(jì)目標(biāo)是在不犧牲核心能力的前提下，極大地降低內(nèi)存占用、推理延遲和計(jì)算成本。

該模型采用了創(chuàng)新的“兩階段設(shè)計(jì)”架構(gòu)。系統(tǒng)首先將音頻轉(zhuǎn)換為文本，隨后通過(guò)專門的 Granite 語(yǔ)言模型進(jìn)行推理處理。這種模塊化設(shè)計(jì)允許開(kāi)發(fā)者根據(jù)需求靈活編排流程。目前，該模型已支持包括英語(yǔ)、法語(yǔ)、德語(yǔ)、西班牙語(yǔ)、葡萄牙語(yǔ)和日語(yǔ)在內(nèi)的多語(yǔ)種互譯，并能處理英語(yǔ)對(duì)中文（普通話）的翻譯任務(wù)。

在性能測(cè)試中，Granite4.01B Speech 表現(xiàn)出色，位居 OpenASR 排行榜首位，平均字錯(cuò)率（WER）僅為5.52。目前，IBM 已根據(jù) Apache2.0協(xié)議正式開(kāi)源該模型，開(kāi)發(fā)者可通過(guò) Transformers 或 vLLM 等主流框架進(jìn)行本地部署，為資源受限的移動(dòng)端或邊緣設(shè)備提供強(qiáng)勁的 AI 語(yǔ)音支持。

項(xiàng)目:https://huggingface.co/ibm-granite/granite-4.0-1b-speech