每經(jīng)記者｜楊卉    每經(jīng)編輯｜張益銘

今年年初，AI一體機批量現(xiàn)世，讓企業(yè)尤其是中小型企業(yè)部署AI和大模型的成本從動輒百萬元下探到了20萬元左右。幾個月后，這一成本有望進一步下探至數(shù)萬元級別。5月7日，以“讓AI成為創(chuàng)新生產(chǎn)力”為主題的聯(lián)想創(chuàng)新科技大會（Tech World）在上海舉辦，《每日經(jīng)濟新聞》記者現(xiàn)場參會。

會上，聯(lián)想集團展示了其在端側(cè)算力方面的最新成果——“聯(lián)想推理加速引擎”?！睹咳战?jīng)濟新聞》記者在發(fā)布會現(xiàn)場了解到，這款由聯(lián)想、清華大學(xué)及無問芯穹聯(lián)合研發(fā)的推理引擎是專為高效AI PC推理而設(shè)計的軟硬件協(xié)同優(yōu)化平臺，可讓一臺普通PC（筆記本電腦）的本地推理能力媲美OpenAI去年發(fā)布的o1-mini云端模型。

從實現(xiàn)邏輯上看，“聯(lián)想推理加速引擎”主要通過高性能并行解碼、算子融合優(yōu)化以及異構(gòu)計算技術(shù)，需與大模型推理芯片相結(jié)合，從而實現(xiàn)多種應(yīng)用場景下推理速度的提升，同時降低功耗和內(nèi)存占用。

聯(lián)想集團董事長兼CEO楊元慶在發(fā)布會現(xiàn)場稱，消費者將在即將發(fā)布的下一代AI PC上體驗到“聯(lián)想推理加速引擎”。“今天隨著AI需求的爆發(fā)式增長，端側(cè)計算和推理能力的提升將依然保持指數(shù)級增長的速度，甚至更快。未來12個月，端側(cè)AI綜合能力將實現(xiàn)至少三倍的提升，這也許不是夢想！”楊元慶稱。

《每日經(jīng)濟新聞》記者還在展臺現(xiàn)場發(fā)現(xiàn)，聯(lián)想集團此次還展示了搭載上述加速引擎的臺式電腦產(chǎn)品。據(jù)展臺現(xiàn)場工作人員介紹，該款產(chǎn)品內(nèi)置了1張中階顯卡、1張顯存擴容卡以及“聯(lián)想推理加速引擎”，整體造價約在4萬元左右，可實現(xiàn)32B大模型的本地訓(xùn)練，預(yù)計今年下半年上市，有望進一步降低金融、教育、法律等領(lǐng)域的企業(yè)用戶尤其是中小企業(yè)用戶私有化部署大模型的成本。

據(jù)上述工作人員介紹，市面上的32B大語言模型傳統(tǒng)訓(xùn)練方案的整體造價很高，如國內(nèi)某廠商的成本約在200萬元左右，最少需要8張英偉達顯卡，對中小企業(yè)來說部署成本過高。在聯(lián)想此次展示的電腦上，通過內(nèi)置的“AI Studio”軟件平臺，用戶可將自己的數(shù)據(jù)庫及個性化信息通過自選大模型（32B模型）進行訓(xùn)練，模型本地訓(xùn)練成本可下降98%。

封面圖片來源：每日經(jīng)濟新聞 資料圖