全國首個區域定製大模型免費開源 貴陽貴安打造「用得起、用得好」AI大模型
近日,全國首個面向特定區域深度定製的大模型,貴陽貴安通用基礎數據微調大模型(DeepSeek-R1-Distill-Qwen-32B-GuiyangGuian-lora-v1.5)正式面向社會免費開源。
研發該模型的貴州算家計算服務有限公司AI團隊負責人李紅麗介紹,基於國產領先大模型DeepSeek-R1精調,深度融合了貴陽貴安本地政務、產業、民生等六大領域數據,顯著提升了對本地化知識的理解和回答能力。
據了解,該模型的最大亮點在於其極低的部署門檻,僅需4張消費級顯卡,總成本低於20萬元(人民幣),即可支撐50+用戶併發訪問,讓區域政企真正「用得起、用得好」AI大模型。此舉標誌着城市級AI應用邁入集約化、低成本落地新階段。
目前,該模型已同步上線至算家雲平台「鏡像社區」,並同步開源至Modelscope、Hugging Face、GitHub等平台(搜索「suanjia」)。
算家計算公司總工程師仝天樂說,該模型採用創新的「微調」技術,特別是輕量化適配技術LoRA進行優化,在保留原DeepSeek-R1模型強大通用能力的基礎上,通過「學習」大量貴陽貴安獨有的政策文件、產業報告、民生服務信息等本地化數據,使其特別擅長理解和回答與本地相關的問題。
最新測試表明,經過本地化精調的模型,在回答涉及貴陽貴安的具體問題時,效果不僅超越了原版DeepSeek-R1-32B模型,更達到了與更大規模的DeepSeek-R1-671B官方模型相當的水平,實現了區域知識的精準覆蓋與動態響應。
貴陽貴安地區的政府部門和企事業單位可以直接利用該模型作為「區域性AI基座」,用於應用開發或基於本地知識庫的推理訓練。這不僅有效避免了區域內AI基礎設施的重複建設,還能減少了算力消耗,提高響應效率。
該模型的成功實踐驗證了「開源模型+本地適配+算力共享」的可持續發展模式。算家計算倡議更多擁有計算資源的企業開放其訓練的、具備社會價值的模型,並共享閑置算力,群策群力構建區域協同、低碳高效的綠色AI生態,共促綠色算力經濟發展。
算家計算總經理楊家維表示,作為扎根貴州的AI企業,算家計算始終踐行「AI即服務」理念,依託貴陽貴安在大數據、人工智能領域的戰略優勢及豐富的數據資源,致力於推動AI技術普惠。未來,公司將持續深化本地需求,逐步啟動「貴州基礎數據大模型」「貴州農業數據大模型」及「貴州文旅數據大模型」三大專項研發,通過開源共享的創新協同模式,持續降低AI應用門檻,為繁榮區域AI生態、助力貴陽貴安打造「集約化AI」新範式貢獻力量。
【發布】大公文匯國際傳播中心
【採寫】黃鋒
【編輯】丁潔芸(見習)
【初審】田欣妍
【終審】鍾俊峰

字號:

評論