一、成果簡介：智道企業(yè)級大模型應用開發(fā)平臺，由中國科學院合肥物質院智能所謝成軍與張潔團隊研發(fā)。該平臺專注于為企業(yè)級大模型應用提供一套全面的大語言模型（LLM）開發(fā)工具鏈，以及量身定制的端到端解決方案。平臺建設目標是助力企業(yè)用戶（包括事業(yè)單位、高校、科研院所等機構）迅速構建通用大模型的垂直應用，賦能并加速大模型在數智應用開發(fā)領域的落地實施。 

　　平臺功能包括： 

　　（1）開發(fā)組件與流程編排：包括數百種開發(fā)組件，以應對復雜業(yè)務場景，能夠融合大模型、專業(yè)小模型、規(guī)則引擎能力以及實現業(yè)務流程編排（智能體），幫助企業(yè)構造完備、可控的應用系統； 

　　（2）檢索增強生成：針對私域知識、實時知識等進行知識庫構建及檢索增強問答、生成等能力； 

　　（3）通用文檔解析：提供高質量通用文檔解析能力，包含版式分析、表格識別、圖片識別、文字識別、公式識別等； 

　　（4）非結構化數據治理：借助通用KeyValue信息提取大模型，實現高效、高精度的非結構化數據治理； 

　　（5）大模型微調：支持全量微調、freeze微調、lora微調，預置主流Finetune微調數據集，提供微調訓練數據集自動生成工具。 

　　二、主要技術指標：

　?。?）支持主流開源模型微調和私有化部署，包括ChatGLM、Baichuan、Llama、Qwen、Yi、internlm等數十種私有化大模型； 

　?。?）支持主流模型推理后端：huggingface、vllm、llamacpp、ollama，支持int4/int8/FP16多種推理模式，并針對量化精度和量化性能針對性優(yōu)化； 

　　（3）支持基于Embedding的語義檢索、基于關鍵詞的BM25檢索、基于知識圖譜的圖檢索以及多種方案混合檢索，檢索召回達到90%以上。 

　　三、應用領域和場景：面向企業(yè)、事業(yè)單位、高校、科研院所等機構的數智化轉型應用需求，提供知識管理（非結構化數據治理）、數據分析（通用數據分析輔助、智能看板）、智能問答（基于知識庫、接口調用）、內容審核（內容重復性審查、合理性審查、邏輯性審查）、報告生成（日/周/月報、工作總結/報告）等應用場景。 

　　四、市場前景：2023年12月，國家數據局等17部門聯合印發(fā)《“數據要素×”三年行動計劃（2024—2026年）》，將大力支持開展通用人工智能大模型和垂直領域人工智能大模型訓練。2023年10月，安徽省政府印發(fā)《安徽省通用人工智能創(chuàng)新發(fā)展三年行動計劃（2023—2025年）》，指出要加快研發(fā)基于我省認知智能大模型底座的垂直行業(yè)大模型，加快應用技術的持續(xù)突破和優(yōu)化，提升行業(yè)大模型的應用效果。 

　　在各級政府政策支持下，同時伴隨著數字化轉型的加速以及人工智能技術的發(fā)展，越來越多的企業(yè)開始尋求通過智能化手段提升業(yè)務效率和競爭力?！爸堑馈逼髽I(yè)級大模型應用開發(fā)平臺應運而生。該平臺具備低成本、高效率、易集成的優(yōu)勢，能夠幫助企業(yè)快速構建通用大模型的垂直應用，將成為企業(yè)實現智能化轉型的重要工具，因此具有廣闊的市場前景。 

　　五、擬轉化的方式：平臺授權使用、定制化開發(fā)、技術合作或其他模式。（聯系人：張潔，聯系電話：13956901966）。 

　　六、相關圖片：

 

基于組件的流程編排樣例

基于知識庫、數據庫的數據分析樣例