2025年被稱為“Agent 元年”,但只是把 Agent 做出來還不夠,還需要持續(xù)運(yùn)營和全生命周期管理。
4月22日,在 FORCE LINK AI 創(chuàng)新巡展·深圳站,火山引擎發(fā)布 Agent Devops 體系、AI 數(shù)據(jù)湖服務(wù),幫助企業(yè)做好 Agent 開發(fā)和運(yùn)維。會(huì)上,廣交數(shù)科、順豐等企業(yè),還分享了大模型在具體業(yè)務(wù)場景中的落地成果和實(shí)踐經(jīng)驗(yàn)。
目前,豆包大模型已在汽車、智能終端、互聯(lián)網(wǎng)、金融、教育科研、零售消費(fèi)等行業(yè)廣泛落地,覆蓋4億終端設(shè)備,如小米、OPPO、vivo、榮耀、聯(lián)想、三星等品牌;八成主流車企,如奔馳、寶馬、奧迪等;70%系統(tǒng)重要性銀行和數(shù)十家證券基金公司,如招商銀行、華泰證券等;近七成的 C9頂級高校和100多家科研院所,如中科院、北京大學(xué)等。
截至2025年3月底,豆包大模型日均 tokens 調(diào)用量已超過12.7萬億,是2024年12月的3倍,是一年前剛剛發(fā)布時(shí)的106倍。
火山引擎全棧AI服務(wù)
已落地千行百業(yè)
為了減少員工重復(fù)性工作、釋放人力潛能,廣交數(shù)科正在構(gòu)建企業(yè)數(shù)字化勞動(dòng)力,打造生產(chǎn)級智能體。
通過火山引擎 HiAgent 平臺,廣交數(shù)科在合同審核、車輛維修等多個(gè) AI 應(yīng)用場景中沉淀了實(shí)踐能力。作為技術(shù)支撐單位,廣交數(shù)科助力廣州公交集團(tuán)率先制定 AI+三年行動(dòng)方案、舉辦全國交通運(yùn)輸行業(yè)首個(gè) AI 智能體大賽、全國首個(gè)生產(chǎn)級 AI 員工批量“持證上崗”,分批次打造 AI 員工市場,率先探索“硅基員工”管理體系,讓 AI 真正走向?qū)嶋H生產(chǎn)環(huán)境。
未來,廣交數(shù)科還將與火山引擎持續(xù)深度合作,專注于企業(yè) Agent Store 和垂直大模型研發(fā),將企業(yè) AI 智能體中臺解決方案、通用價(jià)值型 AI 智能體、工具套件等相關(guān)成果面向銀行、證券、能源、住建、大交通等行業(yè)輸出,支撐企業(yè)快速實(shí)現(xiàn) AI 轉(zhuǎn)型、管理變革和競爭力重塑。
去年,順豐科技推出了針對物流行業(yè)的垂直領(lǐng)域大模型——豐語,在順豐的市場營銷、客服、收派、國際關(guān)務(wù)等業(yè)務(wù)板塊的二十余個(gè)場景中的落地實(shí)踐應(yīng)用。
而這背后,順豐借助火山引擎高性能訓(xùn)練框架 veTuner、火山引擎全自研的高效推理框架,進(jìn)行了豐語大模型的訓(xùn)練與推理,相對開源框架性能提升30%、推理最高吞吐量提升5倍,實(shí)現(xiàn)研發(fā)提效。
此外,HiAgent 為順豐提供豐富的AI應(yīng)用工具和易用的業(yè)務(wù)定制 AI 智能體生產(chǎn)平臺,助力辦公、業(yè)務(wù)提效。例如,通過結(jié)合通用知識和順豐物流專業(yè)知識,提供 AI 助理;支持零代碼/低代碼打造大模型 AI 應(yīng)用,讓順豐每個(gè)業(yè)務(wù)同學(xué)都可以定制自己的 AI 應(yīng)用。目前已累計(jì)調(diào)用500萬次,提供智能體2,000+。
Agent Devops體系發(fā)布
HiAgent助力企業(yè)構(gòu)建生產(chǎn)可用的Agent
Agent 不是一次性搭建就完成了,而是數(shù)據(jù)、工程、模型、業(yè)務(wù)四者耦合、動(dòng)態(tài)迭代的過程。
為此,火山引擎 HiAgent 平臺發(fā)布 Agent Devops 體系,為企業(yè)提供從 Agent 策略規(guī)劃、能力開發(fā)、效果評測、應(yīng)用發(fā)布、線上觀測到效果調(diào)優(yōu)的全生命周期管理,保障企業(yè) Agent 效果達(dá)到生產(chǎn)可用。
火山引擎 HiAgent 平臺 Agent Devops
例如,在策略規(guī)劃階段,火山引擎提供 AI 咨詢服務(wù),幫助企業(yè)制定體系化的 AI 路標(biāo)和商業(yè)目標(biāo)。
在應(yīng)用搭建階段,此次 HiAgent 升級應(yīng)用樣板間,支持合作伙伴發(fā)布 Agent 到應(yīng)用模板市場,并即將支持 MCP 協(xié)議;融合火山引擎最新大模型應(yīng)用防火墻能力,增強(qiáng)應(yīng)用安全性;通過場景聚合樣板間,將分散的場景模板串聯(lián)成端對端的流水樣板間,實(shí)現(xiàn)人與智能體、多智能體組成的場景應(yīng)用,并新增了政企類等行業(yè)應(yīng)用模板。
在應(yīng)用效果評測階段,HiAgent 提供模塊化、體系化、可靈活配置的評測工程流水線,支持多種評測對象、多模態(tài)多輪次評測集構(gòu)建,預(yù)置多種評估器,提供可視化的評測報(bào)告,為 Agent 調(diào)優(yōu)提供指導(dǎo)。
在應(yīng)用觀測階段,HiAgent 提供智能體和模型兩個(gè)層面的指標(biāo)監(jiān)控,以及提供完善的鏈路追蹤能力,將大模型調(diào)用過程從黑盒變?yōu)榘缀?真實(shí)還原用戶的使用場景和需求,讓效果可追溯、問題可歸因。
在交互使用階段,HiAgent 可以為企業(yè)提供1個(gè)智能體交互入口+N 個(gè)企業(yè)專屬智能體,讓一線員工能夠與企業(yè)內(nèi)部各類智能體實(shí)現(xiàn)高效協(xié)同。
AI數(shù)據(jù)湖服務(wù)發(fā)布
構(gòu)建智能數(shù)據(jù)新基建
數(shù)據(jù)是 Agent 落地的重要生產(chǎn)資料,傳統(tǒng)數(shù)據(jù)平臺面臨非結(jié)構(gòu)化數(shù)據(jù)處理能力不足、算力瓶頸、存儲(chǔ)分散等諸多挑戰(zhàn)。
火山引擎多模態(tài)數(shù)據(jù)湖解決方案是面向 AI 時(shí)代的智能數(shù)據(jù)新基建,完整覆蓋湖計(jì)算、湖存儲(chǔ)、湖管理、湖分析等功能場景,可幫助企業(yè)在數(shù)據(jù)建設(shè)全鏈路過程中,實(shí)現(xiàn)文本、圖像、音視頻等非結(jié)構(gòu)化數(shù)據(jù)資產(chǎn)的統(tǒng)一精細(xì)化管理,為模型預(yù)訓(xùn)練、后訓(xùn)練、 AI 應(yīng)用構(gòu)建與開發(fā)提供端到端的智能數(shù)據(jù)服務(wù)。
本次活動(dòng)中,火山引擎發(fā)布了全新的火山引擎 AI 數(shù)據(jù)湖服務(wù)(Lake AI Service,簡稱 LAS)。作為多模態(tài)數(shù)據(jù)湖方案中的重要產(chǎn)品,LAS 能夠幫助客戶快速構(gòu)建新一代 AI 數(shù)據(jù)湖,高效存儲(chǔ)、管理和處理多模態(tài)數(shù)據(jù)(文本、圖像、音視頻等)。
在產(chǎn)品協(xié)同性上,LAS 鏈接了云上的多種基礎(chǔ)設(shè)施,同時(shí)可以和火山引擎近期發(fā)布的 veMLP 機(jī)器學(xué)習(xí)平臺、火山方舟平臺高效協(xié)同,支持?jǐn)?shù)據(jù)準(zhǔn)備、模型微調(diào)等場景,加速 AI 落地。
從實(shí)際客戶案例來看,某企業(yè)借助火山引擎 AI 數(shù)據(jù)湖服務(wù)和豆包大模型實(shí)現(xiàn)文本翻譯提效,數(shù)據(jù)處理上實(shí)現(xiàn)了零代碼操作,開發(fā)周期縮短70%,翻譯準(zhǔn)確率提升20%,資源成本降低80%以上。
隨著云計(jì)算、開源生態(tài)和模型優(yōu)化技術(shù)的發(fā)展,火山引擎攜手英特爾,以更加卓越的云計(jì)算服務(wù)性能和效率,令“算力普惠”逐漸成為現(xiàn)實(shí)。例如,火山引擎第四代通用計(jì)算型實(shí)例 g4il 搭載內(nèi)置有 AI 加速器「高級矩陣擴(kuò)展」(AMX)的英特爾®至強(qiáng)®6性能核處理器,幫助開發(fā)者對模型進(jìn)行性能優(yōu)化。雙方還基于 g4il 推出“開源大模型應(yīng)用-知識庫問答”應(yīng)用鏡像,支持快速完成大模型應(yīng)用開發(fā)環(huán)境搭建,在幾分鐘內(nèi)創(chuàng)建大模型應(yīng)用。 |