技術(shù)加碼,大模型性能成倍提升
百度智能云副總裁朱勇表示,大模型技術(shù)的發(fā)展,給AI研發(fā)和應(yīng)用的范式帶來了深遠影響,主要體現(xiàn)在:
>>模型訓(xùn)練:AI應(yīng)用中的模型訓(xùn)練從以往單任務(wù)的定制化建模變成了跨任務(wù)、跨模態(tài)、跨語言的統(tǒng)一建模;
>>交互方式:人機交互方式發(fā)生了顛覆性轉(zhuǎn)變,由過去人去適應(yīng)機器,變成機器來適應(yīng)人;>>研發(fā)模式:很多應(yīng)用問題從之前的針對性編程解決變成數(shù)據(jù)驅(qū)動方式解決;
>>調(diào)度能力:大模型分解和處理復(fù)雜問題的能力以及調(diào)起和執(zhí)行外部插件的能力組合,進一步拓寬了大模型的應(yīng)用空間。
這些范式的變革,意味著產(chǎn)品開發(fā)效率更高、應(yīng)用效果更好、用戶體驗更優(yōu),也意味著產(chǎn)品創(chuàng)新的速度會大幅提升。
面對大模型時代的變革以及客戶與伙伴研發(fā)應(yīng)用的需求,基于云智一體3.0中的核心技術(shù)與產(chǎn)品組件,百度智能云打造出全球首個一站式企業(yè)級大模型平臺——文心千帆大模型平臺。它可以為企業(yè)提供包括文心一言在內(nèi)的大模型服務(wù),同時也支持第三方大模型,提供開發(fā)AI應(yīng)用的各種工具鏈及整套環(huán)境。
而搭載云智一體新一代計算基礎(chǔ)設(shè)施——百度AI大底座的能力,文心千帆大模型平臺具備業(yè)界領(lǐng)先的性能指標(biāo),其中千卡并行加速比超過90%,訓(xùn)練場景資源利用率可達70%以上,模型開發(fā)迭代效率提升100%以上。早在2021年,百度智能云就已經(jīng)在規(guī)劃全新的高性能GPU集群建設(shè),并于2022年4月落地了可以容納萬卡以上規(guī)模的IB網(wǎng)絡(luò)架構(gòu)設(shè)計,提供單集群EFLOPS級別的算力。該集群支持了文心一言的快速面世,并支撐其在兩個月的時間里在高頻場景下的推理性能提升50倍。
搜索增強,內(nèi)容生成場景更加精準(zhǔn)
百度智能云致力于為企業(yè)提供一個使用、研發(fā)或應(yīng)用大模型的最好環(huán)境,成為客戶擁抱AI的最佳途徑,讓企業(yè)和開發(fā)者以最簡單的方式用上大模型、用好大模型。
針對實際業(yè)務(wù)場景中,借助大模型生成內(nèi)容信息來源權(quán)威性和準(zhǔn)確性難以判定的核心痛點,文心千帆大模型平臺通過“搜索增強”插件,使模型的能力得到進一步拓展,將通用知識和企業(yè)知識、行業(yè)知識有機結(jié)合,助力企業(yè)一鍵生成符合業(yè)務(wù)需求的優(yōu)質(zhì)內(nèi)容。
現(xiàn)場,故事大腦創(chuàng)始人、清華大學(xué)授課嘉賓戚澤明向大家展示了協(xié)同文心千帆大模型平臺測試中的“故事大腦demo”,并從故事檢索、加工與生成以及最終成為應(yīng)用等方面介紹了搜索增強插件的效果。
接入搜索增強插件的文心千帆大模型平臺,在企業(yè)搜索場景下,可以結(jié)合企業(yè)內(nèi)部知識有效理解員工業(yè)務(wù)需求,更好地進行知識生成、查詢、摘要分析,幫助員工更快速更便捷獲取關(guān)鍵信息;在文本創(chuàng)作場景下,可以將單天創(chuàng)作時間縮短到小時級甚至分鐘級,進而實現(xiàn)降本增效。
升級再造,加速應(yīng)用全面智能化
百度智能云不僅較早完成了大模型平臺服務(wù)的技術(shù)和產(chǎn)品布局,也推動了大模型產(chǎn)業(yè)的大規(guī)模實踐;谖男拇竽P,百度智能云全面升級六大智能產(chǎn)品系列,包括:政務(wù)、金融、智能創(chuàng)作、智能客服、數(shù)字人直播平臺、企業(yè)知識管理等,未來將在安全評估完成后上線。以智能客服為例,基于大模型升級后,知識生產(chǎn)效率提升9倍,多輪對話構(gòu)建成本下降65%,可讓終端用戶獲得更聰明、更擬人的客服體驗。
在百度內(nèi)部,大模型已經(jīng)在搜索、短視頻、地圖、小度等各個實際場景中內(nèi)測,準(zhǔn)確率、召回率、滿意度等關(guān)鍵產(chǎn)品指標(biāo)都有大幅提升。百度網(wǎng)盤企業(yè)版也將基于文心大模型升級三大企業(yè)應(yīng)用:
>>在“智能文件管理”方面,將面向企業(yè)辦公常用的合同票據(jù)、設(shè)計素材等57個場景定制分類標(biāo)簽,實現(xiàn)企業(yè)文件的快速管理與查找;
>>在“智能知識理解”方面,結(jié)合文心一言的“企業(yè)知識官”服務(wù)正在內(nèi)測中,未來可通過對話式交互,對企業(yè)文件進行總結(jié)、提煉、翻譯、格式轉(zhuǎn)化;
>>除文檔、文本相關(guān)應(yīng)用外,“智能多模態(tài)加工”可實現(xiàn)商業(yè)級的圖像處理,對人像、物品進行一鍵AI摳圖、修圖、換背景。
面向有技術(shù)開發(fā)能力的企業(yè),通過智能化服務(wù)和網(wǎng)盤基礎(chǔ)的存儲和傳輸能力,百度網(wǎng)盤還可為攝影、教育、電商等多賽道提供靈活調(diào)用、貼近場景行業(yè)解決方案。
自文心一言啟動內(nèi)測后,我們已收到超15萬客戶與伙伴的接入申請,目前參與內(nèi)測的生態(tài)伙伴超過300家,包括工業(yè)、金融、政務(wù)、互聯(lián)網(wǎng)、運營商、教育等行業(yè)的頭部伙伴。文心千帆大模型平臺也已深入到辦公提效、知識管理、智能客服、智能營銷等超過400個具體場景中進行研發(fā)測試,并取得許多非常有價值的測試效果。金蝶軟件有限公司蒼穹平臺解決方案事業(yè)部總經(jīng)理徐昊表示,在中國這個大環(huán)境下,有中國自己的產(chǎn)品跟中國企業(yè)結(jié)合,去為中國的用戶服務(wù),這個大模型(文心大模型)我們認(rèn)為是可以打造出一流的智能管理系統(tǒng)的。
人工智能作為新一輪產(chǎn)業(yè)和技術(shù)革命重要驅(qū)動力量,未來發(fā)展前景廣闊。百度智能云愿攜手客戶與伙伴共享大模型時代的技術(shù)紅利,挺進產(chǎn)業(yè)智能化的“深水區(qū)”,推動國內(nèi)AI生態(tài)健康、有序的發(fā)展。