亚洲人成免费,国产精品色在线网站,亚洲精品久久久一线二线三线,国产欧美久久久,中文字幕av一区二区三区人,三级国产毛片,美女被麻豆免费网站

您當(dāng)前的位置是:  首頁 > 技術(shù) > 技術(shù)動態(tài) >
 首頁 > 技術(shù) > 技術(shù)動態(tài) > 推理性能提升50倍,大模型應(yīng)用場景加速擴展

推理性能提升50倍,大模型應(yīng)用場景加速擴展

2023-05-24 11:22:01   作者:   來源:C114通信網(wǎng)   評論:0  點擊:


  文心大模型技術(shù)交流會自3月27日以來,陸續(xù)在全國各地面向客戶和伙伴開展,5月23日第四場落地深圳。隨著大模型技術(shù)的深入發(fā)展,催生了AI研發(fā)和應(yīng)用的新范式、新性能和新場景。在文心千帆大模型平臺支撐下,通過四層架構(gòu)端到端優(yōu)化,文心一言在高頻場景中的推理性能較上月進一步提升5倍。這意味著從內(nèi)測至今,文心一言在高頻場景下的推理性能已提升50倍。

  技術(shù)加碼,大模型性能成倍提升

  百度智能云副總裁朱勇表示,大模型技術(shù)的發(fā)展,給AI研發(fā)和應(yīng)用的范式帶來了深遠影響,主要體現(xiàn)在:

  >>模型訓(xùn)練:AI應(yīng)用中的模型訓(xùn)練從以往單任務(wù)的定制化建模變成了跨任務(wù)、跨模態(tài)、跨語言的統(tǒng)一建模;

  >>交互方式:人機交互方式發(fā)生了顛覆性轉(zhuǎn)變,由過去人去適應(yīng)機器,變成機器來適應(yīng)人;>>研發(fā)模式:很多應(yīng)用問題從之前的針對性編程解決變成數(shù)據(jù)驅(qū)動方式解決;

  >>調(diào)度能力:大模型分解和處理復(fù)雜問題的能力以及調(diào)起和執(zhí)行外部插件的能力組合,進一步拓寬了大模型的應(yīng)用空間。

  這些范式的變革,意味著產(chǎn)品開發(fā)效率更高、應(yīng)用效果更好、用戶體驗更優(yōu),也意味著產(chǎn)品創(chuàng)新的速度會大幅提升。

  面對大模型時代的變革以及客戶與伙伴研發(fā)應(yīng)用的需求,基于云智一體3.0中的核心技術(shù)與產(chǎn)品組件,百度智能云打造出全球首個一站式企業(yè)級大模型平臺——文心千帆大模型平臺。它可以為企業(yè)提供包括文心一言在內(nèi)的大模型服務(wù),同時也支持第三方大模型,提供開發(fā)AI應(yīng)用的各種工具鏈及整套環(huán)境。

  而搭載云智一體新一代計算基礎(chǔ)設(shè)施——百度AI大底座的能力,文心千帆大模型平臺具備業(yè)界領(lǐng)先的性能指標(biāo),其中千卡并行加速比超過90%,訓(xùn)練場景資源利用率可達70%以上,模型開發(fā)迭代效率提升100%以上。早在2021年,百度智能云就已經(jīng)在規(guī)劃全新的高性能GPU集群建設(shè),并于2022年4月落地了可以容納萬卡以上規(guī)模的IB網(wǎng)絡(luò)架構(gòu)設(shè)計,提供單集群EFLOPS級別的算力。該集群支持了文心一言的快速面世,并支撐其在兩個月的時間里在高頻場景下的推理性能提升50倍。

  搜索增強,內(nèi)容生成場景更加精準(zhǔn)

  百度智能云致力于為企業(yè)提供一個使用、研發(fā)或應(yīng)用大模型的最好環(huán)境,成為客戶擁抱AI的最佳途徑,讓企業(yè)和開發(fā)者以最簡單的方式用上大模型、用好大模型。

  針對實際業(yè)務(wù)場景中,借助大模型生成內(nèi)容信息來源權(quán)威性和準(zhǔn)確性難以判定的核心痛點,文心千帆大模型平臺通過“搜索增強”插件,使模型的能力得到進一步拓展,將通用知識和企業(yè)知識、行業(yè)知識有機結(jié)合,助力企業(yè)一鍵生成符合業(yè)務(wù)需求的優(yōu)質(zhì)內(nèi)容。

  現(xiàn)場,故事大腦創(chuàng)始人、清華大學(xué)授課嘉賓戚澤明向大家展示了協(xié)同文心千帆大模型平臺測試中的“故事大腦demo”,并從故事檢索、加工與生成以及最終成為應(yīng)用等方面介紹了搜索增強插件的效果。

  接入搜索增強插件的文心千帆大模型平臺,在企業(yè)搜索場景下,可以結(jié)合企業(yè)內(nèi)部知識有效理解員工業(yè)務(wù)需求,更好地進行知識生成、查詢、摘要分析,幫助員工更快速更便捷獲取關(guān)鍵信息;在文本創(chuàng)作場景下,可以將單天創(chuàng)作時間縮短到小時級甚至分鐘級,進而實現(xiàn)降本增效。

  升級再造,加速應(yīng)用全面智能化

  百度智能云不僅較早完成了大模型平臺服務(wù)的技術(shù)和產(chǎn)品布局,也推動了大模型產(chǎn)業(yè)的大規(guī)模實踐;谖男拇竽P,百度智能云全面升級六大智能產(chǎn)品系列,包括:政務(wù)、金融、智能創(chuàng)作、智能客服、數(shù)字人直播平臺、企業(yè)知識管理等,未來將在安全評估完成后上線。以智能客服為例,基于大模型升級后,知識生產(chǎn)效率提升9倍,多輪對話構(gòu)建成本下降65%,可讓終端用戶獲得更聰明、更擬人的客服體驗。

  在百度內(nèi)部,大模型已經(jīng)在搜索、短視頻、地圖、小度等各個實際場景中內(nèi)測,準(zhǔn)確率、召回率、滿意度等關(guān)鍵產(chǎn)品指標(biāo)都有大幅提升。百度網(wǎng)盤企業(yè)版也將基于文心大模型升級三大企業(yè)應(yīng)用:

  >>在“智能文件管理”方面,將面向企業(yè)辦公常用的合同票據(jù)、設(shè)計素材等57個場景定制分類標(biāo)簽,實現(xiàn)企業(yè)文件的快速管理與查找;

  >>在“智能知識理解”方面,結(jié)合文心一言的“企業(yè)知識官”服務(wù)正在內(nèi)測中,未來可通過對話式交互,對企業(yè)文件進行總結(jié)、提煉、翻譯、格式轉(zhuǎn)化;

  >>除文檔、文本相關(guān)應(yīng)用外,“智能多模態(tài)加工”可實現(xiàn)商業(yè)級的圖像處理,對人像、物品進行一鍵AI摳圖、修圖、換背景。

  面向有技術(shù)開發(fā)能力的企業(yè),通過智能化服務(wù)和網(wǎng)盤基礎(chǔ)的存儲和傳輸能力,百度網(wǎng)盤還可為攝影、教育、電商等多賽道提供靈活調(diào)用、貼近場景行業(yè)解決方案。

  自文心一言啟動內(nèi)測后,我們已收到超15萬客戶與伙伴的接入申請,目前參與內(nèi)測的生態(tài)伙伴超過300家,包括工業(yè)、金融、政務(wù)、互聯(lián)網(wǎng)、運營商、教育等行業(yè)的頭部伙伴。文心千帆大模型平臺也已深入到辦公提效、知識管理、智能客服、智能營銷等超過400個具體場景中進行研發(fā)測試,并取得許多非常有價值的測試效果。金蝶軟件有限公司蒼穹平臺解決方案事業(yè)部總經(jīng)理徐昊表示,在中國這個大環(huán)境下,有中國自己的產(chǎn)品跟中國企業(yè)結(jié)合,去為中國的用戶服務(wù),這個大模型(文心大模型)我們認(rèn)為是可以打造出一流的智能管理系統(tǒng)的。

  人工智能作為新一輪產(chǎn)業(yè)和技術(shù)革命重要驅(qū)動力量,未來發(fā)展前景廣闊。百度智能云愿攜手客戶與伙伴共享大模型時代的技術(shù)紅利,挺進產(chǎn)業(yè)智能化的“深水區(qū)”,推動國內(nèi)AI生態(tài)健康、有序的發(fā)展。

【免責(zé)聲明】本文僅代表作者本人觀點,與CTI論壇無關(guān)。CTI論壇對文中陳述、觀點判斷保持中立,不對所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔(dān)全部責(zé)任。

相關(guān)閱讀:

專題

CTI論壇會員企業(yè)