技術加碼,大模型性能成倍提升
百度智能云副總裁朱勇表示,大模型技術的發(fā)展,給AI研發(fā)和應用的范式帶來了深遠影響,主要體現(xiàn)在:
>>模型訓練:AI應用中的模型訓練從以往單任務的定制化建模變成了跨任務、跨模態(tài)、跨語言的統(tǒng)一建模;
>>交互方式:人機交互方式發(fā)生了顛覆性轉變,由過去人去適應機器,變成機器來適應人;>>研發(fā)模式:很多應用問題從之前的針對性編程解決變成數(shù)據(jù)驅動方式解決;
>>調(diào)度能力:大模型分解和處理復雜問題的能力以及調(diào)起和執(zhí)行外部插件的能力組合,進一步拓寬了大模型的應用空間。
這些范式的變革,意味著產(chǎn)品開發(fā)效率更高、應用效果更好、用戶體驗更優(yōu),也意味著產(chǎn)品創(chuàng)新的速度會大幅提升。
面對大模型時代的變革以及客戶與伙伴研發(fā)應用的需求,基于云智一體3.0中的核心技術與產(chǎn)品組件,百度智能云打造出全球首個一站式企業(yè)級大模型平臺——文心千帆大模型平臺。它可以為企業(yè)提供包括文心一言在內(nèi)的大模型服務,同時也支持第三方大模型,提供開發(fā)AI應用的各種工具鏈及整套環(huán)境。
而搭載云智一體新一代計算基礎設施——百度AI大底座的能力,文心千帆大模型平臺具備業(yè)界領先的性能指標,其中千卡并行加速比超過90%,訓練場景資源利用率可達70%以上,模型開發(fā)迭代效率提升100%以上。早在2021年,百度智能云就已經(jīng)在規(guī)劃全新的高性能GPU集群建設,并于2022年4月落地了可以容納萬卡以上規(guī)模的IB網(wǎng)絡架構設計,提供單集群EFLOPS級別的算力。該集群支持了文心一言的快速面世,并支撐其在兩個月的時間里在高頻場景下的推理性能提升50倍。
搜索增強,內(nèi)容生成場景更加精準
百度智能云致力于為企業(yè)提供一個使用、研發(fā)或應用大模型的最好環(huán)境,成為客戶擁抱AI的最佳途徑,讓企業(yè)和開發(fā)者以最簡單的方式用上大模型、用好大模型。
針對實際業(yè)務場景中,借助大模型生成內(nèi)容信息來源權威性和準確性難以判定的核心痛點,文心千帆大模型平臺通過“搜索增強”插件,使模型的能力得到進一步拓展,將通用知識和企業(yè)知識、行業(yè)知識有機結合,助力企業(yè)一鍵生成符合業(yè)務需求的優(yōu)質內(nèi)容。
現(xiàn)場,故事大腦創(chuàng)始人、清華大學授課嘉賓戚澤明向大家展示了協(xié)同文心千帆大模型平臺測試中的“故事大腦demo”,并從故事檢索、加工與生成以及最終成為應用等方面介紹了搜索增強插件的效果。
接入搜索增強插件的文心千帆大模型平臺,在企業(yè)搜索場景下,可以結合企業(yè)內(nèi)部知識有效理解員工業(yè)務需求,更好地進行知識生成、查詢、摘要分析,幫助員工更快速更便捷獲取關鍵信息;在文本創(chuàng)作場景下,可以將單天創(chuàng)作時間縮短到小時級甚至分鐘級,進而實現(xiàn)降本增效。
升級再造,加速應用全面智能化
百度智能云不僅較早完成了大模型平臺服務的技術和產(chǎn)品布局,也推動了大模型產(chǎn)業(yè)的大規(guī)模實踐;谖男拇竽P,百度智能云全面升級六大智能產(chǎn)品系列,包括:政務、金融、智能創(chuàng)作、智能客服、數(shù)字人直播平臺、企業(yè)知識管理等,未來將在安全評估完成后上線。以智能客服為例,基于大模型升級后,知識生產(chǎn)效率提升9倍,多輪對話構建成本下降65%,可讓終端用戶獲得更聰明、更擬人的客服體驗。
在百度內(nèi)部,大模型已經(jīng)在搜索、短視頻、地圖、小度等各個實際場景中內(nèi)測,準確率、召回率、滿意度等關鍵產(chǎn)品指標都有大幅提升。百度網(wǎng)盤企業(yè)版也將基于文心大模型升級三大企業(yè)應用:
>>在“智能文件管理”方面,將面向企業(yè)辦公常用的合同票據(jù)、設計素材等57個場景定制分類標簽,實現(xiàn)企業(yè)文件的快速管理與查找;
>>在“智能知識理解”方面,結合文心一言的“企業(yè)知識官”服務正在內(nèi)測中,未來可通過對話式交互,對企業(yè)文件進行總結、提煉、翻譯、格式轉化;
>>除文檔、文本相關應用外,“智能多模態(tài)加工”可實現(xiàn)商業(yè)級的圖像處理,對人像、物品進行一鍵AI摳圖、修圖、換背景。
面向有技術開發(fā)能力的企業(yè),通過智能化服務和網(wǎng)盤基礎的存儲和傳輸能力,百度網(wǎng)盤還可為攝影、教育、電商等多賽道提供靈活調(diào)用、貼近場景行業(yè)解決方案。
自文心一言啟動內(nèi)測后,我們已收到超15萬客戶與伙伴的接入申請,目前參與內(nèi)測的生態(tài)伙伴超過300家,包括工業(yè)、金融、政務、互聯(lián)網(wǎng)、運營商、教育等行業(yè)的頭部伙伴。文心千帆大模型平臺也已深入到辦公提效、知識管理、智能客服、智能營銷等超過400個具體場景中進行研發(fā)測試,并取得許多非常有價值的測試效果。金蝶軟件有限公司蒼穹平臺解決方案事業(yè)部總經(jīng)理徐昊表示,在中國這個大環(huán)境下,有中國自己的產(chǎn)品跟中國企業(yè)結合,去為中國的用戶服務,這個大模型(文心大模型)我們認為是可以打造出一流的智能管理系統(tǒng)的。
人工智能作為新一輪產(chǎn)業(yè)和技術革命重要驅動力量,未來發(fā)展前景廣闊。百度智能云愿攜手客戶與伙伴共享大模型時代的技術紅利,挺進產(chǎn)業(yè)智能化的“深水區(qū)”,推動國內(nèi)AI生態(tài)健康、有序的發(fā)展。