黄大色黄大片女爽一次,丁香一区二区三区,精品一区日韩,www.国产网站,日韩欧美视频在线播放,性视频久久,欧美日日日日bbbbb视频

您當前的位置是:  首頁 > 技術 > 技術動態(tài) >
 首頁 > 技術 > 技術動態(tài) > 推理性能提升50倍,大模型應用場景加速擴展

推理性能提升50倍,大模型應用場景加速擴展

2023-05-24 11:22:01   作者:   來源:C114通信網(wǎng)   評論:0  點擊:


  文心大模型技術交流會自3月27日以來,陸續(xù)在全國各地面向客戶和伙伴開展,5月23日第四場落地深圳。隨著大模型技術的深入發(fā)展,催生了AI研發(fā)和應用的新范式、新性能和新場景。在文心千帆大模型平臺支撐下,通過四層架構端到端優(yōu)化,文心一言在高頻場景中的推理性能較上月進一步提升5倍。這意味著從內(nèi)測至今,文心一言在高頻場景下的推理性能已提升50倍。

  技術加碼,大模型性能成倍提升

  百度智能云副總裁朱勇表示,大模型技術的發(fā)展,給AI研發(fā)和應用的范式帶來了深遠影響,主要體現(xiàn)在:

  >>模型訓練:AI應用中的模型訓練從以往單任務的定制化建模變成了跨任務、跨模態(tài)、跨語言的統(tǒng)一建模;

  >>交互方式:人機交互方式發(fā)生了顛覆性轉變,由過去人去適應機器,變成機器來適應人;>>研發(fā)模式:很多應用問題從之前的針對性編程解決變成數(shù)據(jù)驅動方式解決;

  >>調(diào)度能力:大模型分解和處理復雜問題的能力以及調(diào)起和執(zhí)行外部插件的能力組合,進一步拓寬了大模型的應用空間。

  這些范式的變革,意味著產(chǎn)品開發(fā)效率更高、應用效果更好、用戶體驗更優(yōu),也意味著產(chǎn)品創(chuàng)新的速度會大幅提升。

  面對大模型時代的變革以及客戶與伙伴研發(fā)應用的需求,基于云智一體3.0中的核心技術與產(chǎn)品組件,百度智能云打造出全球首個一站式企業(yè)級大模型平臺——文心千帆大模型平臺。它可以為企業(yè)提供包括文心一言在內(nèi)的大模型服務,同時也支持第三方大模型,提供開發(fā)AI應用的各種工具鏈及整套環(huán)境。

  而搭載云智一體新一代計算基礎設施——百度AI大底座的能力,文心千帆大模型平臺具備業(yè)界領先的性能指標,其中千卡并行加速比超過90%,訓練場景資源利用率可達70%以上,模型開發(fā)迭代效率提升100%以上。早在2021年,百度智能云就已經(jīng)在規(guī)劃全新的高性能GPU集群建設,并于2022年4月落地了可以容納萬卡以上規(guī)模的IB網(wǎng)絡架構設計,提供單集群EFLOPS級別的算力。該集群支持了文心一言的快速面世,并支撐其在兩個月的時間里在高頻場景下的推理性能提升50倍。

  搜索增強,內(nèi)容生成場景更加精準

  百度智能云致力于為企業(yè)提供一個使用、研發(fā)或應用大模型的最好環(huán)境,成為客戶擁抱AI的最佳途徑,讓企業(yè)和開發(fā)者以最簡單的方式用上大模型、用好大模型。

  針對實際業(yè)務場景中,借助大模型生成內(nèi)容信息來源權威性和準確性難以判定的核心痛點,文心千帆大模型平臺通過“搜索增強”插件,使模型的能力得到進一步拓展,將通用知識和企業(yè)知識、行業(yè)知識有機結合,助力企業(yè)一鍵生成符合業(yè)務需求的優(yōu)質內(nèi)容。

  現(xiàn)場,故事大腦創(chuàng)始人、清華大學授課嘉賓戚澤明向大家展示了協(xié)同文心千帆大模型平臺測試中的“故事大腦demo”,并從故事檢索、加工與生成以及最終成為應用等方面介紹了搜索增強插件的效果。

  接入搜索增強插件的文心千帆大模型平臺,在企業(yè)搜索場景下,可以結合企業(yè)內(nèi)部知識有效理解員工業(yè)務需求,更好地進行知識生成、查詢、摘要分析,幫助員工更快速更便捷獲取關鍵信息;在文本創(chuàng)作場景下,可以將單天創(chuàng)作時間縮短到小時級甚至分鐘級,進而實現(xiàn)降本增效。

  升級再造,加速應用全面智能化

  百度智能云不僅較早完成了大模型平臺服務的技術和產(chǎn)品布局,也推動了大模型產(chǎn)業(yè)的大規(guī)模實踐;谖男拇竽P,百度智能云全面升級六大智能產(chǎn)品系列,包括:政務、金融、智能創(chuàng)作、智能客服、數(shù)字人直播平臺、企業(yè)知識管理等,未來將在安全評估完成后上線。以智能客服為例,基于大模型升級后,知識生產(chǎn)效率提升9倍,多輪對話構建成本下降65%,可讓終端用戶獲得更聰明、更擬人的客服體驗。

  在百度內(nèi)部,大模型已經(jīng)在搜索、短視頻、地圖、小度等各個實際場景中內(nèi)測,準確率、召回率、滿意度等關鍵產(chǎn)品指標都有大幅提升。百度網(wǎng)盤企業(yè)版也將基于文心大模型升級三大企業(yè)應用:

  >>在“智能文件管理”方面,將面向企業(yè)辦公常用的合同票據(jù)、設計素材等57個場景定制分類標簽,實現(xiàn)企業(yè)文件的快速管理與查找;

  >>在“智能知識理解”方面,結合文心一言的“企業(yè)知識官”服務正在內(nèi)測中,未來可通過對話式交互,對企業(yè)文件進行總結、提煉、翻譯、格式轉化;

  >>除文檔、文本相關應用外,“智能多模態(tài)加工”可實現(xiàn)商業(yè)級的圖像處理,對人像、物品進行一鍵AI摳圖、修圖、換背景。

  面向有技術開發(fā)能力的企業(yè),通過智能化服務和網(wǎng)盤基礎的存儲和傳輸能力,百度網(wǎng)盤還可為攝影、教育、電商等多賽道提供靈活調(diào)用、貼近場景行業(yè)解決方案。

  自文心一言啟動內(nèi)測后,我們已收到超15萬客戶與伙伴的接入申請,目前參與內(nèi)測的生態(tài)伙伴超過300家,包括工業(yè)、金融、政務、互聯(lián)網(wǎng)、運營商、教育等行業(yè)的頭部伙伴。文心千帆大模型平臺也已深入到辦公提效、知識管理、智能客服、智能營銷等超過400個具體場景中進行研發(fā)測試,并取得許多非常有價值的測試效果。金蝶軟件有限公司蒼穹平臺解決方案事業(yè)部總經(jīng)理徐昊表示,在中國這個大環(huán)境下,有中國自己的產(chǎn)品跟中國企業(yè)結合,去為中國的用戶服務,這個大模型(文心大模型)我們認為是可以打造出一流的智能管理系統(tǒng)的。

  人工智能作為新一輪產(chǎn)業(yè)和技術革命重要驅動力量,未來發(fā)展前景廣闊。百度智能云愿攜手客戶與伙伴共享大模型時代的技術紅利,挺進產(chǎn)業(yè)智能化的“深水區(qū)”,推動國內(nèi)AI生態(tài)健康、有序的發(fā)展。

【免責聲明】本文僅代表作者本人觀點,與CTI論壇無關。CTI論壇對文中陳述、觀點判斷保持中立,不對所包含內(nèi)容的準確性、可靠性或完整性提供任何明示或暗示的保證。請讀者僅作參考,并請自行承擔全部責任。

相關閱讀:

專題

CTI論壇會員企業(yè)