百度智能云发布千帆大模型平台2.0:模型数量增至42个
9月5日消息,2023百度云智大會(huì)上,百度智能云千帆大模型平臺(tái)宣布實(shí)現(xiàn)2.0全面升級(jí),首次公布月活企業(yè)數(shù)已近萬家,覆蓋金融、制造、能源、政務(wù)、交通等行業(yè)的400多個(gè)業(yè)務(wù)場(chǎng)景。
相比過去,千帆平臺(tái)納管的國(guó)內(nèi)外主流大模型達(dá)到42個(gè),還預(yù)置了41個(gè)高質(zhì)量有行業(yè)特色的數(shù)據(jù)集,預(yù)裝了知識(shí)問答、客服對(duì)話、代碼助手等10個(gè)精選應(yīng)用范式,大幅降低企業(yè)使用、訓(xùn)練和推理大模型的門檻。對(duì)于除文心大模型之外的第三方大模型,千帆平臺(tái)不只是簡(jiǎn)單的接入,還提供中文增強(qiáng)、性能增強(qiáng)、上下文增強(qiáng)等能力。比如,原來要用英文對(duì)話效果才好的Llama2等國(guó)外大模型,現(xiàn)在用中文也一樣好。
工具鏈變得更豐富和更全面,也更加輕量化、敏捷化。過去客戶驗(yàn)證大模型的效果至少需要一周時(shí)間,現(xiàn)在基于一站式的工具鏈,只需一天就可以跑通一個(gè)模型并看到效果。值得關(guān)注的是,千帆平臺(tái)的工具鏈里內(nèi)置了103套高質(zhì)量的prompt模版,還有自動(dòng)化prompt工程能力,用戶做起來會(huì)更方便、更輕松。
算力服務(wù)升級(jí)后,萬卡集群訓(xùn)練大模型時(shí),有效訓(xùn)練時(shí)間達(dá)到95%以上,極大的降低了時(shí)間成本,加速比可以達(dá)到95%,充分釋放集群的整體算力。千帆平臺(tái)還兼容國(guó)內(nèi)外主流芯片和操作系統(tǒng),企業(yè)客戶的算法可以以最小的修改成本在這些硬件上運(yùn)行。
千帆平臺(tái)全面升級(jí)模型安全、內(nèi)容安全和數(shù)據(jù)安全保障能力。千帆平臺(tái)為不同模型廠商設(shè)計(jì)了可信的專用隔離域,重點(diǎn)保護(hù)模型資產(chǎn)安全。在內(nèi)容安全上預(yù)置安全模塊,可以有效控制輸入和輸出的安全風(fēng)險(xiǎn)。在數(shù)據(jù)安全方面,千帆平臺(tái)提供從模型、數(shù)據(jù)到日志的全鏈路加密,為模型廠商和用戶提供可信任的執(zhí)行環(huán)境。
“料多、好用、高效、放心”,百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖用四個(gè)關(guān)鍵詞形容百度智能云千帆大模型平臺(tái)2.0。(一橙)
總結(jié)
以上是生活随笔為你收集整理的百度智能云发布千帆大模型平台2.0:模型数量增至42个的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 无线网卡怎么用电脑如何使用无线网卡
- 下一篇: 特斯拉在美开放城市街道自动驾驶功能 国内