1月22日，百度發(fā)布并上線原生全模態(tài)大模型文心5.0正式版。該模型參數(shù)達(dá)2.4萬億，采用原生全模態(tài)統(tǒng)一建模技術(shù)，具備全模態(tài)理解與生成能力，支持文本、圖像、音頻、視頻等多種信息的輸入與輸出。目前，個(gè)人用戶可在文心APP、文心一言官網(wǎng)體驗(yàn)，企業(yè)與開發(fā)者可通過百度千帆平臺(tái)進(jìn)行調(diào)用。

　　據(jù)百度集團(tuán)副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心副主任吳甜介紹，與業(yè)界多數(shù)采用“后期融合”的多模態(tài)方案不同，文心5.0的技術(shù)路線采用統(tǒng)一的自回歸架構(gòu)進(jìn)行原生全模態(tài)建模，將文本、圖像、視頻、音頻等多源數(shù)據(jù)在同一模型框架中進(jìn)行聯(lián)合訓(xùn)練，使得多模態(tài)特征在統(tǒng)一架構(gòu)下充分融合并協(xié)同優(yōu)化，實(shí)現(xiàn)原生的全模態(tài)統(tǒng)一理解與生成。

　　此外，文心5.0采用超大規(guī)模混合專家結(jié)構(gòu)，具備超稀疏激活參數(shù)，激活參數(shù)比低于3%，在保持模型強(qiáng)大能力的同時(shí)，有效提升推理效率。同時(shí)，基于大規(guī)模工具環(huán)境，合成長程任務(wù)軌跡數(shù)據(jù)，并采用基于思維鏈和行動(dòng)鏈的端到端多輪強(qiáng)化學(xué)習(xí)訓(xùn)練，顯著提升了模型的智能體和工具調(diào)用能力。

　　基于強(qiáng)大的原生全模態(tài)統(tǒng)一建模技術(shù)，與2.4萬億參數(shù)的海量算力，“文心5.0”已具備讓AI應(yīng)用走進(jìn)真實(shí)行業(yè)與復(fù)雜場景，提供更高效解決方案的能力。全球AI行業(yè)經(jīng)歷過去幾年快速發(fā)展，正進(jìn)入一個(gè)新的快車道，但在AI應(yīng)用領(lǐng)域，以對話或文字輸入為主的Chatbot仍是主流形式。AI如何應(yīng)用于真實(shí)世界與行業(yè)，從而進(jìn)一步產(chǎn)生價(jià)值，是行業(yè)都在探索的方向。

　　作為國內(nèi)最早發(fā)布大模型的企業(yè)之一，百度正基于多年積累的技術(shù)實(shí)力，形成以芯片為底座，智能云為平臺(tái)框架，以模型支撐各類智能體應(yīng)用的“芯云模體”全棧自研生態(tài)閉環(huán)，持續(xù)探索賦能行業(yè)的AI解決方案。（張偉）

免責(zé)聲明：以上內(nèi)容為本網(wǎng)站轉(zhuǎn)自其它媒體，相關(guān)信息僅為傳遞更多信息之目的，不代表本網(wǎng)觀點(diǎn)，亦不代表本網(wǎng)站贊同其觀點(diǎn)或證實(shí)其內(nèi)容的真實(shí)性。如稿件版權(quán)單位或個(gè)人不想在本網(wǎng)發(fā)布，可與本網(wǎng)聯(lián)系，本網(wǎng)視情況可立即將其撤除。