李彥宏表示，通過(guò)定向微調(diào)，可以在百度內(nèi)外部各類產(chǎn)品上逐步展示出驚人的親和力 ， 讓每一個(gè)產(chǎn)品離自己的用戶和客戶更近 。文心一言這樣的大語(yǔ)言模型，會(huì)成為每個(gè)人必不可少的生產(chǎn)力工具 。不過(guò)，無(wú)論是哪家公司，都不可能靠突擊幾個(gè)月就能做出這樣的大語(yǔ)言模型 。深度學(xué)習(xí)、自然語(yǔ)言處理，需要多年的堅(jiān)持和積累，沒(méi)法速成 。
“人類進(jìn)入人工智能時(shí)代 ， IT技術(shù)的技術(shù)棧發(fā)生了根本性變化 。過(guò)去基本分為三層：芯片層，操作系統(tǒng)層和應(yīng)用層 。現(xiàn)在可以分為四層：芯片層、框架層、模型層和應(yīng)用層 ?！彼榻B說(shuō)，“今天，百度是全球?yàn)閿?shù)不多、在這四層進(jìn)行全棧布局的人工智能公司，從高端芯片昆侖芯 ， 到飛槳深度學(xué)習(xí)框架，再到文心預(yù)訓(xùn)練大模型，到搜索、智能云、自動(dòng)駕駛、小度等應(yīng)用，各個(gè)層面都有領(lǐng)先業(yè)界的自研技術(shù) 。”
文心一言位于模型層 。2019年 ， 百度推出了文心大模型ERNIE 1.0 。目前，ERNIE 3.0每天接受數(shù)十億次用戶的搜索請(qǐng)求 。這讓文心一言能夠基于一個(gè)龐大的、高效的數(shù)據(jù)池 ， 快速地學(xué)習(xí)和改進(jìn) 。
“大模型訓(xùn)練堪稱暴力美學(xué)，需要有大算力、大數(shù)據(jù)和大模型，每一次訓(xùn)練任務(wù)都耗資巨大 。全棧布局的優(yōu)勢(shì)在于，可以在技術(shù)棧的四層架構(gòu)中，實(shí)現(xiàn)端到端優(yōu)化 ， 大幅提升效率 。尤其是，框架層和模型層之間，有很強(qiáng)的協(xié)同作用，可以幫助構(gòu)建更高效的模型，并顯著降低成本 。事實(shí)上，超大規(guī)模模型的訓(xùn)練和推理，給深度學(xué)習(xí)框架帶來(lái)了很大考驗(yàn) 。比如，為了支持千億參數(shù)模型的高效分布式訓(xùn)練 ， 百度飛槳專門研發(fā)了 4D 混合并行技術(shù) 。”李彥宏介紹道 。
“另外，芯片、框架、大模型和終端應(yīng)用場(chǎng)景，可以形成一個(gè)高效的反饋閉環(huán) ， 幫助大模型不斷去調(diào)優(yōu)迭代，越做越好 。更好的大模型，會(huì)讓用戶體驗(yàn)不斷升級(jí) ?！?br />
【大數(shù)據(jù)是哪個(gè)公司先提出來(lái)的 大數(shù)據(jù)誰(shuí)開發(fā)的】最后，李彥宏強(qiáng)調(diào)：“在全球范圍內(nèi)，在四層架構(gòu)的每一層都有領(lǐng)先產(chǎn)品的公司幾乎沒(méi)有 ， 百度的優(yōu)勢(shì)非常獨(dú)特，相信大家會(huì)在后續(xù)文心的迭代速度上有明顯感受 。”
推薦閱讀
- 上海HAUS是什么 上海haus是什么牌子
- the history of whoo什么牌子the history of whoo是什么牌子
- 夢(mèng)到死人對(duì)著自己笑 夢(mèng)到死人對(duì)著自己笑是好還是不好
- 什么裙子什么頭發(fā)是什么梗 啥意思
- 綠豆生長(zhǎng)的第二天是什么樣子，綠豆生長(zhǎng)第二天圖片
- 吉他六根弦是什么 吉他六根弦是什么音
- 醒膚水和爽膚水有什么區(qū)別 醒膚水和爽膚水的區(qū)別是什么
- 美瞳線暈色的處理方法 美瞳線暈色的處理方法是什么
- 股市上漲與下跌的原理 股市上漲下跌的本質(zhì)是什么
- 2022莆田第二中學(xué)錄取分?jǐn)?shù)線是多少？