縮放定律的放緩帶來的技術(shù)路徑演變

在 2024 年的 NeurIPS 會(huì)議上，Ilya Sutskever 提出了一系列關(guān)于人工智能發(fā)展的挑戰(zhàn)性觀點(diǎn)，尤其集中于 Scaling Law 的觀點(diǎn)：「現(xiàn)有的預(yù)訓(xùn)練方法將會(huì)結(jié)束」，這不僅是一次技術(shù)的自然演進(jìn)，也可能標(biāo)志著對(duì)當(dāng)前「大力出奇跡」方法的根本性質(zhì)疑。

Ilya 討論了預(yù)訓(xùn)練模型的局限性，預(yù)見 AI 系統(tǒng)需要發(fā)展出更加接近人類思考方式的推理能力。他強(qiáng)調(diào)，為了突破當(dāng)前的局限并繼續(xù)提升 AI 的能力，必須尋找新的訓(xùn)練方法。這意味著，基于語言單一模態(tài)的大模型能力已經(jīng)逼近上限?；诂F(xiàn)有的開源路線分析，商業(yè)社會(huì)想要尋求 AGI，必須將目光轉(zhuǎn)向多種模態(tài)和推理過程。

商業(yè)領(lǐng)域?qū)θ斯ぶ悄芄镜钠瞄_始出現(xiàn)范式轉(zhuǎn)換

知名數(shù)據(jù)分析機(jī)構(gòu) CB Insights 發(fā)布的「2024 年第三季度全球人工智能投融資報(bào)告」顯示，該季度全球人工智能交易數(shù)量環(huán)比激增 24%，但融資實(shí)際上環(huán)比下降了 29%，主要?dú)w因于單筆融資金額超過 10 億美元的「巨額交易」數(shù)量環(huán)比下降了 77%。報(bào)告指出，這反映了當(dāng)前市場對(duì)中小規(guī)模、高潛力初創(chuàng)企業(yè)的偏好轉(zhuǎn)變，投資者更加關(guān)注具有創(chuàng)新技術(shù)和可擴(kuò)展商業(yè)模式的企業(yè)。

作為專業(yè)的人工智能媒體與產(chǎn)業(yè)服務(wù)平臺(tái)，機(jī)器之心于 2017 年發(fā)布了 AI 榜單「Synced Machine Intelligence Awards」，在隨后的時(shí)間里，伴隨 AI 的跨越式發(fā)展，機(jī)器之心的年度評(píng)選也逐漸成為了產(chǎn)業(yè)風(fēng)向標(biāo)之一，其中，機(jī)器之心 2024 年度評(píng)選中的「大模型最具潛力創(chuàng)業(yè)企業(yè) TOP 10」，旨在表彰技術(shù)創(chuàng)新能力強(qiáng)、團(tuán)隊(duì)領(lǐng)先、已經(jīng)推出大模型或擁有完整大模型研發(fā)能力的創(chuàng)業(yè)企業(yè)。

其中名列「大模型最具潛力創(chuàng)業(yè)企業(yè)」榜單首位的貝式計(jì)算，其產(chǎn)品 OpenBayes 可能是是中國最受歡迎的 GPU 計(jì)算系統(tǒng)之一，擁有超過 17 萬注冊(cè)科研人員和過百個(gè)集群私有部署客戶。

2024 年第三季度，緊跟多模態(tài)大模型升級(jí)趨勢(shì)，OpenBayes貝式計(jì)算基于集群構(gòu)架、編譯器、模型結(jié)構(gòu)等領(lǐng)域的多項(xiàng)創(chuàng)新與技術(shù)，推出了多模態(tài)模型貝式小算，結(jié)合了先進(jìn)的視覺理解和語言生成技術(shù)，能夠同時(shí)處理和分析多種形式的數(shù)據(jù)，包括靜態(tài)圖片和動(dòng)態(tài)視頻。

模型性能方面，得益于OpenBayes貝式計(jì)算近年來在編譯器技術(shù)領(lǐng)域的積累，貝式小算可天然運(yùn)行在 Nvidia、ARM 以及多種國產(chǎn)芯片上，同時(shí)擁有較高的計(jì)算精度和計(jì)算效率。該模型在MME-Realworld 等評(píng)測中取得了優(yōu)異的成績，是前列排名中為數(shù)不多的初創(chuàng)企業(yè)之一。

*MME-RealWorld 是迄今為止已知最大的完全人工標(biāo)注基準(zhǔn)，擁有超 1.3 萬平均像素為 2,000 × 1,500 的高分辨率圖像，收集了更多關(guān)于中國的真實(shí)場景圖片，評(píng)測任務(wù)相較傳統(tǒng)基準(zhǔn)難度更大。

以此為基礎(chǔ)，OpenBayes貝式計(jì)算賦能企業(yè)客戶，已經(jīng)為十余個(gè)私有部署用戶提供了高效可靠的大模型服務(wù)，該多模態(tài)模型成功落地于衛(wèi)星遙感、醫(yī)療影像、法律財(cái)務(wù)、文件表格互譯等生產(chǎn)場景。

舉例而言，在中國科學(xué)院某研究所，OpenBayes貝式計(jì)算為該院所級(jí)高性能計(jì)算集群的百余名學(xué)者與工程師用戶提供了完備的 AI+HPC 計(jì)算體驗(yàn)。工科研究者可以通過同一套計(jì)算系統(tǒng)無縫連接各類 HPC 應(yīng)用與 AI 計(jì)算框架，通過統(tǒng)一的數(shù)據(jù)流轉(zhuǎn)流程，使得工科領(lǐng)域相關(guān)計(jì)算結(jié)果可以無縫連接 AI 的最佳實(shí)踐，進(jìn)而加速了 AI 在諸多工科領(lǐng)域的研究效率。

值得一提的是，就在 2024 年 11 月 28 日，OpenBayes貝式計(jì)算還入選了 36氪評(píng)選的「WISE2024 商業(yè)之王年度最具商業(yè)潛力企業(yè)」。如今再度獲評(píng)機(jī)器之心「大模型最具潛力創(chuàng)業(yè)企業(yè) TOP 10」，可以說是對(duì)公司發(fā)展空間的高度認(rèn)可。

從人工智能技術(shù)落地的角度來看，OpenBayes貝式計(jì)算擁有 17 萬注冊(cè)科研人員和過百個(gè)集群私有部署客戶，是公司創(chuàng)新技術(shù)與解決方案落地應(yīng)用的最佳渠道，其中包括清華大學(xué)、北京大學(xué)、北京郵電大學(xué)、天津大學(xué)、上海交通大學(xué)、中國科學(xué)院等頭部科研院所，以及招商局集團(tuán)、南方電網(wǎng)、遼港集團(tuán)、粵能能源等重點(diǎn)頭部公司。OpenBayes貝式計(jì)算的商業(yè)化潛力已經(jīng)初步獲得驗(yàn)證，是否能夠如期兌現(xiàn)，仍然需要時(shí)間來證明。