<nav id="4uuuu"></nav>
  • <tr id="4uuuu"></tr>
  • <tr id="4uuuu"></tr>
  • <tfoot id="4uuuu"><dd id="4uuuu"></dd></tfoot>
    • <noscript id="4uuuu"><optgroup id="4uuuu"></optgroup></noscript>

      久久精品福利网站免费,亚洲色大情网站WWW在线观看,久久水蜜桃网国产免费网手机 ,男女性高视频免费观看国内,老色鬼第一页av在线,久久久久精品婷婷

      新V觀海外:生成式AI走入“大”和“小”的分岔口

      陳沛2024-02-19 13:17

      陳沛/文 最近生成式AI發(fā)展路線的分岔情況愈演愈烈,“大”和“小”的路線之爭(zhēng)正在登上舞臺(tái)中心。

      在“大”的路線上,OpenAI的CEO拋出了7萬億美元的籌款計(jì)劃,籌建滿足未來AI開發(fā)算力需求的半導(dǎo)體工廠。7萬億相當(dāng)于全球GDP的近十分之一,耗這么大投入全給AI,至于嗎?很明顯,OpenAI的CEO認(rèn)為至于。

      而在“小”的路線上,前兩年的谷歌Gopher、英偉達(dá)MT-NLG這些高達(dá)幾千億個(gè)參數(shù)的大模型似乎沒了更新,反倒是谷歌最近發(fā)布了面向個(gè)人AI開發(fā)者的函數(shù)庫(kù)localllm,開發(fā)者只要在谷歌云開發(fā)環(huán)境中使用本地CPU和內(nèi)存就能執(zhí)行量化模型,免去對(duì)GPU計(jì)算資源的依賴。同時(shí),華為也發(fā)布了面向移動(dòng)設(shè)備端的10億參數(shù)小模型的研究成果。

      怎么看待這一趨勢(shì)變化背后的深意?一味追求更大規(guī)模模型的發(fā)展路線要轉(zhuǎn)向了嗎?

      其實(shí)沒有轉(zhuǎn)向,因?yàn)槟P捅旧淼男再|(zhì)就決定了大參數(shù)的表現(xiàn)要更好。在GPT-1出來之前,業(yè)界通常能做一個(gè)百萬至千萬參數(shù)級(jí)別的模型,那會(huì)像谷歌的BERT模型能做到1億參數(shù)量就讓人覺得是天量了。直到后來GPT-3直接做到千億級(jí)別,模型的輸出才實(shí)現(xiàn)了質(zhì)的飛躍。

      但是這么大參數(shù)的模型的開發(fā)運(yùn)行就意味著更大的成本,預(yù)訓(xùn)練階段一次就是幾千個(gè)GPU運(yùn)行十幾天,而到推理階段又是幾十個(gè)GPU維持日常推理需求。結(jié)合云GPU服務(wù)商現(xiàn)在3至4美元一小時(shí)的價(jià)格,再粗略算上日常運(yùn)營(yíng)的基礎(chǔ)成本,一年的成本至少就奔著數(shù)百萬美元去了。

      所以在實(shí)際的成本情況下,再考慮到還看不清楚的投入回報(bào),是否還要一味追求更大規(guī)模的模型,就會(huì)出現(xiàn)遲疑和權(quán)衡。

      目前的現(xiàn)狀是,現(xiàn)在ChatGPT的應(yīng)用讓用戶和企業(yè)都看到了生成式AI在商業(yè)領(lǐng)域的可能性,但付費(fèi)用戶除了日常不定期使用再?zèng)]找到增加用量的機(jī)會(huì),企業(yè)試用后還沒有充分印證投入回報(bào)比,對(duì)于性能表現(xiàn)和數(shù)據(jù)隱私方面的疑慮也沒有被完全打消。

      也正是因?yàn)檫@種現(xiàn)狀,才讓各方積極推動(dòng)生成式AI模型在移動(dòng)設(shè)備和個(gè)人開發(fā)平臺(tái)上的適配,把模型做小做快,在性能上進(jìn)行折中,降低開發(fā)門檻,期望能出現(xiàn)新的殺手級(jí)應(yīng)用。

      我能觀察到,大模型和小模型之間的競(jìng)爭(zhēng)合作將會(huì)構(gòu)成生成式AI發(fā)展進(jìn)程中的雙重引擎。大模型在持續(xù)引領(lǐng)和擴(kuò)展技術(shù)邊界,小模型則以輕量高效和專注特定任務(wù)的能力體現(xiàn)應(yīng)用價(jià)值。這種動(dòng)態(tài)競(jìng)爭(zhēng)也為應(yīng)用開發(fā)者提供了多樣化的選擇,加速推出更智能、更個(gè)性化的生成式AI應(yīng)用。

      熱新聞

      久久精品福利网站免费
      <nav id="4uuuu"></nav>
    • <tr id="4uuuu"></tr>
    • <tr id="4uuuu"></tr>
    • <tfoot id="4uuuu"><dd id="4uuuu"></dd></tfoot>
      • <noscript id="4uuuu"><optgroup id="4uuuu"></optgroup></noscript>