文心與飛槳聯合優化 降推理成本
人工智能大型語言模型推出予公眾應用已有一年半時間,對於文心模型的發展主要會遇什麼挑戰,百度(9888)首席技術官王海峰表示,技術仍在快速發展,產業應用也處於早期階段,無論是技術上,還是實際應用都面臨挑戰。不少投資者關注模型營運成本,王海峰表示通過飛槳與文心模型的聯合優化,至去年底文心一言的推理成本已降至去年3月推出時的1%。
技術上,王海峰表示,百度自2010年起開始發展人工智能技術,在自然語言處理、知識圖譜、語音、計算機視覺、機器學習與深度學習等方向上都有深厚技術積累,加上該行在晶片、框架、模型和應用四個層面都有佈局,有助支持研發文心模型。
如何將模型產業化成挑戰
在應用方面, 王海峰則認為挑戰會來自如何將模型產業化,因為模型體積大,訓練難度高;算力規模大,性能要求高;數據規模大,數據質量參差不齊。在產業實踐上,百度會以「集約化生產,平台化應用」的大模型產業模式,將複雜的模型生產流程封裝,通過低門檻、高效率的生產平台,為不同行業提供大模型服務,並通過應用和用戶反饋,增強文心模型能力,進而降低模型及人工智能原生應用開發門檻,形成良性循環。