2023稀土掘金創新論壇在京舉辦 探討技術革新的機遇與挑戰

本次創新論壇通過主論壇（上午場，公開直播）及掘金閉門會（下午場，閉門交流）兩大環節，不僅可以讓參會者提升技術視野，同時也給予了相應參會者深度探討和交流的機會。

來自AMD公司中國區數據中心業務部產品及市場總監曲大健作為開場嘉賓帶來了《卓越算力，引領新一代數據中心和AI技術》分享。在會議上，他首先從AMD的公司使命和愿景出發，詳細闡述了產品不斷改進和提升算力的重要性。接著，他從“多”、“快”、“好”、“省”四個角度全面介紹了第四代EPYC處理器。他特別強調了第四代EPYC處理器在云計算功能和CPU單核性能上的領先地位。此外，他還從成本的角度出發，指出這次的第四代EPYC處理器相較于以往產品，能夠節省每年能源成本、減少占用空間、減少網絡端口和線纜的使用，同時還能保持10%的性能提升。

上海人工智能實驗室青年科學家陳愷帶來了《書生·浦語大模型全鏈條開源體系》的主題演講。會上他簡單介紹了書生·浦語大模型從6月7日發布至今的開源歷程。陳愷強調，目前20B開源大模型的性能已經全面領先相近量級的開源模型，并以不足三分之一的參數量，達到了Llama2-70B的水平，并可免費商用。

同時，陳愷還向開發者們詳細介紹了書生·浦語全鏈條開源開放體系所覆蓋的六大環節。首先，在數據環節，上海人工智能實驗室開源了多模態語料庫書生·萬卷，數據總量超過2TB。其次，在預訓練環節，開源了InternLM-Train預訓練框架，支持了書生·浦語大模型的千卡級高效訓練。在微調環節，陳愷介紹了不同微調方法，以及低成本微調框架XTuner。接下來是評測環節，介紹了國內外整體的評測情況以及社區最全面的開源評測體系OpenCompass。在部署環節，陳愷展示了如何將書生·浦語大模型部署到實際應用中，并介紹了大模型推理部署框架LMDeploy的優勢。最后是應用環節，介紹了基于大語言模型的智能體應用方案，和輕量靈活的智能體框架Lagent。

智聯招聘集團ALG執行副總裁蔡白銀帶來的演講主題是《AI 時代的人力資源生態鏈重塑》。會上他分享了來自北京大學國家發展研究院與智聯招聘聯合發布的《AI大模型對我國勞動力市場潛在影響研究報告》內容。據研究團隊構建的"基于工作任務的大語言模型影響指數"顯示，影響指數最高的20個職業主要是白領工作，共同特點是需要處理大量文本和資料整理等知識性任務，而這正是大語言模型人工智能的強項。但同時AI的發展也產生了許多新興崗位。他強調人工智能的進步重塑了人力資源生態鏈，幫助了企業組織進行人才升級，并對AI未來為人力資源帶來的改變充滿期待。

Dify.AI 聯合創始人兼產品VP 延君晨，為開發者帶來了題為《 LLMs App 技術棧與工作流實踐 101 》的主題演講。他圍繞大語言模型落地應用的現狀，提出并回答了以下三個問題:

1. 關于應用創新是否有配方，他強調要抓住機遇快速交付價值，沒有所謂的平均機會和低垂的果實。

2. 關于工程落地是否有范式，他認為優秀的大模型基礎設施可以極大降低落地門檻。

3. 最后關于組織協作問題，他看好提示詞工程在R&D領域的發展，并展望未來人與AI能建立互信合作。

BentoML 創始人、CEO 楊超予帶來了《OpenLLM: 開源大語言模型的推理與部署實踐》的主題演講。會上他指出，在AIGC飛速發展的時代，可以通過三個方面來判斷市面上琳瑯滿目的開源 LLM的質量：一是它能否滿足特定領域的模型需求、二是它是否能保證數據的安全，最后是能否用低成本去獲取高收益。除此之外他強調了針對目前大模型落地目前還面臨著五個挑戰，分別是實操性、拓展性、吞吐量、端對端的延遲以及成本問題。對于這些挑戰他總結出一個有價值的openLLM是如何去解決這些問題。

面對AI的革新可能會引發一些擔憂和不確定性，主論壇圓桌環節5位嘉賓就時下開發者關心的一些落地場景、商業模式、業務創新等問題，通過不同業務視角，深度探討了應對之道。

在未來的日子里，稀土掘金技術社區將會始終如一地為企業和技術人員提供一個交流觀點、碰撞思想的平臺，以實現雙向賦能。2023年，稀土掘金將繼續堅持以開發者為核心，努力將產業的上下游緊密連接起來，與各行業共同迎接技術發展的新時代。

關鍵詞：