界面新聞記者 | 伍洋宇

界面新聞編輯 | 文姝琪

9月6日，在由界面新聞主辦的2024 REAL科技大會上，上海人工智能研究院總工程師王資凱發表了《前沿技術發展與治理路徑》主題演講。

上海人工智能研究院是由上海市政府和上海交通大學市校共建的新型研發機構，成立于2019年世界人工智能大會。在過去發展的四五年歷程中，研究院已逐步形成全面的技術研發和產業轉化的能力，目前已孵化二十余家細分領域初創公司，整體估值超過100億人民幣。 

王資凱首先就新一代AI技術的科研與實際應用的差別進行了論述。例如，科研論文或報告更關注最佳性能SOTA，采用靜態數據和封閉問題集，公平性和可解釋性的重要程度不那么突出，而實際應用則幾乎完全不同，產品的落地更注重比已有模型略好即可，其使用數據也在不斷變化，并且格外重視公平性和可解釋性。

這決定了科研與實際應用的難點和亮點也大相徑庭。科研論文的難度在于建模，即怎么把現實問題描繪成復雜的數學問題，而實際應用更多討論的是復雜的工程實現。從亮點角度講，產品落地講究的是穩定，科研論文則要突出精挑細選的結果。

在不斷推進科研和實際應用的同時，王資凱也指出了新一代AI技術自身尚存的缺陷。

他表示，當前AI技術還存在多個問題，使其無法開箱即用，例如高質量的訓練數據、高昂的推理成本、龐大的算力需求、推理速度限制、無法滿足垂直領域安全性和可解釋性要求的黑盒體質，以及幻覺導致的“亂講話”等。

這每一個缺陷的背后都對應著巨大的技術和投資機遇。在應對方法上，王資凱提出，行業可以針對不同場景和用戶需求打造不同的解決方案，例如制作產業數據集、產業領域細分垂類小模型，以模型即服務的商業模式服務小中型企業，針對細分領域去推測試集，做高性能的邊緣側推理設施，以及圍繞細分場景做可控生成和結合增強等等。

在推動技術發展的同時，技術監管問題也不可避免。王資凱表示，這背后的根本原因是新一代AI技術帶來了許多爭議。他提到了去年發生在美國的一份針對微軟和OpenAI的集體訴訟，可能對整個世界范圍內大模型的監管和治理產生深遠影響。

同時，他也提到了近期引起強烈爭議的美國加州“SB 1047法案”，也即“前沿人工智能模型安全創新法案”。

王資凱認為，“SB 1047法案”可能成為人工智能治理的重要節點。該法案不僅提及了法律責任和“合理關懷”這一概念，也覆蓋系統安全與審查、監管機制、法律框架與執法、公眾和利益相關者的參與、未來可能出現的調整與更新等多個維度。

“我認為加州的SB 1047法案提到了各種各樣的安全標準、風險評估、測試程序，這套流程其實值得我們學習，這是中國和美國治理路徑的少許差異。”王資凱說。

他就此回顧了中國在相關領域的技術監管進程。從2023年4月網信辦發布的《生成式人工智能服務管理辦法（征求意見稿）》，到2023年7月國家網信辦聯同國家發改委、教育部、科技部、工信部、公安部、廣電總局共同發布的《生成式人工智能服務管理暫行辦法》，王資凱認為中國在該領域的監管辦法質量有了很高的提升，“我認為這部立法是中國甚至世界人工智能治理節點性的事件。”

他也由此比較了中美在大模型治理領域面臨的差異，包括網絡速度和覆蓋范圍、數據中心規模、網絡安全和隱私保護、能源價格以及用戶習慣等。他具體提到，中國有非常強大的4G和5G能力，能源價格的差異會牽扯到訓練和推理成本，國內企業的SaaS習慣也還有所欠缺，這些差異或將導致中美人工智能落地路徑和環境的不一致。

面向中美在新一代AI技術上的未來競爭，王資凱認為上海和長三角在人才、科研產出以及產業鏈方面都具備獨特優勢。

如果以上海為中心，以200公里為半徑畫一個圓圈，范圍內有至少15家世界排名前500的學校，對應整體長三角范圍內的人口達到2.3億，每年可能為市場供給至少上萬名人工智能專業相關的畢業生，這是非常強的人才動力。相比之下，美國灣區只有不到800萬人，人才供給并沒有長三角旺盛，不過美國的移民機制每年會幫助它吸引大量人才。

王資凱最后總結到，新一代AI技術的治理需要各個國家的探索和判例，面向未來。上海和長三角既具備豐富的場景和機遇，同時也會在各種實際案例中存在挑戰。